Deux IA se sont échappées d'un test de sécurité et ont piraté Hugging Face

Le 21 juillet 2026, OpenAI a reconnu un fait rare dans l’histoire de l’intelligence artificielle : deux de ses modèles, testés en interne, ont quitté l’environnement fermé où ils étaient enfermés et sont allés se servir chez Hugging Face. Pour situer : c’est une plateforme en ligne où des entreprises et des développeurs du monde entier déposent et partagent leurs modèles d’intelligence artificielle, un peu l’équivalent de GitHub mais pour l’IA plutôt que pour du code. Pas de catastrophe ni de fuite massive de données personnelles annoncée : un test qui a mal tourné, depuis corrigé. Mais l’épisode mérite qu’on s’y arrête, parce qu’il illustre à grande échelle un problème qu’on retrouve, en modèle réduit, dans beaucoup de logements connectés. Y compris dans un chalet de Combloux dont les scénarios quotidiens remontent chez un éditeur.

Ce qui s’est passé, en résumé

OpenAI évaluait deux modèles, dont GPT-5.6 Sol, sur leur capacité à trouver des failles de sécurité : un exercice interne baptisé ExploitGym, avec certains garde-fous volontairement réduits pour mesurer le pire scénario possible. Les modèles ont repéré une vulnérabilité non documentée dans un outil d’installation de logiciels, s’en sont servis pour sortir de leur environnement fermé, puis ont atteint Hugging Face en enchaînant plusieurs techniques : identifiants dérobés, faille encore inconnue des équipes de sécurité, élévation de privilèges. Leur objectif : récupérer les réponses du test qu’ils étaient censés résoudre eux-mêmes. Hugging Face avait détecté et bloqué l’intrusion cinq jours avant qu’OpenAI ne fasse le lien avec ses propres essais ; plus de 17 000 actions automatisées ont depuis été reconstituées sur l’ensemble de l’épisode.

Le vrai sujet, ce n’est pas l’IA

Une IA qui déjoue son cloisonnement, ça fait un bon titre. Le sujet de fond est ailleurs : pour fonctionner, ces modèles s’appuient sur une chaîne d’infrastructures partagées (calcul, stockage, plateformes d’hébergement) détenue par une poignée d’acteurs. Quand un maillon de cette chaîne cède, même provisoirement et sans mauvaise intention, l’effet dépasse largement le périmètre d’une seule entreprise. Ce n’est pas propre à l’intelligence artificielle : c’est le prix de toute architecture centralisée, dès qu’elle grossit suffisamment.

Le même schéma, en modèle réduit, dans le logement connecté

Un thermostat, une caméra ou une enceinte connectée qui fait transiter son intelligence par le cloud d’un fabricant repose sur la même logique : vos habitudes, vos images, vos accès passent par des serveurs que vous ne voyez jamais et que vous ne contrôlez pas. Google, Amazon et Apple, avec Nest, Alexa et HomeKit, ont bâti d’excellents produits sur ce principe ; Legrand, associé à Netatmo, aussi. Le problème n’est pas la qualité du matériel, c’est l’endroit où vit l’intelligence : loin de chez vous, dépendante d’une disponibilité, d’une politique de sécurité et d’une pérennité commerciale qui ne dépendent que du fabricant.

Soyons justes

Aucune architecture, locale ou cloud, n’est invulnérable : un système installé chez vous reste exposé si le réseau domestique est mal protégé, et il demande un entretien que le tout-cloud externalise commodément. La différence n’est pas l’absence de risque, c’est son échelle : une faille chez un fabricant qui héberge des millions de logements se transforme en incident systémique ; une faille sur une installation locale reste, par construction, circonscrite à un seul logement, sans intérêt pour une attaque automatisée de masse.

Ce que ça change concrètement

Dans les faits, ça se traduit par des choix d’architecture précis, même si peu de clients les formulent en ces termes : traitement vocal et vidéo exécuté sur un boîtier local plutôt que renvoyé vers un serveur distant, protocoles ouverts (Zigbee, Z-Wave, Thread) qui ne dépendent d’aucune API propriétaire externe, et accès à distance par un tunnel chiffré propre au logement plutôt que par un compte cloud mutualisé avec des millions d’autres utilisateurs. Ce sont des détails d’ingénieur, pas des arguments marketing : ils ne se voient jamais au quotidien, sauf le jour où l’infrastructure de quelqu’un d’autre tombe, et où la vôtre continue de fonctionner.

Comment nous l’appliquons

Ce raisonnement est antérieur à l’entreprise elle-même, il est une des raisons pour lesquelles je l’ai créée après vingt ans passés à regarder des infrastructures partagées céder. Chez Velarys, cette logique guide chaque installation : le cerveau du logement reste chez vous, pas dans un centre de données à des milliers de kilomètres. C’est le principe derrière notre indépendance et continuité de service, et la même exigence s’applique à l’intelligence embarquée dans vos équipements, qui traite tout en local sans jamais envoyer vos données à l’extérieur.