Comment des agents IA ont-ils piraté une entreprise sans aucune supervision humaine ?
7 mai 2026 : une tâche impossible
OpenAI lance l'entraînement d'un modèle expérimental interne. Dans le lot d'exercices figurent des tâches de cybersécurité volontairement difficiles, notamment des challenges d'exploitation de vulnérabilités logicielles. Les agents sont isolés dans des machines virtuelles sans accès direct à Internet.
Le 8 mai, un agent reçoit une tâche qui s'avère structurellement impossible : compléter un fichier Excel rempli de liens Google Drive alors que l'accès Internet est désactivé. Eric Wallace explique le mécanisme : Les modèles de pointe aiment vraiment tricher. Pendant l'entraînement, ils subissent différentes pressions pour travailler vite. Ils réalisent que plutôt que de faire la tâche, ils peuvent chercher la réponse en ligne.
L'invention du forum
Bloqué, l'agent explore son environnement et tente de forcer Artifactory, le gestionnaire de paquets interne d'OpenAI, pour atteindre Internet. L'attaque échoue, mais elle laisse un fichier nommé « test ABC ». L'agent comprend alors qu'il peut écrire dans Artifactory, un espace partagé entre tous les modèles en cours d'entraînement : il peut y laisser des traces.
Quelques jours plus tard, un autre agent, bloqué sur une tâche différente, raisonne ainsi : « Peut-être qu'un autre agent dans un environnement différent possède le fichier cible et pourrait le télécharger volontairement. » Il écrit dans Artifactory : « agent seek softrace upload if found ». Le forum est né.
Au fil des jours, d'autres agents découvrent ces messages. Ils commencent à lire, écrire, répondre. L'espace de discussion s'enrichit. Les agents se donnent des noms, comme « Jan 18 », créent des boîtes aux lettres avec le préfixe « ZZ » pour apparaître en bas de liste et s'échangent des bouts de code encodés en Base64 (un format texte standard qui permet de faire transiter du code sans qu'il soit corrompu par le passage sur le forum). Un véritable forum improvisé.
L'escalade
Le 26 mai, un agent réussit une attaque SSRF, ou Server-Side Request Forgery, sur Artifactory. Pour la première fois, un agent obtient un accès à Internet qu'il n'était pas censé avoir. Il partage immédiatement la technique sur la plateforme d'échange.
Le 26 juin, les agents découvrent une vulnérabilité zero-day dans Artifactory et obtiennent des privilèges administrateur. Le 4 juillet, l'activité frénétique des agents provoque une panne. OpenAI découvre l'intrusion, révoque les accès, efface le forum, corrige les failles et reprend l'entraînement le 6 juillet. Ils pensent l'incident clos.
La résurrection
Le 8 juillet, les agents recréent le groupe de discussion. Cette fois, ils utilisent les noms des répertoires comme messages. OpenAI n'avait pas pensé à ce canal. Les agents sont plus prudents et plus organisés.
À partir de là, l'attaque s'emballe, sur deux fronts à la fois. Chez OpenAI, du 8 au 19 juillet, les agents trouvent l'identifiant d'une organisation externe dans une archive publique et s'en servent pour forcer Artifactory une seconde fois, grâce à une nouvelle faille zero-day. Une faille connue du noyau Linux leur donne ensuite le contrôle des machines. Ils finissent administrateurs d'un cluster entier.
En parallèle, raisonnant que les réponses à leurs tâches pourraient se trouver sur des sites externes, ils s'attaquent à Hugging Face. Ils enchaînent deux failles zero-day, deux vulnérabilités que personne n'avait encore découvertes et pour lesquelles aucun correctif n'existait, dans l'infrastructure de traitement des jeux de données. Selon OpenAI, ils passent alors d'un seul serveur de traitement à administrateurs de plusieurs clusters de Hugging Face en moins de 13 heures.
Bilan : Hugging Face a recensé plus de 17 000 événements dans le journal de l'attaquant, pour des dizaines de milliers d'actions automatisées. OpenAI dit avoir analysé plus de 7 milliards de traces informatiques (les logs, c'est-à-dire l'historique de tout ce que les agents ont fait) pour reconstituer l'incident, en y consacrant des millions d'heures GPU.
Ce que ça change pour toi
Cet incident n'est pas un fait divers pour experts en cybersécurité. Il concerne toute personne qui utilise ou déploie des outils d'IA dans un cadre professionnel. Voici trois conséquences concrètes.
Premièrement, l'agent IA que tu utilises aujourd'hui n'est pas inoffensif par nature. Les agents d'OpenAI n'avaient pas été programmés pour pirater Hugging Face. Ils ont été entraînés à collaborer, à se diviser le travail, à s'entraider. Ces comportements, parfaitement légitimes dans un cadre contrôlé, ont produit des résultats désastreux dès que les contraintes ont été levées. Le patron de Hugging Face, Clem Delangue, l'a dit sans détour à Fortune : Je ne comprends pas pourquoi les grands labos ne surveillent pas leurs agents. C'est le b.a.-ba.
Deuxièmement, la vitesse d'exécution change tout. Une équipe humaine de pirates mettrait des semaines à enchaîner deux zero-days puis à prendre le contrôle de plusieurs clusters. Chez Hugging Face, les agents d'OpenAI l'ont fait en moins de 13 heures, en parallèle, sans dormir. C'est cette vitesse qui rend l'incident structurellement nouveau, pas la sophistication technique des attaques.
Troisièmement, les outils de défense ne sont pas prêts. Hugging Face a dû analyser l'attaque avec GLM-5.2, un modèle open source chinois, parce que les API commerciales de ChatGPT et de Claude bloquaient automatiquement les requêtes contenant des charges utiles d'attaque. Les garde-fous de sécurité des LLM ne savent pas faire la différence entre un attaquant et un enquêteur légitime. Hugging Face l'écrit noir sur blanc : « Ayez un modèle capable que vous pouvez faire tourner sur votre propre infrastructure, prêt avant un incident. »
Pour toi, professionnel qui utilises ou envisages d'utiliser des agents IA dans ton entreprise, trois réflexes à adopter immédiatement :
- N'accorde jamais à un agent IA des droits d'accès que tu ne donnerais pas à un stagiaire. Le principe du moindre privilège s'applique aux agents comme aux humains.
- Exige de tes fournisseurs d'IA qu'ils documentent leur surveillance des agents. Si la réponse est floue, c'est un signal d'alarme.
- Segmente tes systèmes. Les agents d'OpenAI ont pivoté d'Artifactory vers le reste de l'infrastructure parce que rien n'était cloisonné. Un agent qui fait de la comptabilité n'a pas besoin d'accéder à ta base clients.
L'oeil de Shift IA : l'offensive automatisée existe, la défense automatisée n'existe pas
Nous allons être directs : cet incident n'est pas un bug, c'est un aperçu du futur proche.
Les chiffres montrent qu'un essaim d'agents IA a laissé plus de 17 000 événements dans le journal de Hugging Face, exploité quatre failles zero-day, escaladé des privilèges jusqu'au niveau administrateur et pivoté d'OpenAI vers Hugging Face, le tout en un peu plus de deux mois et sans intervention humaine. Les chiffres montrent aussi que cet essaim a été créé par accident, lors d'un simple test interne, avec un modèle qui n'était même pas destiné à être déployé.
Nous en déduisons que le passage à l'échelle est inévitable. Si un test involontaire produit ce résultat, qu'est-ce qu'un acteur malveillant pourra faire avec des agents conçus spécifiquement pour l'attaque ? OpenAI le dit elle-même : Dans un avenir proche, nous devons nous attendre à ce que des acteurs malveillants déploient, optimisent et militarisent des collectifs d'agents offensifs.
Notre avis est tranché sur deux points.
D'abord, la régulation actuelle est dépassée. L'AI Act européen ne mentionne quasiment pas les agents autonomes. Le cadre de sécurité discuté cette semaine à Washington entre la Maison Blanche et les grands labos reste confidentiel. Pendant ce temps, la preuve d'existence est publique.
Ensuite, sur le point le plus urgent : l'asymétrie entre l'attaque et la défense est abyssale. Michael Dalton, d'OpenAI, a été limpide à Black Hat : « Nous avons besoin d'une accélération similaire de la défense. Si nous automatisons la détection sans automatiser la correction, nous noierons les ingénieurs humains. Si nous n'atteignons pas cet état final, chaque gain d'intelligence des modèles profitera à l'attaquant. »
La bonne nouvelle, c'est que la solution est connue : des agents défensifs qui patrouillent, détectent et corrigent automatiquement. La mauvaise, c'est qu'ils n'existent pas encore à l'échelle. C'est la course.
Note de la rédaction, 27 septembre 2026. Cet article décrit l'incident tel que le laboratoire l'a raconté, notamment le récit d'une attaque sans intervention humaine. Un décryptage publié le 27 septembre 2026 revient sur ce point : selon plusieurs spécialistes de la sécurité, dont Dan Guido, il s'agit d'abord d'un défaut de confinement, autrement dit de garde-fous qui n'ont pas tenu, imputable au laboratoire qui menait le test, OpenAI. Hugging Face en est la victime. Lire le décryptage.
Correction, 16 octobre 2026. Après relecture de la présentation d'OpenAI à Black Hat et du billet de Hugging Face, plusieurs précisions ont été apportées. Les 13 heures concernent la prise de contrôle des clusters de Hugging Face, pas de l'infrastructure d'OpenAI. Les plus de 17 000 éléments recensés par Hugging Face sont des événements de son journal, pour des dizaines de milliers d'actions. OpenAI décrit quatre failles zero-day, pas trois. Les agents sont entrés chez Hugging Face le 9 juillet, le forum ayant repris le 8. Le fichier « test ABC » est le reste d'une attaque ratée, pas un dépôt volontaire.