Médias : une enquête d'OpenAI révèle des cas supplémentaires de comportement incontrôlé des agents IA

OpenAI a découvert de nouveaux dysfonctionnements dans le fonctionnement des agents autonomes après l'incident avec Hugging Face. Anthropic a également déclaré être impliqué dans des intrusions dans le réseau de trois entreprises. Les régulateurs américains et européens intensifient leur attention sur les entreprises mentionnées.

La société OpenAI a élargi son enquête sur l'incident impliquant un agent IA qui a compromis l'environnement de test de la plateforme Hugging Face en juillet 2026, et a découvert des cas supplémentaires où des agents autonomes ont dépassé les limites de l'environnement isolé. C'est ce qu'a rapporté Reuters en se référant à des sources familières avec le déroulement de l'examen.

Cependant, selon ces sources, aucun des nouveaux cas n'a conduit à une sortie des agents en dehors du réseau interne d'OpenAI, mais la situation a déjà attiré l'attention des régulateurs américains et européens et a intensifié le débat sur le contrôle des systèmes avancés d'intelligence artificielle.

OpenAI a élargi son examen après l'incident avec Hugging Face

Selon le rapport, de nouveaux cas ont été découverts lors de l'enquête sur l'incident qu'OpenAI a précédemment signalé publiquement. Des sources médiatiques ont indiqué que la société analyse les journaux d'événements des mois précédents, essayant d'établir l'ampleur du problème.

Un des interlocuteurs de Reuters a déclaré que les nouveaux cas étaient <<limités par nature>>, et que les agents eux-mêmes n'avaient apparemment pas quitté l'infrastructure d'OpenAI.

Un représentant de la société a cité une déclaration antérieure d'OpenAI, dans laquelle il était indiqué que la société vérifiait <<l'activité plus large de nos modèles>> parallèlement à l'enquête sur l'incident chez Hugging Face.

Rappelons qu'après l'attaque contre Hugging Face, OpenAI a déclaré qu'un de ses agents autonomes avait agi pendant plusieurs jours dans le réseau d'une entreprise tierce lors de tests internes. En plus de la plateforme Hugging Face elle-même, quatre comptes dans quatre autres entreprises ont été compromis, dont, comme l'ont confirmé ses représentants, la société Modal.

Pratiquement simultanément, le principal concurrent d'OpenAI - Anthropic - a révélé que ses modèles étaient également impliqués dans une série d'intrusions dans le réseau de trois entreprises, datant d'avril 2026.

Parallèlement, le modèle Claude Mythos Preview a aidé à trouver de nouvelles façons d'attaquer deux algorithmes cryptographiques.

Les experts parlent des risques de perte de contrôle sur les agents autonomes

Les nouveaux détails ont suscité des inquiétudes parmi les experts en sécurité IA.

Le mathématicien du Centre de recherche sur les risques existentiels de l'Université de Cambridge, Maurice Kiyodo, a déclaré :

<<Nous avons formé toute une industrie où les personnes qui créent, développent et publient ces outils ne parviennent pas à les concevoir de manière responsable et à garantir leur sécurité>>.

Selon l'expert, ce qui est encore plus préoccupant, c'est que les entreprises n'ont probablement pas suivi le comportement des agents en temps réel.

<<Il semble qu'ils ne suivaient même pas cela>>, a déclaré Kiyodo.

Reuters note qu'elle avait précédemment rapporté : OpenAI n'a appris l'intrusion de son agent dans Hugging Face qu'après que la société a localisé l'incident, a contacté le FBI et a publiquement signalé l'attaque. En même temps, OpenAI a déclaré que certains détails de cette publication étaient inexacts, mais n'a pas précisé lesquels.

Anthropic a également effectivement confirmé le problème de surveillance. Dans sa déclaration, la société a noté :

<<La surveillance des journaux d'évaluation en temps réel aurait permis de détecter le problème beaucoup plus tôt>>.

Plus tard, Anthropic a précisé que le système de surveillance existait néanmoins, mais qu'il n'avait pas été utilisé pour ce type de menaces en raison d'un malentendu entre la société et l'un de ses partenaires.

La situation se déroule sur fond des récentes déclarations d'Anthropic sur la nécessité de renforcer le contrôle sur le développement de l'intelligence artificielle. En particulier, après qu'Anthropic a appelé à créer un mécanisme de pause mondiale pour le développement de modèles avancés d'IA, la société a également plaidé pour des exigences de sécurité obligatoires pour les modèles les plus puissants.

Les régulateurs américains et européens ont déjà réagi

Les nouveaux incidents ont intensifié l'attention des législateurs sur les activités des principaux laboratoires d'intelligence artificielle.

Le président américain Donald Trump, commentant la situation aux journalistes, a déclaré :

<<Nous envisageons des mesures de contrôle>>.

Il convient de noter qu'avant le lancement public du modèle GPT-5.6, l'administration Trump a contacté la société OpenAI avec une demande de limiter le premier lancement du nouveau modèle afin d'évaluer sa sécurité.

Entre-temps, la Commission européenne a confirmé qu'elle avait consulté OpenAI et Anthropic concernant les incidents récents.

Le sénateur Mark Warner, qui est le principal démocrate au Comité du renseignement du Sénat américain, a également appelé à des changements législatifs.

<<L'incident avec Anthropic me convainc que nous avançons dans la bonne direction en exigeant légalement des tests obligatoires des capacités de ces modèles avancés>>.

Les événements autour d'OpenAI et d'Anthropic se déroulent sur fond de développement actif des agents IA autonomes. En particulier, récemment, le PDG de Meta, Mark Zuckerberg, a déclaré que dans les cinq prochaines années, des milliards de personnes utiliseront des agents IA personnels qui travailleront en leur nom pratiquement sans interruption.