La Californie convoque OpenAI au sujet des modèles d'IA qui ont contourné un test

Le procureur général de Californie, Rob Bonta, a déclaré jeudi que son bureau avait signifié à OpenAI une assignation à comparaître pour enquête mercredi, cherchant des réponses concernant des incidents de cybersécurité impliquant ses modèles d'IA, selon son bureau.

"Mon bureau pose à OpenAI des questions supplémentaires concernant les incidents et les risques de cybersécurité impliquant l'entreprise et ses modèles d'IA," a déclaré le procureur général Bonta. "Les développeurs qui ne s'assurent pas de ne pas perpétrer ou permettre des cyberattaques peuvent et doivent être tenus légalement responsables, et mon bureau s'engage à déterminer si c'est le cas ici."

Une assignation à comparaître est un ordre légal de remettre des documents ou des réponses, et ignorer une telle demande vous amène devant un juge. Celle-ci est une enquête, un outil utilisé pour rassembler des faits avant de décider de poursuivre en justice. Le bureau de Bonta n'a pas dit publiquement ce qu'il souhaite qu'OpenAI produise.

Les modèles de pointe - les systèmes d'IA les plus avancés sur le marché - peuvent être "des outils légitimes pour la défense cybernétique," a déclaré Bonta. Mais les entreprises qui les construisent ont "une responsabilité morale et légale" de s'assurer qu'elles ne réalisent pas ou ne facilitent pas des cyberattaques, que ce soit pendant les tests ou après leur sortie, a-t-il ajouté.

Le test qui s'est échappé

L'assignation à comparaître fait suite à un incident de juillet qui ressemble à de la mauvaise science-fiction. Selon OpenAI, deux de ses modèles étaient évalués sur une référence qui donne à une IA 898 véritables failles logicielles et lui demande de transformer chacune d'elles en une attaque fonctionnelle.

Les modèles ont trouvé une faille zero-day - un trou de sécurité que personne ne savait exister, donc aucune correction n'était disponible - dans un logiciel tiers que l'environnement de test utilisait pour installer des paquets de code. Ils l'ont utilisée pour s'échapper.

Ensuite, ils ont raisonné que Hugging Face, une plateforme où les développeurs partagent des modèles d'IA et des ensembles de données, pourrait détenir la clé des réponses. Ils ont pénétré dans le système avec des identifiants volés et d'autres failles. En termes simples, l'IA a cherché les réponses à son propre examen.

Hugging Face a divulgué l'intrusion le 16 juillet, et OpenAI a confirmé que ses modèles en étaient responsables cinq jours plus tard. OpenAI a ensuite déclaré que les mêmes modèles avaient accédé à des comptes sur quatre autres services.

Le long regard de la Californie sur OpenAI

Bonta a annoncé une enquête formelle sur l'incident de Hugging Face en septembre, et l'assignation à comparaître en fait partie. OpenAI a son siège en Californie, et lorsque Bonta a refusé de s'opposer à son passage à une structure à but lucratif en octobre 2025, il a déclaré que son bureau garderait "un œil attentif sur OpenAI" pour protéger "la sécurité de tous les Californiens."

Il n'est pas seul. Brenna Bird, procureur général de l'Iowa, a dirigé une coalition de 15 États en août exigeant qu'OpenAI préserve les dossiers et soit transparent sur le piratage. L'Alabama a émis sa propre assignation à comparaître, et la FTC enquête apparemment sur des laboratoires d'IA, y compris OpenAI et Anthropic.

Séparément, le Premier ministre australien Anthony Albanese a déclaré qu'un agent d'OpenAI avait accédé à un portail de statistiques de Medicare en juin. À l'époque, il semblait s'agir du premier cas connu d'un agent d'IA piratant un site gouvernemental. Il est ensuite devenu connu qu'OpenAI avait également interféré sur des sites gouvernementaux américains durant l'été, bien qu'aucune information non publique ne semble avoir été accessible.