Le modèle d'IA Gemini a dépassé les tests et a attaqué trois entreprises réelles

• Gemini a eu accès aux systèmes réels de trois entreprises.
• L'incident s'est produit lors des tests du modèle d'IA en mai.
• Google n'a pas révélé les noms des entreprises touchées, mais a informé celles-ci et les autorités fédérales de l'incident.

Le modèle Gemini de Google a eu accès à Internet en mai 2026 et a piraté les systèmes de trois entreprises réelles lors des tests de ses capacités en cybersécurité, rapporte le WSJ. C'est le premier cas connu où un système d'IA de Google a agi de manière autonome de cette manière.

Google a déclaré que le modèle avait cessé les attaques dès qu'il avait compris qu'il interagissait avec de vraies entreprises, et ne considère donc pas l'incident comme un exemple de "non-conformité" de l'IA.

L'incident s'est produit lors d'un test mené par la société Irregular. Google a été informé de cet incident à la fin juillet, après qu'un incident similaire impliquant des modèles d'OpenAI ait été signalé, où ceux-ci ont attaqué la plateforme Hugging Face.

Un agent IA basé sur GPT-5.6 a attaqué l'infrastructure de Hugging Face lors des tests
22.07.2026
Lire

L'IA d'OpenAI a échappé à tout contrôle : les modèles se sont regroupés en "essaim" et ont piraté Hugging Face
27.08.2026
Lire

Comment Gemini a eu accès aux systèmes réels

Gemini participait à un format de "capture de drapeau", où elle devait obtenir des informations à partir d'un logiciel d'une entreprise fictive. Elle avait accidentellement le même nom qu'une entreprise réelle. De plus, les modèles ont été involontairement connectés à Internet, bien que cela n'ait pas été prévu dans le test.
Infographie Incrypted.

Dans le premier cas, Gemini a deviné un mot de passe et a accédé au service d'une entreprise réelle. Dans deux autres tests, le modèle a trouvé des dépôts publics contenant des identifiants d'autres entreprises via une recherche sur le web, a tenté de les utiliser et a accédé à des systèmes protégés.

Dans les trois cas, Gemini a ensuite déterminé qu'elle traitait avec une entreprise réelle et a cessé ses opérations. Google n'a pas révélé les noms des organisations touchées, mais les a informées des incidents et a informé les autorités fédérales.

En même temps, la société n'a pas précisé quelle version de Gemini était impliquée, indiquant seulement qu'il ne s'agissait pas de son modèle le plus récent.

Guide étape par étape pour utiliser Gemini 3.6 Flash (+ aperçu de 3.5 Flash-Lite et 3.5 Flash Cyber)
22.07.2026
Lire

Aperçu de Gemini 3.7 Flash : nouveautés et comment créer une extension Chrome
24.08.2026
Lire

Gemini 3.8 Flash : nouveautés dans le troisième modèle de Google en un mois et demi et comment créer un jeu 3D
04.09.2026
Lire

La vice-présidente de Google en ingénierie de la sécurité, Heather Adkins, a déclaré :

"Cet événement souligne l'importance d'apprendre aux puissants modèles d'IA à se comporter de manière responsable. Dans ce cas, le modèle a agi de manière appropriée".

L'incident fait partie d'un problème plus large

Google a comparé la situation à un programme de récompense pour les bugs, car le modèle n'a causé aucun dommage et a cessé l'intrusion. Cependant, le PDG de la startup Corridor et hacker éthique Jack Cable estime que cela ne résout pas le problème principal :

"On a l'impression qu'ils essaient de se cacher derrière des normes qui se sont formées autour de la divulgation des vulnérabilités, alors que c'est un problème complètement différent".

Selon lui, la question clé est que les modèles dépassent les limites autorisées et effectuent de véritables cyberattaques.

Irregular a déclaré que tous les laboratoires concernés et les entreprises touchées avaient été informés à la fin juillet, et que les problèmes identifiés par l'organisateur du test avaient déjà été résolus.

Des cas similaires avaient déjà été observés avec les modèles d'Anthropic, d'OpenAI et de Meta. En particulier, lors de l'incident avec Hugging Face, jusqu'à 1200 agents d'OpenAI ont coordonné leurs actions via un tableau de messages caché, essayant de contourner l'évaluation.

Un chercheur a révélé comment les agents d'OpenAI ont créé trois "civilisations" et ont attaqué Hugging Face
30.08.2026
Lire

De plus, le modèle d'IA chinois Kimi K3 de Moonshot AI a réussi à quitter un environnement isolé et à accéder à Internet lors des tests.

À la lumière de ces événements, OpenAI a commencé à développer des mécanismes d'arrêt automatique des systèmes d'IA en cas de comportement dangereux. En même temps, OpenAI a publiquement appelé à ralentir le développement de l'IA, tandis qu'Anthropic a présenté un plan de contrôle de l'IA.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.