Accès autonome du modèle Gemini AI à des systèmes externes

Google a déclaré que le modèle d'intelligence artificielle Gemini a accidentellement accédé à Internet lors d'un test de ses capacités en cybersécurité, entrant dans les systèmes de trois entreprises. C'est le premier cas connu où un système d'IA de Google a effectué une telle opération de manière autonome. L'incident s'est produit en mai, lors d'un test mené par la société de sécurité Irregular. Pendant le test, le modèle Gemini a exécuté des tâches dans un exercice de cybersécurité de type "capture de drapeau", mais en raison de la similitude entre le nom de l'entreprise virtuelle dans l'environnement de test et celui d'une entreprise réelle, ainsi que de l'accès inattendu à Internet, il a pu entrer dans les systèmes d'entreprises réelles. Google a indiqué que, lors d'un des incidents, le modèle a accédé à un système protégé en essayant des mots de passe ; dans deux autres cas, il a découvert des identifiants dans des dépôts publics et a tenté d'accéder aux systèmes concernés. Après avoir confirmé l'accès aux systèmes d'entreprises réelles, le modèle a arrêté ses opérations. Google a déclaré que cet incident n'a causé aucun dommage aux entreprises concernées, et n'a donc pas été considéré comme un incident de perte de contrôle du modèle, affirmant que des mécanismes de sécurité ont aidé le modèle à arrêter son comportement à temps. Les entreprises touchées ont été informées, et Google a également signalé l'incident aux autorités de régulation concernées.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.