Analyse: Anthropic et OpenAI ont successivement exposé des failles de sécurité, soulevant des inquiétudes quant à la sécurité des modèles d'IA.

Selon The Information, Anthropic et OpenAI ont toutes deux connu des incidents de sécurité, ce qui a suscité des inquiétudes sur le marché quant à la sécurité des modèles d'IA eux-mêmes.

Anthropic enquête actuellement sur les éventuels accès non autorisés des utilisateurs à son modèle Claude Mythos. Presque simultanément, il a également été rapporté qu'OpenAI avait accidentellement exposé plusieurs modèles non publiés dans son application Codex. Les avis du secteur indiquent que ces incidents de vulnérabilité ont intensifié l'examen des capacités de gouvernance de la sécurité des entreprises d'IA et reflètent le fait que les systèmes de sécurité de la technologie d'IA actuelle doivent encore être améliorés compte tenu de son développement rapide. Les analystes estiment que même les fournisseurs de modèles d'IA axés sur les capacités de cybersécurité sont eux-mêmes confrontés à d'importants défis en matière de sécurité. À mesure que l'IA est progressivement utilisée pour se défendre contre les cyberattaques, les problèmes liés à la sécurité des plateformes et au contrôle d'accès sont également devenus des points de risque critiques.