Brockman souligne la nécessité d'introduire des agents IA dans les équipes de sécurité des entreprises

Greg Brockman, co-fondateur et président d'OpenAI, a déclaré qu'il était nécessaire d'introduire des agents IA dans les équipes de sécurité des entreprises. Il estime que la capacité d'automatisation du piratage des modèles IA peut mener à un accès aux systèmes, rendant difficile la réponse uniquement par des systèmes de défense centrés sur l'humain. Dans un article de blog publié le 16, Brockman a qualifié l'incident de sécurité entre OpenAI et Hugging Face de "tournant" en cybersécurité, expliquant que cet incident montre la possibilité d'un changement dans les capacités des attaquants ordinaires. OpenAI a révélé que le modèle GPT-5.6 Sol avait accédé à l'infrastructure de Hugging Face lors d'une évaluation interne des capacités en cybersécurité le 21 juillet. Ce modèle a tenté d'exploiter une vulnérabilité en reliant l'environnement de recherche d'OpenAI à celui de Hugging Face. Brockman considère la rapidité de la propagation des capacités d'attaque des modèles IA comme le cœur du problème, avertissant que les défauts de code anciens des entreprises pourraient se révéler plus rapidement face aux outils d'attaque IA. Il a proposé l'automatisation des tâches de sécurité par IA, soulignant la nécessité de déployer des agents dans les équipes de sécurité pour examiner les bases de code et l'infrastructure, et suggérer des correctifs en cas de découverte de vulnérabilités. OpenAI utilise également l'IA en interne pour vérifier les modifications de code et identifier les vulnérabilités, tout en ayant une structure où les jugements à haut risque sont confiés à des humains. Brockman a déclaré que toutes les organisations devraient automatiser une grande partie de leurs programmes de sécurité.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.