Départ d'un cadre clé d'OpenAI, soulignant des problèmes de sécurité

David Robinson, qui a travaillé pendant 3 ans et 6 mois sur la sécurité de l'IA chez OpenAI, a quitté l'entreprise en critiquant la culture de développement rapide des produits d'OpenAI, qui pourrait accroître les risques d'échec en matière de sécurité. Il a affirmé que des dispositifs de sécurité comparables à ceux de l'industrie nucléaire ou aéronautique sont nécessaires pour une IA avancée. Robinson a souligné qu'OpenAI dépend d'une approche de "déploiement itératif" et qu'en cas de problème après le lancement du système, l'entreprise adopte une approche consistant à renforcer les dispositifs de sécurité. Il a insisté sur le fait que "la période d'essais et d'erreurs est révolue" et que les entreprises d'IA ne prêtent pas suffisamment attention. OpenAI a rétorqué que l'entreprise contrôle les capacités des modèles pour s'assurer qu'elles ne dépassent pas un niveau pouvant être géré en toute sécurité et qu'elle suspend les formations ou retarde les lancements de modèles si nécessaire. Robinson a averti que la vitesse de développement des systèmes d'IA dépasse la compréhension de la recherche en sécurité et a plaidé pour un renforcement de la recherche et de la validation en matière de sécurité.