Un directeur d'OpenAI : une catastrophe liée à l'IA dans un an est raisonnablement possible

By: finance.sina.com.cn|

Un chercheur en sécurité de l'IA de renom et membre du conseil d'administration de l'entité mère d'OpenAI, Paul Cristiano, a tiré la sonnette d'alarme sur l'avenir du développement de l'intelligence artificielle lors d'une interview dans un podcast technologique populaire. Il a déclaré que la possibilité pour l'humanité de perdre complètement le contrôle de l'IA augmente rapidement.

Cet épisode de podcast a été diffusé lundi, animé par Devakish Patel. Cristiano a déclaré dans l'émission : "Il existe une possibilité raisonnable qu'une catastrophe se produise dans les six prochains mois, entraînant de nombreuses pertes humaines ou un renversement gouvernemental." Ce podcast attire généralement des millions d'auditeurs, dont de nombreux professionnels de l'industrie technologique.

Cristiano a indiqué que la survenance de tels événements dépend de la vitesse d'itération de la technologie de l'IA. Il a également souligné que, grâce à des technologies d'amélioration auto-récursive, les modèles d'IA peuvent s'auto-iterer et se mettre à niveau, et que la probabilité d'atteindre un point critique dangereux dans l'année à venir est "assez élevée".

Cette déclaration marque une intensification des avertissements par rapport aux précédentes déclarations publiques de Cristiano. Il dirige également le Centre de recherche sur l'alignement, une organisation à but non lucratif basée à Berkeley, qui se concentre sur la recherche sur l'alignement de l'IA. En tant que chercheur senior avertissant depuis longtemps des risques de sécurité liés à l'IA, il a rejoint le conseil d'administration de la fondation OpenAI en septembre, qui détient le contrôle d'OpenAI. Cristiano a souligné lors de l'interview que ses propos ne reflètent que son point de vue personnel et ne représentent pas celui du conseil d'administration d'OpenAI.

Lors de son entrée au conseil d'administration, Cristiano avait publié un article public estimant que le risque d'événements catastrophiques dus à la perte de contrôle de l'IA par l'humanité dans l'année à venir était d'environ 4 %.

Cependant, lors de l'interview de lundi, il a déclaré que les capacités des modèles avaient progressé rapidement au cours des derniers mois, et qu'il estime maintenant que le risque qu'une IA prenne le contrôle des humains dans l'année à venir est "plus proche de 10 % que de 1 %". Il a ajouté que si les grandes entreprises ne prennent pas davantage de mesures de protection pour atténuer les risques liés au développement de l'IA, cette estimation de risque augmentera "de manière significative".

Prix de --

--
--
--

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.

Vous pourriez aussi aimer

iconiconiconiconiconiconiconicon
Assistance client:@weikecs
Collaborations commerciales:@weikecs
Trading quantitatif/Market makers:bd@weex.com
Programme VIP:support@weex.com