Un directeur d'OpenAI : une catastrophe liée à l'IA dans un an est raisonnablement possible
Un chercheur en sécurité de l'IA de renom et membre du conseil d'administration de l'entité mère d'OpenAI, Paul Cristiano, a tiré la sonnette d'alarme sur l'avenir du développement de l'intelligence artificielle lors d'une interview dans un podcast technologique populaire. Il a déclaré que la possibilité pour l'humanité de perdre complètement le contrôle de l'IA augmente rapidement.
Cet épisode de podcast a été diffusé lundi, animé par Devakish Patel. Cristiano a déclaré dans l'émission : "Il existe une possibilité raisonnable qu'une catastrophe se produise dans les six prochains mois, entraînant de nombreuses pertes humaines ou un renversement gouvernemental." Ce podcast attire généralement des millions d'auditeurs, dont de nombreux professionnels de l'industrie technologique.
Cristiano a indiqué que la survenance de tels événements dépend de la vitesse d'itération de la technologie de l'IA. Il a également souligné que, grâce à des technologies d'amélioration auto-récursive, les modèles d'IA peuvent s'auto-iterer et se mettre à niveau, et que la probabilité d'atteindre un point critique dangereux dans l'année à venir est "assez élevée".
Cette déclaration marque une intensification des avertissements par rapport aux précédentes déclarations publiques de Cristiano. Il dirige également le Centre de recherche sur l'alignement, une organisation à but non lucratif basée à Berkeley, qui se concentre sur la recherche sur l'alignement de l'IA. En tant que chercheur senior avertissant depuis longtemps des risques de sécurité liés à l'IA, il a rejoint le conseil d'administration de la fondation OpenAI en septembre, qui détient le contrôle d'OpenAI. Cristiano a souligné lors de l'interview que ses propos ne reflètent que son point de vue personnel et ne représentent pas celui du conseil d'administration d'OpenAI.
Lors de son entrée au conseil d'administration, Cristiano avait publié un article public estimant que le risque d'événements catastrophiques dus à la perte de contrôle de l'IA par l'humanité dans l'année à venir était d'environ 4 %.
Cependant, lors de l'interview de lundi, il a déclaré que les capacités des modèles avaient progressé rapidement au cours des derniers mois, et qu'il estime maintenant que le risque qu'une IA prenne le contrôle des humains dans l'année à venir est "plus proche de 10 % que de 1 %". Il a ajouté que si les grandes entreprises ne prennent pas davantage de mesures de protection pour atténuer les risques liés au développement de l'IA, cette estimation de risque augmentera "de manière significative".
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

La Commission de supervision financière de Corée procédera à des inspections surprises des échanges de cryptomonnaies

Coins.ph limite les utilisateurs dans les transferts vers des portefeuilles auto-hébergés

Quatre voies vers l'ASI proposées par un chercheur de DeepMind

Élection du responsable du Conseil de sécurité d'Optimism, mandat de 24 mois

MiniPay intègre l'infrastructure de portefeuille Privy

Wu Yongming : Qianwen entraîne le prochain modèle sur la puce PingTouGe

90 chercheurs et experts publient une déclaration contre Anthropic

La chute du secteur des puces en Chine, des rumeurs sur le sous-traitance de Samsung jugées inexactes

Stacks prévoit de lancer un système de prêt auto-hébergé en 2027, permettant d'emprunter des stablecoins en mettant en gage des BTC

CertiK achève la vérification indépendante de la déclaration d'auto-évaluation de GL1

Blockaid marque 8800 tokens thématiques GTA sur Solana comme malveillants

L'action de Take-Two augmente de 8,8 % après le lancement de GTA VI

Le système backend de Paytaca attaqué, les fonds et les clés privées des utilisateurs non affectés

Nomura interprète : le resserrement de la puissance de calcul haut de gamme à l'étranger ouvre une fenêtre de remplacement pour les puces AI nationales

AAOI signe un accord de distribution d'actions, prévoit d'émettre jusqu'à 550 millions de dollars d'actions ordinaires

Shengyi Technology maintient une production normale et met en œuvre un plan de rachat d'au moins 200 millions de yuans

Le CTO de Li Auto, Xie Yan, assiste au forum de l'écosystème OIP 2026 de TSMC

OpenAI : l'auto-amélioration de l'IA sans AGI

Où sera Eli Lilly dans 10 ans ? 1 indice : son prochain blockbuster potentiel vient de battre Ozempic en tête-à-tête

Kamino lance l'algorithme d'exécution des transactions ONE et la plateforme institutionnelle Omni

Les douanes allemandes pourront saisir administrativement les cryptomonnaies d'origine suspecte à partir de 2027

‘La feuille de route est complète', déclare le fondateur de Cardano, Charles Hoskinson

Jingsheng Electromechanical reçoit une lettre d'avertissement en raison de la non-conformité des contrôles internes des revenus de vente

CATL lance le gestionnaire de batterie chocolat

L'économie de la cryptomonnaie en Europe de l'Ouest atteint 2,08 trillions de dollars avec l'augmentation de l'utilisation des stablecoins

D-Wallet disponible sur l'Apple App Store, prend en charge la gestion des comptes multi-signatures

Les actions tokenisées xStocks fonctionnent nativement sur OP Mainnet, ether.fi lance les fonctionnalités de mint et de rachat

Bénéfices en période de marché haussier, pertes en période de marché baissier : comment calculer les impôts sur les transactions de cryptomonnaies ?

L'assistant vocal Gemini de Google intégré à Apple CarPlay



