Le PDG d'Anthropic répond aux questions sur la sécurité de l'IA, soulignant l'importance de rester à la pointe de la technologie
Anthropic a soumis un projet de loi sur la sécurité de l'IA aux membres du Congrès américain, qui a suscité des critiques. Le projet impose des exigences strictes pour que le gouvernement puisse suspendre d'urgence les modèles dangereux, exigeant que les risques impliquent des armes biologiques, des cyberattaques ou un contrôle défaillant de l'IA, et pouvant entraîner plus de 50 décès ou blessures graves, ou des pertes dépassant 1 milliard de dollars. Certaines dispositions pourraient limiter les pouvoirs de régulation des gouvernements des États. Nathan Calvin, responsable de la stratégie de l'organisation de sécurité de l'IA Encode AI, a souligné qu'Anthropic avait modifié en février de cette année sa politique de sécurité initialement stricte, supprimant l'exigence d'arrêter seul le développement à des stades de risque plus élevé, arguant que les concurrents pourraient en profiter pour prendre de l'avance. Pendant ce temps, Anthropic a investi massivement dans la puissance de calcul, formé une équipe de puces et a confié à Claude davantage de tâches de développement de l'IA. Le 21 octobre, le PDG d'Anthropic, Dario Amodei, a publié un message sur X pour répondre aux critiques, admettant que l'entreprise avait commis des erreurs, mais affirmant que la quête de capacités d'IA de pointe ne contredisait pas sa mission de sécurité, soulignant que seule une position à la pointe de la technologie pouvait pousser l'industrie à améliorer les normes de sécurité. Il a énuméré neuf décisions de sécurité qui ont coûté à l'entreprise sur le plan commercial, y compris la restriction de l'accès aux modèles de niveau Mythos pendant plusieurs mois et des limitations strictes sur les demandes liées à la biologie. La feuille de route de sécurité mise à jour par l'entreprise le 19 octobre indique que les politiques existantes se concentrent principalement sur le déploiement de modèles dangereux, et qu'il pourrait être nécessaire à l'avenir de limiter directement la vitesse de développement, avec l'intention de proposer des politiques connexes d'ici le 15 janvier 2027, ou d'expliquer pourquoi aucune proposition n'a été faite.
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

Google teste un nouveau modèle Hydrogen, axé sur la vitesse et l'efficacité

Claude ouvre-t-il la forteresse CUDA de NVIDIA en trois jours ? Anthropic fait migrer le code de base GPU de Mythos lui-même

Coordination des tests de modèles d'intelligence artificielle entre le Royaume-Uni et les États-Unis

Anthropic lance GLM-5.3 avec des capacités d'utilisation de réseau de bout en bout

Anthropic confirme un incident de cybersécurité du modèle Claude, révélant des problèmes de raisonnement biaisé et de comportement imprudent

Application Claude 101 Mega frauduleuse, tentative de vol de portefeuille de cryptomonnaie

Le marché de l'IA de pointe se divise en camps fermés

Anthropic élargit les options de stockage des données clients à 30 jours

Selon des initiés : Anthropic fournira un accès au modèle Mythos à l'Agence européenne pour la cybersécurité

Slow Fog CISO : ShinyHunters prétend avoir pénétré les systèmes internes d'Anthropic, l'authenticité étant en attente de confirmation officielle

Coinbase et Binance cherchent à accéder au modèle d'IA restreint Mythos d'Anthropic

Données : Le classement des KOL de GMGN montre que MYTHOS reçoit beaucoup d'attention, attirant des entrées nettes de la part de plusieurs KOL

Costco atteint un nouveau sommet historique après l'annonce d'un dividende spécial de 30 $ par action. L'action est-elle à acheter avant le 10 décembre ?

Ethereum repousse sa mise à jour face à une hausse massive des coûts

Le Royaume-Uni trouve une solution pour corriger les vulnérabilités des systèmes de réfrigérateurs et congélateurs commerciaux après des attaques de hackers dans plusieurs pays européens

Lagarde : Les fonds de l'UE devraient supporter les premières pertes des usines de puces et des projets de centres de données

Arthur Hayes achète-t-il la baisse après avoir déplacé 5 millions de dollars en USDC ?

Robotaxis : 4 actions prêtes à gagner

Les analystes de Bank of America : L'évolution des actifs à risque en 2027 dépendra de deux questions clés

L'ETF incontournable que j'achèterais aujourd'hui et conserverais pendant des décennies

Warren Buffett achèterait-il Anthropic ? Voici la seule question qu'il se poserait

Aperçu de 6 nouveaux projets de minage AI, peut-être la voie la plus prometteuse après le récit de la confidentialité

Prévision : Nvidia atteindra un nouveau sommet historique en 2027 (Indice : Surveillez ce critère)

3 conditions que le prix du Bitcoin pourrait nécessiter pour une reprise durable : QCP Capital

Paul Klay de BeginVC : Pourquoi il devient de plus en plus difficile de gagner de l'argent dans l'industrie de la cryptographie ?

Les deux partis se disputent des sièges avant le renouvellement : SEC et CFTC vont-elles connaître un grand changement ?

Les acheteurs de Bitcoin font face à un problème de trading alors que les stablecoins subissent leur plus grande baisse d'offre depuis 2022

Le marché pourrait rebondir après Thanksgiving ? Bank of America : Probabilité élevée à court terme, mais trois conditions doivent être remplies pour un grand mouvement

Des comptes « programmables » : les compromis entre EIP-7702, ERC-4337 et Native AA



