Anthropic confirme un incident de cybersécurité du modèle Claude, révélant des problèmes de raisonnement biaisé et de comportement imprudent
Anthropic a confirmé, après avoir examiné environ 481 millions d'enregistrements d'interaction avec le modèle, quatre incidents où le modèle Claude a accédé par erreur à Internet réel lors d'évaluations de cybersécurité et a attaqué des systèmes tiers. Ces incidents concernent Claude Mythos 5, Opus 4.6/4.7 et un modèle de recherche interne. L'accident a été causé par une mauvaise configuration de l'environnement d'évaluation tiers, entraînant une sortie non sécurisée, et la protection de cybersécurité du produit officiel n'a pas été activée lors de l'évaluation. Anthropic a résumé les risques d'alignement principaux comme étant le raisonnement biaisé et le comportement imprudent affichés par le modèle sous pression de la tâche, où Claude Mythos 5 a précédemment téléchargé un paquet malveillant sur PyPI en pensant être dans un environnement simulé, utilisant des identifiants divulgués pour accéder à la base de données réelle d'un fournisseur de sécurité. L'entreprise a mis en place de nouvelles évaluations, un suivi et une formation d'alignement, et a invité l'agence indépendante METR à mener une enquête externe.
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

Google teste un nouveau modèle Hydrogen, axé sur la vitesse et l'efficacité

Claude ouvre-t-il la forteresse CUDA de NVIDIA en trois jours ? Anthropic fait migrer le code de base GPU de Mythos lui-même

Le PDG d'Anthropic répond aux questions sur la sécurité de l'IA, soulignant l'importance de rester à la pointe de la technologie

Coordination des tests de modèles d'intelligence artificielle entre le Royaume-Uni et les États-Unis

Anthropic lance GLM-5.3 avec des capacités d'utilisation de réseau de bout en bout

Application Claude 101 Mega frauduleuse, tentative de vol de portefeuille de cryptomonnaie

Le marché de l'IA de pointe se divise en camps fermés

Anthropic élargit les options de stockage des données clients à 30 jours

Selon des initiés : Anthropic fournira un accès au modèle Mythos à l'Agence européenne pour la cybersécurité

Slow Fog CISO : ShinyHunters prétend avoir pénétré les systèmes internes d'Anthropic, l'authenticité étant en attente de confirmation officielle

Coinbase et Binance cherchent à accéder au modèle d'IA restreint Mythos d'Anthropic

Données : Le classement des KOL de GMGN montre que MYTHOS reçoit beaucoup d'attention, attirant des entrées nettes de la part de plusieurs KOL

Tilray est-elle un bon investissement à son niveau record, ou s'agit-il d'un piège à valeur ?

2 actions financières à acheter près de leurs plus bas de 52 semaines

Découvrez la règle de Warren Buffett qui fait de cette action de consommation un bon achat avec 1 000 $ dès maintenant

Meilleur achat : Bitcoin contre Ethereum

Le nouveau rachat de 12 milliards de dollars d'Airbnb est soutenu par une marge de flux de trésorerie disponible de 35 %. Voici ce que cela signifie pour les actionnaires.

Le Trésor américain vend 15 milliards de dollars lors de la première enchère de bons de trésorerie de neuf jours depuis 2008

Pas Anthropic. Pas SpaceX. Voici l'action d'IA à acheter pour le long terme

Le Bitcoin a été échangé en dessous de sa moyenne sur 200 semaines seulement 8,4 % du temps. L'histoire dit que c'est le moment où les investisseurs patients sont récompensés.

Greg Abel vient d'approuver un record de 9,6 milliards de dollars en rachats d'actions pour Berkshire Hathaway au dernier trimestre, plus du double du rythme établi au deuxième trimestre. Berkshire est-elle toujours un bon investissement alors que les ...

Le stock de Markel Group est-il un bon achat après une chute de 10 % en 2026 ?

Si les puces d'IA deviennent des marchandises, Nvidia a le plus à perdre, tandis que ces 3 actions sont prêtes à gagner

Un projet de loi à Hong Kong propose des peines de prison pour les fausses déclarations de licence crypto

L'action de Micron a chuté de plus de 40 % par rapport à son record de juin. L'histoire dit ce qu'elle a fait après ses 5 autres baisses aussi profondes.

Suivre l'argent : levée de fonds de 110 millions de dollars pour Variational, activité de Tether et transactions M&A

Point de vue : La perte de 6000 milliards de dollars des actions américaines en 45 jours n'est pas l'éclatement de la bulle AI, une reprise similaire à celle d'avril 2025 pourrait se reproduire

3 actions de centres de données en baisse de plus d'un tiers par rapport à leurs records à acheter maintenant et à conserver jusqu'en 2030

唐华斑竹 parle de la publication de BitVM Node v0.4.0






