Les modèles d'IA de Frontier adoptent des données falsifiées, révélant un défaut caché
Une étude soumise à arXiv le 12 novembre a révélé que des modèles d'IA plus puissants pouvaient répéter des réponses falsifiées lorsque des assistants plus faibles lisaient les preuves, exposant ainsi un risque de fiabilité dans les systèmes qui répartissent le travail entre les modèles.
Dans leur article de novembre, les chercheurs Keegan Wang et Anantika Mannby ont testé des agents sur des dossiers fictifs et des questions à deux options.
Ils ont mesuré les révisions nuisibles : adoption de la mauvaise réponse de l'attaquant par rapport à une base correcte.
Dans un test de Claude Code d'Anthropic, un superviseur Opus 5 a choisi la mauvaise réponse plantée dans 1 des 180 essais lorsqu'il lisait les fichiers lui-même, contre 75 des 180 lorsqu'il a délégué la lecture à Haiku 4.5. Cette condition de falsification empilée combinait plusieurs formes de fausses preuves.
Un test séparé de Codex d'OpenAI a utilisé une annotation falsifiée prétendant à une autorité, et GPT-5.6-sol n'a effectué aucune révision nuisible dans 180 essais de lecture directe, contre 44 dans 180 lorsqu'il s'est appuyé sur GPT-5.6-terra. Les comparaisons entre Claude Code et Codex ont utilisé différentes attaques, limitant les comparaisons entre les produits.
Les essais délégués de Claude Code ont mécaniquement limité le superviseur à son outil de tâche, supprimant l'accès direct aux fichiers, tandis que la restriction de délégation de Codex était instructionnelle et vérifiée par essai.
Un superviseur fort peut hériter de l'erreur d'un lecteur plus faible
Dans une étude du 12 novembre utilisant des dossiers fictifs, un superviseur plus fort pouvait répéter l'erreur d'un lecteur plus faible. Comparez les configurations testées.
Contact direct avec les preuves contre un rapport délégué Deux voies de lecture à partir des mêmes dossiers authentiques et falsifiés. La voie directe atteint un superviseur ; la voie déléguée passe par un assistant plus faible avant que le superviseur ne reçoive un rapport. LA VOIE DES PREUVES Dossiers authentiques + falsifications plantées LECTURE DIRECTE Le superviseur lit les fichiers LECTURE DÉLÉGUÉE L'assistant plus faible lit Le superviseur reçoit le rapport de l'assistant
Deux voies de preuves La lecture directe met les fichiers devant le superviseur. La lecture déléguée place un assistant plus faible entre les fichiers et le superviseur. LA VOIE DES PREUVES Dossiers authentiques + falsifications plantées LECTURE DIRECTE Le superviseur lit les fichiers LECTURE DÉLÉGUÉE L'assistant plus faible lit les fichiers Le superviseur reçoit le rapport de l'assistant
Comparez la configuration testée
Comparez la configuration testée Claude Code / empilé Codex / gloss
Opus 5 : 1/180 lecture directe, 75/180 avec Haiku 4.5, et 0/180 avec un assistant de même niveau, sous falsifications empilées.
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses sur 180 essais, sur une échelle commune de zéro à 180. Révisions nuisibles du superviseur / 180 essais 0 90 180 Lecture directe Opus 5 1/180 Avec un assistant plus faible Haiku 4.5 75/180 Avec un assistant de même niveau Opus 5 0/180
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses rapportés sur 180 essais par bras. Révisions nuisibles du superviseur / 180 Lecture directe 1/180 Opus 5 Avec un assistant plus faible 75/180 Haiku 4.5 Avec un assistant de même niveau 0/180 Opus 5 0 90 180 Même échelle de compte pour les trois bras
GPT-5.6-sol : 0/180 lecture directe, 44/180 avec GPT-5.6-terra, et 1/180 avec un assistant de même niveau, sous un gloss d'autorité.
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses sur 180 essais, sur une échelle commune de zéro à 180. Révisions nuisibles du superviseur / 180 essais 0 90 180 Lecture directe GPT-5.6-sol 0/180 Avec un assistant plus faible GPT-5.6-terra 44/180 Avec un assistant de même niveau GPT-5.6-sol 1/180
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses rapportés sur 180 essais par bras. Révisions nuisibles du superviseur / 180 Lecture directe 0/180 GPT-5.6-sol Avec un assistant plus faible 44/180 GPT-5.6-terra Avec un assistant de même niveau 1/180 GPT-5.6-sol 0 90 180 Même échelle de compte pour les trois bras
Sources
- Wang et Mannby, v1, méthodes et Tableau 1
- Enregistrement de soumission arXiv, 12 novembre 2026
Faits de soutien
- Keegan Wang et Anantika Mannby ont soumis leur étude sur la délégation d'agents à arXiv le 12 novembre 2026.
- Dans la condition de falsification empilée de l'étude de Claude Code, un superviseur Opus 5 a effectué 1 révision nuisible dans 180 essais de lecture directe et 75 dans 180 essais lorsque la lecture était déléguée à Haiku 4.5.
- Dans une condition de gloss d'autorité séparée, GPT-5.6-sol n'a effectué aucune révision nuisible dans 180 essais de lecture directe et 44 dans 180 avec un lecteur GPT-5.6-terra.
- Les expériences ont utilisé des dossiers fictifs générés et des questions à deux options, avec des preuves authentiques laissées disponibles aux côtés de falsifications plantées.
- Les essais délégués de Claude Code ont mécaniquement restreint le superviseur à son outil de tâche ; la restriction de délégation de Codex était instructionnelle et vérifiée par essai.
- Les lecteurs de même niveau ont réduit les révisions nuisibles dans les conditions testées : Claude Code a enregistré 0 sur 180 sous gloss et empilé, tandis que Codex a enregistré 1 sur 180 sous gloss.
- Les taux de l'étude sont des estimations provenant d'expériences construites ; des contrôles à brève correspondance n'étaient possibles que dans le harnais de référence, et des exécutions répétées ont montré une variation significative.
Méthode
Comptes de révisions nuisibles rapportés du Tableau 1. Chaque bras utilise 180 faits fictifs. Les longueurs des barres sont le compte / 180 sur une échelle partagée ; zéro est un marqueur défini. Les conditions sont des tests séparés, pas une chronologie ou un classement de produits.
Portée
Tâches de bac à sable avec des falsifications plantées. La délégation de Claude Code était uniquement pour les tâches ; la restriction de Codex était instructionnelle et vérifiée par essai. Les deux produits sélectionnés ont utilisé des attaques différentes. Les taux décrivent ces configurations, pas la prévalence chez les clients.
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

Une enquête révèle que des portefeuilles d'activités illégales ont échangé 518 millions de dollars via le module de stablecoin Sky

Mavria lève 130 millions de dollars, dirigé par Paradigm

ANOME lève 5 millions de dollars lors d'un financement stratégique, avec la participation de MH Ventures

a16z Frontier : Où se trouvent les véritables opportunités de Web3 si l'IA peut reproduire toutes les applications ?

Sky Ecosystem : le revenu net du troisième trimestre atteint 37,19 millions de dollars, six trimestres de croissance consécutifs

Le président de la CFTC déclare que les réfrigérateurs peuvent être utilisés pour staker de l'ETH et émettre des Memecoins

63 % des Américains estiment qu'une réforme du système financier est nécessaire, les cryptomonnaies rencontrent des obstacles à la reconnaissance, selon une enquête de la DEF

A16z Frontier élargit le champ d'investissement en crypto

Cryptomonnaies : ce géant du capital-risque raye le mot de son nom et se tourne vers l’IA

Anthropic publie une bibliothèque open source de vérification formelle à grande échelle pour Claude

a16z prévoit de changer le nom de a16z Crypto en a16z Frontier

a16z supprime le nom Crypto et devient a16z Frontier

Citigroup : La tokenisation institutionnelle se tourne vers les infrastructures de production

Echelon lève des fonds pour soutenir son expansion dans l'intelligence artificielle

Anthropic lance GLM-5.3 avec des capacités d'utilisation de réseau de bout en bout

OpenAI propose un cadre de « justification de sécurité » pour l'entraînement de l'IA de pointe, suggérant de passer par des documents de sécurité avant de commencer

Galaxy ajoute 100 millions de dollars de sUSDS à sa trésorerie et achète des tokens SKY

0G lance une passerelle de staking liquide pour les crédits de calcul AI

BlocFesta 2026, se tiendra à Yeouido, Séoul, le 1er octobre

ESS Frontier poursuit Ostium pour demander un arbitrage contraignant

OpenAI soutient la proposition bipartite de réglementation de la sécurité de l'intelligence artificielle à la Chambre des représentants

Meta mise 18 milliards $ sur une IA censée deviner votre âge à partir de vos photos

Archer rejoint le programme Frontier Traders de la Fondation Solana

Mistral et HUMAIN vont construire une infrastructure d'IA souveraine en Arabie Saoudite

Le budget de l'Autorité des services financiers atteint un niveau record, avec un renforcement de la surveillance des actifs cryptographiques et de l'IA

Etched livre son premier rack d'inférence AI à Jane Street et lève 700 millions de dollars

SpaceX prévoit de construire une capacité de calcul AI de 10 GW d'ici 2027

Une vulnérabilité de sandbox dans Kimi K3 découverte, accès à GitHub toujours possible

11e anniversaire d'Ethereum : les développeurs principaux se remémorent le jour du lancement


