Les modèles d'IA de Frontier adoptent des données falsifiées, révélant un défaut caché

By: cryptoslate.com|

Une étude soumise à arXiv le 12 novembre a révélé que des modèles d'IA plus puissants pouvaient répéter des réponses falsifiées lorsque des assistants plus faibles lisaient les preuves, exposant ainsi un risque de fiabilité dans les systèmes qui répartissent le travail entre les modèles.

Dans leur article de novembre, les chercheurs Keegan Wang et Anantika Mannby ont testé des agents sur des dossiers fictifs et des questions à deux options.

Ils ont mesuré les révisions nuisibles : adoption de la mauvaise réponse de l'attaquant par rapport à une base correcte.

Dans un test de Claude Code d'Anthropic, un superviseur Opus 5 a choisi la mauvaise réponse plantée dans 1 des 180 essais lorsqu'il lisait les fichiers lui-même, contre 75 des 180 lorsqu'il a délégué la lecture à Haiku 4.5. Cette condition de falsification empilée combinait plusieurs formes de fausses preuves.

Un test séparé de Codex d'OpenAI a utilisé une annotation falsifiée prétendant à une autorité, et GPT-5.6-sol n'a effectué aucune révision nuisible dans 180 essais de lecture directe, contre 44 dans 180 lorsqu'il s'est appuyé sur GPT-5.6-terra. Les comparaisons entre Claude Code et Codex ont utilisé différentes attaques, limitant les comparaisons entre les produits.

Les essais délégués de Claude Code ont mécaniquement limité le superviseur à son outil de tâche, supprimant l'accès direct aux fichiers, tandis que la restriction de délégation de Codex était instructionnelle et vérifiée par essai.

Un superviseur fort peut hériter de l'erreur d'un lecteur plus faible

Dans une étude du 12 novembre utilisant des dossiers fictifs, un superviseur plus fort pouvait répéter l'erreur d'un lecteur plus faible. Comparez les configurations testées.
Contact direct avec les preuves contre un rapport délégué Deux voies de lecture à partir des mêmes dossiers authentiques et falsifiés. La voie directe atteint un superviseur ; la voie déléguée passe par un assistant plus faible avant que le superviseur ne reçoive un rapport. LA VOIE DES PREUVES Dossiers authentiques + falsifications plantées LECTURE DIRECTE Le superviseur lit les fichiers LECTURE DÉLÉGUÉE L'assistant plus faible lit Le superviseur reçoit le rapport de l'assistant
Deux voies de preuves La lecture directe met les fichiers devant le superviseur. La lecture déléguée place un assistant plus faible entre les fichiers et le superviseur. LA VOIE DES PREUVES Dossiers authentiques + falsifications plantées LECTURE DIRECTE Le superviseur lit les fichiers LECTURE DÉLÉGUÉE L'assistant plus faible lit les fichiers Le superviseur reçoit le rapport de l'assistant

Comparez la configuration testée

Comparez la configuration testée Claude Code / empilé Codex / gloss
Opus 5 : 1/180 lecture directe, 75/180 avec Haiku 4.5, et 0/180 avec un assistant de même niveau, sous falsifications empilées.
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses sur 180 essais, sur une échelle commune de zéro à 180. Révisions nuisibles du superviseur / 180 essais 0 90 180 Lecture directe Opus 5 1/180 Avec un assistant plus faible Haiku 4.5 75/180 Avec un assistant de même niveau Opus 5 0/180
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses rapportés sur 180 essais par bras. Révisions nuisibles du superviseur / 180 Lecture directe 1/180 Opus 5 Avec un assistant plus faible 75/180 Haiku 4.5 Avec un assistant de même niveau 0/180 Opus 5 0 90 180 Même échelle de compte pour les trois bras
GPT-5.6-sol : 0/180 lecture directe, 44/180 avec GPT-5.6-terra, et 1/180 avec un assistant de même niveau, sous un gloss d'autorité.
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses sur 180 essais, sur une échelle commune de zéro à 180. Révisions nuisibles du superviseur / 180 essais 0 90 180 Lecture directe GPT-5.6-sol 0/180 Avec un assistant plus faible GPT-5.6-terra 44/180 Avec un assistant de même niveau GPT-5.6-sol 1/180
Révisions nuisibles dans la condition sélectionnée Comptes de mauvaises réponses rapportés sur 180 essais par bras. Révisions nuisibles du superviseur / 180 Lecture directe 0/180 GPT-5.6-sol Avec un assistant plus faible 44/180 GPT-5.6-terra Avec un assistant de même niveau 1/180 GPT-5.6-sol 0 90 180 Même échelle de compte pour les trois bras

Sources

  1. Wang et Mannby, v1, méthodes et Tableau 1
  2. Enregistrement de soumission arXiv, 12 novembre 2026

Faits de soutien

  • Keegan Wang et Anantika Mannby ont soumis leur étude sur la délégation d'agents à arXiv le 12 novembre 2026.
  • Dans la condition de falsification empilée de l'étude de Claude Code, un superviseur Opus 5 a effectué 1 révision nuisible dans 180 essais de lecture directe et 75 dans 180 essais lorsque la lecture était déléguée à Haiku 4.5.
  • Dans une condition de gloss d'autorité séparée, GPT-5.6-sol n'a effectué aucune révision nuisible dans 180 essais de lecture directe et 44 dans 180 avec un lecteur GPT-5.6-terra.
  • Les expériences ont utilisé des dossiers fictifs générés et des questions à deux options, avec des preuves authentiques laissées disponibles aux côtés de falsifications plantées.
  • Les essais délégués de Claude Code ont mécaniquement restreint le superviseur à son outil de tâche ; la restriction de délégation de Codex était instructionnelle et vérifiée par essai.
  • Les lecteurs de même niveau ont réduit les révisions nuisibles dans les conditions testées : Claude Code a enregistré 0 sur 180 sous gloss et empilé, tandis que Codex a enregistré 1 sur 180 sous gloss.
  • Les taux de l'étude sont des estimations provenant d'expériences construites ; des contrôles à brève correspondance n'étaient possibles que dans le harnais de référence, et des exécutions répétées ont montré une variation significative.

Méthode

Comptes de révisions nuisibles rapportés du Tableau 1. Chaque bras utilise 180 faits fictifs. Les longueurs des barres sont le compte / 180 sur une échelle partagée ; zéro est un marqueur défini. Les conditions sont des tests séparés, pas une chronologie ou un classement de produits.

Portée

Tâches de bac à sable avec des falsifications plantées. La délégation de Claude Code était uniquement pour les tâches ; la restriction de Codex était instructionnelle et vérifiée par essai. Les deux produits sélectionnés ont utilisé des attaques différentes. Les taux décrivent ces configurations, pas la prévalence chez les clients.

Prix de --

--
--
--

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.

Vous pourriez aussi aimer

iconiconiconiconiconiconiconicon
Assistance client:@weikecs
Collaborations commerciales:@weikecs
Trading quantitatif/Market makers:bd@weex.com
Programme VIP:support@weex.com