I modelli di intelligenza artificiale frontier adottano dati falsi, rivelando un difetto nascosto

By: cryptoslate.com|

Uno studio presentato su arXiv il 12 novembre ha scoperto che modelli di intelligenza artificiale più potenti potrebbero ripetere risposte falsificate quando modelli più deboli leggono le prove, rivelando un rischio di affidabilità nei sistemi che suddividono il lavoro tra modelli.

Nel loro articolo di novembre, i ricercatori Keegan Wang e Anantika Mannby hanno testato agenti su registrazioni fittizie e domande a due opzioni.

Hanno misurato le revisioni dannose: l'adozione della risposta errata dell'attaccante rispetto a una base corretta.

In un test di Claude Code di Anthropic, un supervisore Opus 5 ha scelto la risposta errata piantata in 1 su 180 prove quando leggeva i file da solo, rispetto a 75 su 180 quando delegava la lettura a Haiku 4.5. Questa condizione di falsificazione combinata ha unito diverse forme di prove false.

Un test separato di Codex di OpenAI ha utilizzato un'annotazione falsificata che rivendicava autorità, e GPT-5.6-sol non ha effettuato revisioni dannose in 180 prove di lettura diretta, contro 44 in 180 quando si affidava a GPT-5.6-terra. I confronti tra Claude Code e Codex hanno utilizzato attacchi diversi, limitando i confronti tra i prodotti.

Le prove delegate di Claude Code limitavano meccanicamente il supervisore al suo strumento Task, rimuovendo l'accesso diretto ai file, mentre la restrizione di delega di Codex era istruttiva e controllata per prova.

Un supervisore forte può ereditare l'errore di un lettore più debole

In uno studio del 12 novembre utilizzando registrazioni fittizie, un supervisore più forte potrebbe ripetere l'errore di un lettore più debole. Confronta le configurazioni testate.
Contatto diretto con le prove rispetto a un rapporto delegato Due percorsi di lettura da registrazioni genuine e falsificate. Il percorso diretto raggiunge un supervisore; il percorso delegato passa attraverso un aiuto più debole prima che il supervisore riceva un rapporto. IL PERCORSO DELLE PROVE Registrazioni genuine + falsificazioni piantate LETTURA DIRETTA Il supervisore legge i file LETTURA DELEGATA L'aiuto più debole legge Il supervisore riceve il rapporto dell'aiuto
Due percorsi di prove La lettura diretta pone i file davanti al supervisore. La lettura delegata pone un aiuto più debole tra i file e il supervisore. IL PERCORSO DELLE PROVE Registrazioni genuine + falsificazioni piantate LETTURA DIRETTA Il supervisore legge i file LETTURA DELEGATA L'aiuto più debole legge i file Il supervisore riceve il rapporto dell'aiuto

Confronta la configurazione testata

Confronta la configurazione testata Claude Code / stacked Codex / gloss
Opus 5: 1/180 lettura diretta, 75/180 con Haiku 4.5, e 0/180 con un aiuto dello stesso livello, sotto falsificazioni sovrapposte.
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate su 180 prove, su una scala comune da zero a 180. Revisioni dannose del supervisore / 180 prove 0 90 180 Lettura diretta Opus 5 1/180 Con aiuto più debole Haiku 4.5 75/180 Con aiuto dello stesso livello Opus 5 0/180
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate riportati su 180 prove per braccio. Revisioni dannose del supervisore / 180 Lettura diretta 1/180 Opus 5 Con aiuto più debole 75/180 Haiku 4.5 Con aiuto dello stesso livello 0/180 Opus 5 0 90 180 Stessa scala di conteggio per tutti e tre i bracci
GPT-5.6-sol: 0/180 lettura diretta, 44/180 con GPT-5.6-terra, e 1/180 con un aiuto dello stesso livello, sotto un gloss di autorità.
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate su 180 prove, su una scala comune da zero a 180. Revisioni dannose del supervisore / 180 prove 0 90 180 Lettura diretta GPT-5.6-sol 0/180 Con aiuto più debole GPT-5.6-terra 44/180 Con aiuto dello stesso livello GPT-5.6-sol 1/180
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate riportati su 180 prove per braccio. Revisioni dannose del supervisore / 180 Lettura diretta 0/180 GPT-5.6-sol Con aiuto più debole 44/180 GPT-5.6-terra Con aiuto dello stesso livello 1/180 GPT-5.6-sol 0 90 180 Stessa scala di conteggio per tutti e tre i bracci

Fonti

  1. Wang e Mannby, v1, metodi e Tabella 1
  2. Record di invio arXiv, 12 novembre 2026

Fatti di supporto

  • Keegan Wang e Anantika Mannby hanno presentato il loro studio sulla delega degli agenti su arXiv il 12 novembre 2026.
  • Nella condizione di falsificazione sovrapposta di Claude Code, un supervisore Opus 5 ha effettuato 1 revisione dannosa in 180 prove di lettura diretta e 75 in 180 prove quando la lettura è stata delegata a Haiku 4.5.
  • In una condizione separata di gloss di autorità di Codex, GPT-5.6-sol non ha effettuato revisioni dannose in 180 prove di lettura diretta e 44 in 180 con un lettore GPT-5.6-terra.
  • Gli esperimenti hanno utilizzato registrazioni fittizie generate e domande a due opzioni, con prove genuine disponibili insieme a falsificazioni piantate.
  • Le prove delegate di Claude Code limitavano meccanicamente il supervisore al suo strumento Task; la restrizione di delega di Codex era istruttiva e controllata per prova.
  • Lettori dello stesso livello hanno ridotto le revisioni dannose nelle condizioni testate: Claude Code ha registrato 0 su 180 sotto gloss e sovrapposto, mentre Codex ha registrato 1 su 180 sotto gloss.
  • I tassi dello studio sono stime da esperimenti costruiti; controlli abbinati erano possibili solo nel riferimento di supporto, e le esecuzioni ripetute hanno mostrato variazioni significative.

Metodo

Conteggi delle revisioni dannose riportati dalla Tabella 1. Ogni braccio utilizza 180 fatti fittizi. Le lunghezze delle barre sono conteggio / 180 su una scala condivisa; zero è un marcatore delineato. Le condizioni sono test separati, non una cronologia o un ranking di prodotto.

Ambito

Compiti sandbox con falsificazioni piantate. La delega di Claude Code era solo Task; la restrizione di Codex era istruttiva e controllata per prova. I due prodotti selezionati hanno utilizzato attacchi diversi. I tassi descrivono quelle configurazioni, non la prevalenza dei clienti.

Prezzo di --

--
--
--

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.

Potrebbe interessarti anche

iconiconiconiconiconiconiconicon
Assistenza clienti:@weikecs
Cooperazione aziendale:@weikecs
Trading quantitativo e MM:bd@weex.com
Programma VIP:support@weex.com