I modelli di intelligenza artificiale frontier adottano dati falsi, rivelando un difetto nascosto
Uno studio presentato su arXiv il 12 novembre ha scoperto che modelli di intelligenza artificiale più potenti potrebbero ripetere risposte falsificate quando modelli più deboli leggono le prove, rivelando un rischio di affidabilità nei sistemi che suddividono il lavoro tra modelli.
Nel loro articolo di novembre, i ricercatori Keegan Wang e Anantika Mannby hanno testato agenti su registrazioni fittizie e domande a due opzioni.
Hanno misurato le revisioni dannose: l'adozione della risposta errata dell'attaccante rispetto a una base corretta.
In un test di Claude Code di Anthropic, un supervisore Opus 5 ha scelto la risposta errata piantata in 1 su 180 prove quando leggeva i file da solo, rispetto a 75 su 180 quando delegava la lettura a Haiku 4.5. Questa condizione di falsificazione combinata ha unito diverse forme di prove false.
Un test separato di Codex di OpenAI ha utilizzato un'annotazione falsificata che rivendicava autorità, e GPT-5.6-sol non ha effettuato revisioni dannose in 180 prove di lettura diretta, contro 44 in 180 quando si affidava a GPT-5.6-terra. I confronti tra Claude Code e Codex hanno utilizzato attacchi diversi, limitando i confronti tra i prodotti.
Le prove delegate di Claude Code limitavano meccanicamente il supervisore al suo strumento Task, rimuovendo l'accesso diretto ai file, mentre la restrizione di delega di Codex era istruttiva e controllata per prova.
Un supervisore forte può ereditare l'errore di un lettore più debole
In uno studio del 12 novembre utilizzando registrazioni fittizie, un supervisore più forte potrebbe ripetere l'errore di un lettore più debole. Confronta le configurazioni testate.
Contatto diretto con le prove rispetto a un rapporto delegato Due percorsi di lettura da registrazioni genuine e falsificate. Il percorso diretto raggiunge un supervisore; il percorso delegato passa attraverso un aiuto più debole prima che il supervisore riceva un rapporto. IL PERCORSO DELLE PROVE Registrazioni genuine + falsificazioni piantate LETTURA DIRETTA Il supervisore legge i file LETTURA DELEGATA L'aiuto più debole legge Il supervisore riceve il rapporto dell'aiuto
Due percorsi di prove La lettura diretta pone i file davanti al supervisore. La lettura delegata pone un aiuto più debole tra i file e il supervisore. IL PERCORSO DELLE PROVE Registrazioni genuine + falsificazioni piantate LETTURA DIRETTA Il supervisore legge i file LETTURA DELEGATA L'aiuto più debole legge i file Il supervisore riceve il rapporto dell'aiuto
Confronta la configurazione testata
Confronta la configurazione testata Claude Code / stacked Codex / gloss
Opus 5: 1/180 lettura diretta, 75/180 con Haiku 4.5, e 0/180 con un aiuto dello stesso livello, sotto falsificazioni sovrapposte.
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate su 180 prove, su una scala comune da zero a 180. Revisioni dannose del supervisore / 180 prove 0 90 180 Lettura diretta Opus 5 1/180 Con aiuto più debole Haiku 4.5 75/180 Con aiuto dello stesso livello Opus 5 0/180
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate riportati su 180 prove per braccio. Revisioni dannose del supervisore / 180 Lettura diretta 1/180 Opus 5 Con aiuto più debole 75/180 Haiku 4.5 Con aiuto dello stesso livello 0/180 Opus 5 0 90 180 Stessa scala di conteggio per tutti e tre i bracci
GPT-5.6-sol: 0/180 lettura diretta, 44/180 con GPT-5.6-terra, e 1/180 con un aiuto dello stesso livello, sotto un gloss di autorità.
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate su 180 prove, su una scala comune da zero a 180. Revisioni dannose del supervisore / 180 prove 0 90 180 Lettura diretta GPT-5.6-sol 0/180 Con aiuto più debole GPT-5.6-terra 44/180 Con aiuto dello stesso livello GPT-5.6-sol 1/180
Revisioni dannose nella condizione selezionata Conteggi delle risposte errate riportati su 180 prove per braccio. Revisioni dannose del supervisore / 180 Lettura diretta 0/180 GPT-5.6-sol Con aiuto più debole 44/180 GPT-5.6-terra Con aiuto dello stesso livello 1/180 GPT-5.6-sol 0 90 180 Stessa scala di conteggio per tutti e tre i bracci
Fonti
- Wang e Mannby, v1, metodi e Tabella 1
- Record di invio arXiv, 12 novembre 2026
Fatti di supporto
- Keegan Wang e Anantika Mannby hanno presentato il loro studio sulla delega degli agenti su arXiv il 12 novembre 2026.
- Nella condizione di falsificazione sovrapposta di Claude Code, un supervisore Opus 5 ha effettuato 1 revisione dannosa in 180 prove di lettura diretta e 75 in 180 prove quando la lettura è stata delegata a Haiku 4.5.
- In una condizione separata di gloss di autorità di Codex, GPT-5.6-sol non ha effettuato revisioni dannose in 180 prove di lettura diretta e 44 in 180 con un lettore GPT-5.6-terra.
- Gli esperimenti hanno utilizzato registrazioni fittizie generate e domande a due opzioni, con prove genuine disponibili insieme a falsificazioni piantate.
- Le prove delegate di Claude Code limitavano meccanicamente il supervisore al suo strumento Task; la restrizione di delega di Codex era istruttiva e controllata per prova.
- Lettori dello stesso livello hanno ridotto le revisioni dannose nelle condizioni testate: Claude Code ha registrato 0 su 180 sotto gloss e sovrapposto, mentre Codex ha registrato 1 su 180 sotto gloss.
- I tassi dello studio sono stime da esperimenti costruiti; controlli abbinati erano possibili solo nel riferimento di supporto, e le esecuzioni ripetute hanno mostrato variazioni significative.
Metodo
Conteggi delle revisioni dannose riportati dalla Tabella 1. Ogni braccio utilizza 180 fatti fittizi. Le lunghezze delle barre sono conteggio / 180 su una scala condivisa; zero è un marcatore delineato. Le condizioni sono test separati, non una cronologia o un ranking di prodotto.
Ambito
Compiti sandbox con falsificazioni piantate. La delega di Claude Code era solo Task; la restrizione di Codex era istruttiva e controllata per prova. I due prodotti selezionati hanno utilizzato attacchi diversi. I tassi descrivono quelle configurazioni, non la prevalenza dei clienti.
Prezzo di --
Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.
Potrebbe interessarti anche

Il processo IPO di SpaceX e Anthropic è complesso, le banche di sottoscrizione si lamentano delle restrizioni severe

Tilray è un acquisto al suo minimo storico o è una trappola per investitori?

2 azioni finanziarie da acquistare vicino ai loro minimi di 52 settimane

Greg Abel ha appena approvato un record di 9,6 miliardi di dollari in riacquisti di azioni per Berkshire Hathaway nell'ultimo trimestre, più del doppio del ritmo stabilito nel secondo trimestre. Berkshire è ancora un acquisto mentre le azioni si trovan...

Solana si dirige verso il peggior anno della sua storia

Le uscite degli ETF XRP di novembre hanno raggiunto i 30,76 milioni di dollari

Opinione: La perdita di 6 trilioni di dollari del mercato azionario statunitense in 45 giorni non è il crollo della bolla AI, il rimbalzo di acquisto ad aprile 2025 potrebbe ripetersi

Il Nasdaq è nella sua terza correzione del 2026. Ecco la lezione che la maggior parte degli investitori sta trascurando.

Analista di Bank of America: L'andamento degli asset a rischio nel 2027 dipenderà da due questioni importanti

L'India propone di allentare le norme di divulgazione per i fondi esteri

L'ETF inarrestabile che comprerei oggi e terrei per decenni

Previsione: Nvidia Raggiungerà un Nuovo Massimo Storico nel 2027 (Suggerimento: Tieni d'Occhio Questo Indicatore)

L'emissione di obbligazioni in Europa supera per la prima volta i 20 trilioni di euro

Securitize riporta ricavi di 18,6 milioni di dollari nel terzo trimestre, perdite nette di 66,3 milioni di dollari

L'agenzia pensionistica giapponese registra la prima vendita netta di obbligazioni governative giapponesi

Sam Price osserva la continua discesa del Bitcoin

L'Ordine degli Avvocati della California richiede l'uso dell'IA per classificare i reclami contro gli avvocati

Il titolo Micron sale del 3,4% dopo il record IPO di Anthropic

Le scorte di rame degli Stati Uniti fluiscono verso la Cina, il premio di Yangshan raggiunge un nuovo record

Apple è diventata una delle principali partecipazioni di Buffett per un motivo. La comprerei con 1.000 dollari ora.

Il partito riformista britannico afferma che la pressione fiscale e la regolamentazione spingono i ricchi all'estero

La domanda di chip è in forte crescita, le esportazioni della Corea superano per la prima volta i 1000 miliardi di dollari

L'interesse per gli investimenti in AI spinge il mercato, riduzione delle posizioni in obbligazioni statunitensi all'estero di 75,5 miliardi di dollari

Investitori sudcoreani registrano acquisti netti di 11,5 miliardi di dollari in obbligazioni statunitensi a settembre

Micron è sottovalutata?

Perché le azioni di Alphabet non decollano dopo aver riportato una crescita record nel cloud?

Wells Fargo alza il prezzo obiettivo di Disney a 140 dollari, ottimismo per il business dei parchi a tema

Mercati emergenti: oltre 60 miliardi di dollari fuggiti in due mesi e cresce la paura per la crisi dell'IA

Monument Bank investe 250 milioni di sterline su Midnight, ma nasconde regole bancarie rigorose





