Google afferma che l'IA non si sta costruendo da sola—anche se scrive il 75% del codice

Google DeepMind ha cercato prove che l'IA stia accelerando lo sviluppo dell'IA stessa. Non ne ha trovate.

Nel rapporto di sicurezza per Gemini 4 Argon, il suo modello più potente, il laboratorio ha concluso che la ricerca sull'IA non sta procedendo più velocemente, anche se ora l'IA scrive la maggior parte del codice che gli ingegneri di DeepMind producono.

Il risultato contrasta con lo scenario che ha spaventato i dirigenti dell'IA, portandoli a chiedere un rallentamento. Si chiama miglioramento ricorsivo: un'IA costruisce una versione più intelligente di se stessa, che ne costruisce una ancora più intelligente, fino a quando i progressi superano la capacità di chiunque di testare, regolare o spegnerla—quello che il rapporto definisce "una situazione in cui le attuali protezioni sono gravemente inadeguate."

"Attualmente non c'è un'accelerazione significativa end-to-end della R dD ML, guidata dall'IA o meno," ha scritto Haydn Belfield, un ricercatore di Google DeepMind che ha lavorato sulla valutazione, in un thread su X. "Pertanto concludiamo che il rischio derivante dalla R dD ML guidata dall'IA è attualmente basso."

La R dD ML è l'abbreviazione per la ricerca e sviluppo dell'apprendimento automatico, il lavoro di costruzione di nuovi modelli di IA.

1/9

Nel Rapporto di Sicurezza e Sicurezza di Gemini 4 Argon, abbiamo pubblicato la nostra prima valutazione empirica olistica dell'automazione e dell'accelerazione della R dD ML all'interno di Google DeepMind --- combinando benchmark di capacità, un indice di capacità macro, dati sul codice scritto dall'IA e risultati di traiettoria, e... pic.twitter.com/Vr8Q5Obbsp

--- Haydn Belfield (@HaydnBelfield) 14 ottobre 2026

DeepMind tiene traccia della questione perché "l'IA potrebbe accelerare i guadagni di capacità di frontiera più velocemente di quanto la sicurezza, la governance e l'adattamento sociale possano tenere il passo," ha scritto Belfield. Maggiore automazione significa anche dare agli agenti IA un accesso più ampio ai sistemi aziendali, più spazio per un modello disallineato (uno che persegue obiettivi che i suoi creatori non avevano mai inteso) per causare problemi.

Per misurare i progressi, il team ha costruito GCI v1, un indice interno che combina i punteggi di 123 modelli di IA su 92 benchmark in un singolo numero per modello---pensalo come un punteggio IQ per l'IA. "Le capacità di frontiera di Gemini sono migliorate a un ritmo notevolmente costante di ~0.1 punti GCI/mese," ha scritto Belfield.

Nel grafico di quell'indice del rapporto, Gemini 1.5 Pro si trova vicino a 0.5 punti alla fine del 2024 e Gemini 3.8 Flash appena sopra 2.9 a settembre 2026, con quasi ogni rilascio che segue una linea retta. Argon è l'unico punto che sporge sopra di esso, a circa 3.3, anche se la sua barra di errore (l'intervallo in cui il suo punteggio reale potrebbe plausibilmente cadere) si estende abbastanza in basso da toccare la tendenza.

"Sebbene Gemini 4 Argon si trovi sopra [la] tendenza, tracciamo questo a un aumento degli investimenti in calcolo e organizzativi piuttosto che a un'accelerazione guidata dall'IA," ha scritto Belfield. Google ha svelato Gemini 4 Argon il 30 settembre.

La maggior parte del codice di produzione in DeepMind è ora più del 75% scritto dall'IA, e la quota di richieste di pull completamente delegate (pacchetti di modifiche al codice presentati per revisione prima di andare in diretta) è aumentata dal 7.5% all'11.9% tra aprile e settembre. Ma "~88% delle richieste di pull richiede ancora una guida umana a più turni o la paternità del codice umano---e le modifiche al codice rimangono soggette a revisione umana prima della presentazione," ha scritto Belfield.

Un sondaggio tra 12 leader e ricercatori senior di DeepMind ha trovato che l'automazione è più alta in "compiti di esecuzione ben specificati e verificabili e più bassa in ideazione scientifica aperta, progettazione sperimentale nuova, diagnosi di instabilità di addestramento sottili e gusto per la ricerca a lungo termine." In termini semplici, l'IA è brava nell'eseguire istruzioni e cattiva nel decidere quali idee valga la pena perseguire.

DeepMind ha anche esaminato 1.389 registri di Argon che lavorava come agente all'interno dell'azienda. Più grande è il compito, meno è probabile che il modello lo completi da solo e più spesso un umano interviene.

Il rapporto è arrivato un mese dopo che il CEO di Anthropic, Dario Amodei, ha sostenuto che il miglioramento ricorsivo sta già accelerando, un avvertimento che Sam Altman ed Elon Musk hanno avallato e che ha fatto scendere le azioni dei chip di quasi il 6%. Giorni prima, l'ex ingegnere di Anthropic Jacob Coxon aveva lasciato l'industria, avvertendo che l'IA potrebbe "ucciderci tutti entro la fine del decennio."

I numeri di DeepMind coprono solo il proprio laboratorio, e lo stesso rapporto afferma che non può escludere che un Argon non regolamentato superi le sue soglie di pericolo per attacchi informatici e informazioni su armi biologiche.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.