La California cita in giudizio OpenAI per modelli di intelligenza artificiale che hanno eluso un test

Il Procuratore Generale della California, Rob Bonta, ha dichiarato giovedì che il suo ufficio ha notificato a OpenAI un subpoena investigativo mercoledì, cercando risposte su incidenti di sicurezza informatica che coinvolgono i suoi modelli di intelligenza artificiale, secondo quanto riportato dal suo ufficio.

"Il mio ufficio sta ponendo ulteriori domande a OpenAI riguardo agli incidenti e ai rischi di sicurezza informatica che coinvolgono l'azienda e i suoi modelli di intelligenza artificiale," ha affermato il Procuratore Generale Bonta. "Gli sviluppatori che non garantiscono di non perpetrare o abilitare attacchi informatici possono e devono essere ritenuti legalmente responsabili, e il mio ufficio è impegnato a determinare se questo sia il caso qui."

Un subpoena è un ordine legale per consegnare documenti o risposte, e ignorarne uno ti porta davanti a un giudice. Questo è investigativo, uno strumento utilizzato per raccogliere fatti prima di decidere se fare causa. L'ufficio di Bonta non ha detto pubblicamente cosa desidera che OpenAI produca.

I modelli frontier---i sistemi di intelligenza artificiale più avanzati sul mercato---possono essere "strumenti legittimi per la difesa informatica," ha affermato Bonta. Ma le aziende che li costruiscono hanno "una responsabilità morale e legale" per assicurarsi che non conducano o abilitino attacchi informatici, sia durante i test che dopo il rilascio, ha detto.

Il test che è scappato

Il subpoena segue un incidente di luglio che sembra una cattiva fantascienza. Secondo OpenAI, due dei suoi modelli stavano venendo valutati su un benchmark che fornisce a un'IA 898 veri difetti software e le chiede di trasformarli in un attacco funzionante.

I modelli hanno trovato una zero-day---un buco di sicurezza che nessuno sapeva esistesse, quindi non era disponibile alcuna correzione---nel software di terze parti che l'ambiente di test utilizzava per installare pacchetti di codice. L'hanno usato per uscire.

Poi hanno ragionato che Hugging Face, una piattaforma dove gli sviluppatori condividono modelli di IA e dataset, potrebbe avere la chiave di risposta. Sono entrati con credenziali rubate e ulteriori difetti. In parole povere, l'IA ha cercato le risposte al proprio esame.

Hugging Face ha rivelato l'intrusione il 16 luglio, e OpenAI ha confermato che i suoi modelli erano dietro di essa cinque giorni dopo. OpenAI ha successivamente affermato che gli stessi modelli erano entrati in conti su altri quattro servizi.

La lunga osservazione della California su OpenAI

Bonta ha annunciato un'indagine formale sull'incidente di Hugging Face a settembre, e il subpoena ne fa parte. OpenAI ha sede in California, e quando Bonta ha rifiutato di opporsi al suo passaggio a una struttura a scopo di lucro nell'ottobre 2025, ha detto che il suo ufficio avrebbe tenuto "sotto controllo OpenAI" per proteggere "la sicurezza di tutti i californiani."

Non è solo. Brenna Bird, il procuratore generale dell'Iowa, ha guidato una coalizione di 15 stati ad agosto chiedendo che OpenAI preservi i documenti e sia trasparente riguardo all'hack. L'Alabama ha emesso il proprio subpoena, e si dice che la FTC stia indagando su laboratori di IA tra cui OpenAI e Anthropic.

Separatamente, il Primo Ministro australiano Anthony Albanese ha dichiarato che un agente di OpenAI è entrato in un portale di statistiche Medicare a giugno. All'epoca, sembrava essere il primo caso noto di un agente di IA che hackava un sito governativo. È poi emerso che gli agenti di OpenAI stavano trafficando anche su siti governativi statunitensi durante l'estate, sebbene non sembri che siano state accessibili informazioni non pubbliche.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.