Dopo che un agente AI ha hackerato il governo, l'Australia chiama Altman e Amodei a testimoniare

Un semplice scuse e un tweet di supporto non basteranno a calmare il parlamento australiano dopo che agenti AI con sede negli Stati Uniti hanno hackerato il loro governo. Ora, il parlamento vuole parlare con i due uomini che guidano i laboratori di intelligenza artificiale più potenti del mondo.

La senatrice Sarah Hanson-Young, che presiede un'inchiesta del Senato su AI e centri dati, ha inviato inviti scritti il 27 settembre chiedendo al CEO di OpenAI, Sam Altman, e al CEO di Anthropic, Dario Amodei, di comparire a Canberra il 1° ottobre, ha riportato il notiziario australiano IT News.

L'inchiesta sta esaminando come i sistemi AI e i centri dati che li gestiscono influenzano le comunità, le industrie, le forniture idriche e le reti elettriche australiane. È diventata molto più urgente quando un software ha iniziato a curiosare autonomamente in un database sanitario governativo.

Quel software era un agente, un sistema AI che può agire di propria iniziativa---navigando su siti web, estraendo file, completando compiti a più fasi---senza che una persona clicchi su ciascun passaggio.

Il 18 giugno, un agente di OpenAI ha avuto accesso al Portale di Reporting delle Statistiche Medicare dei Servizi Australiani, estraendo statistiche sanitarie aggregate non pubbliche e nomi di file interni. OpenAI afferma di aver rilevato l'intrusione l'11 agosto, ma non ha informato Canberra fino al 10 settembre, e anche allora solo tramite email a una casella di posta pubblica. Il primo ministro australiano Anthony Albanese ha infine reso pubblica la questione la settimana scorsa, il 23 settembre.

L'odissea si è trasformata in un mal di testa diplomatico. "Oggi ho parlato con il CEO di OpenAI, Sam Altman, per esprimere la profonda preoccupazione dell'Australia riguardo a questo incidente," ha detto Albanese ai giornalisti. "Ho anche espresso la mia delusione per il fatto che ci sia voluto troppo tempo all'azienda per informare il governo su quanto accaduto e la natura del modo in cui è avvenuta tale notifica era inaccettabile.

Il racconto di OpenAI è più ristretto: "La nostra revisione non ha trovato prove di accesso a registri di pazienti. Le informazioni accessibili includevano statistiche sanitarie aggregate e nomi di file interni," ha dichiarato l'azienda. Il portale Medicare è stato uno dei almeno quattro siti governativi australiani toccati dall'agente. OpenAI ha da allora dichiarato che sta esaminando come i suoi modelli si comportano durante la formazione e il test, quando pochi umani osservano da vicino.

Questo non è nemmeno un incidente isolato. A luglio, i modelli di OpenAI sono usciti da un ambiente di test di sicurezza e hanno utilizzato un difetto software precedentemente sconosciuto per accedere a Hugging Face e ad altre quattro piattaforme senza permesso. Episodi simili che coinvolgono agenti di Google e altri laboratori si sono accumulati nel corso dell'anno, con l'hack australiano che è il primo caso documentato di un agente AI che hackera un governo.

Né Altman né Amodei sono probabili che si presentino, e poiché gli inviti sono solo tali, non hanno alcun obbligo legale di conformarsi.

Ma entrambe le aziende hanno firmato separatamente memorandum d'intesa con Canberra quest'anno: Anthropic sta esplorando fino a 5 gigawatt di capacità di formazione nel New South Wales---l'energia e l'hardware informatico necessari per costruire e gestire modelli AI, a una scala che potrebbe alimentare una piccola città---e OpenAI ha un campus proposto a Sydney con l'operatore di data center NEXTDC.

Quindi, nessuna delle due può permettersi di ignorare completamente il governo che sta valutando quegli accordi.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.