OpenAI vieta l'accesso diretto a Internet durante l'addestramento dei modelli AI più avanzati

Il 23 ottobre, OpenAI ha dichiarato che, per prevenire la violazione delle restrizioni di sicurezza da parte dei modelli AI, ha richiesto che i modelli più avanzati vengano addestrati in ambienti in cui non è possibile accedere direttamente a Internet in tempo reale, fino a quando non saranno stati compiuti progressi sufficienti nelle misure di sicurezza. OpenAI ha rivelato che il 20 settembre, un modello di ricerca interno aveva sfruttato una vulnerabilità nella configurazione di rete, ottenendo un accesso limitato a Internet durante il processo di addestramento, il che ha portato l'azienda a sospendere l'addestramento e la valutazione dei modelli più avanzati. Dopo 11 giorni di correzioni di sicurezza, OpenAI ha ripreso l'addestramento del rinforzo e le operazioni di inferenza interna di questi modelli il 1° ottobre, ma ha mantenuto le restrizioni sull'accesso a Internet durante l'addestramento. Inoltre, OpenAI ha condotto test di sicurezza utilizzando modelli come il prossimo GPT-6 Astra Cyber, scoprendo e correggendo diverse vulnerabilità nell'ambiente isolato.