Un membro del consiglio di OpenAI: è ragionevole prevedere una catastrofe legata all'IA entro un anno

By: finance.sina.com.cn|

Un noto ricercatore sulla sicurezza dell'IA e membro del consiglio di amministrazione della holding di OpenAI, Paul Cristiano, ha lanciato un avvertimento sulle prospettive di sviluppo dell'intelligenza artificiale durante un'intervista in un popolare podcast tecnologico. Ha affermato che la possibilità che l'umanità perda completamente il controllo sull'IA sta rapidamente aumentando.

Il podcast è andato in onda lunedì, con il conduttore Devakish Patel. Cristiano ha dichiarato nel programma: "Attualmente esiste una ragionevole possibilità che nei prossimi sei mesi possa verificarsi una catastrofe, causando un gran numero di morti o la sovversione di governi." Il podcast ha solitamente milioni di ascoltatori, tra cui molti professionisti del settore tecnologico.

Cristiano ha affermato che la realizzazione di tali eventi dipende dalla velocità di iterazione della tecnologia dell'IA. Ha anche suggerito che, grazie alla tecnologia di auto-miglioramento ricorsivo, i modelli di IA possono auto-iterarsi e che la probabilità di raggiungere un punto critico pericoloso entro un anno è "piuttosto alta".

Questa dichiarazione segna un ulteriore inasprimento rispetto alle precedenti affermazioni pubbliche di Cristiano. È anche il direttore del Center for AI Alignment, un'organizzazione no-profit con sede a Berkeley, focalizzata sulla ricerca sull'allineamento dell'IA. Come ricercatore esperto che ha avvertito a lungo sui rischi della sicurezza dell'IA, è entrato a far parte del consiglio di amministrazione della OpenAI Foundation a settembre, che detiene il controllo su OpenAI. Cristiano ha sottolineato nell'intervista che le sue affermazioni rappresentano solo la sua posizione personale e non quella del consiglio di OpenAI.

Quando è entrato a far parte del consiglio, Cristiano aveva pubblicato un articolo pubblico stimando che il rischio di eventi catastrofici causati dalla perdita di controllo dell'umanità sull'IA fosse di circa il 4% nel prossimo anno.

Tuttavia, durante l'intervista di lunedì, ha affermato che negli ultimi mesi i progressi delle capacità dei modelli sono stati rapidi e ora stima che il rischio di un'IA che prenda il controllo sull'umanità nel prossimo anno sia "più vicino al 10%, piuttosto che all'1%". Ha dichiarato che se le grandi aziende non adotteranno ulteriori misure di protezione per mitigare i rischi derivanti dallo sviluppo dell'IA, questo valore di rischio aumenterà "significativamente".

Prezzo di --

--
--
--

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.

Potrebbe interessarti anche

iconiconiconiconiconiconiconicon
Assistenza clienti:@weikecs
Cooperazione aziendale:@weikecs
Trading quantitativo e MM:bd@weex.com
Programma VIP:support@weex.com