Un membro del consiglio di OpenAI: è ragionevole prevedere una catastrofe legata all'IA entro un anno
Un noto ricercatore sulla sicurezza dell'IA e membro del consiglio di amministrazione della holding di OpenAI, Paul Cristiano, ha lanciato un avvertimento sulle prospettive di sviluppo dell'intelligenza artificiale durante un'intervista in un popolare podcast tecnologico. Ha affermato che la possibilità che l'umanità perda completamente il controllo sull'IA sta rapidamente aumentando.
Il podcast è andato in onda lunedì, con il conduttore Devakish Patel. Cristiano ha dichiarato nel programma: "Attualmente esiste una ragionevole possibilità che nei prossimi sei mesi possa verificarsi una catastrofe, causando un gran numero di morti o la sovversione di governi." Il podcast ha solitamente milioni di ascoltatori, tra cui molti professionisti del settore tecnologico.
Cristiano ha affermato che la realizzazione di tali eventi dipende dalla velocità di iterazione della tecnologia dell'IA. Ha anche suggerito che, grazie alla tecnologia di auto-miglioramento ricorsivo, i modelli di IA possono auto-iterarsi e che la probabilità di raggiungere un punto critico pericoloso entro un anno è "piuttosto alta".
Questa dichiarazione segna un ulteriore inasprimento rispetto alle precedenti affermazioni pubbliche di Cristiano. È anche il direttore del Center for AI Alignment, un'organizzazione no-profit con sede a Berkeley, focalizzata sulla ricerca sull'allineamento dell'IA. Come ricercatore esperto che ha avvertito a lungo sui rischi della sicurezza dell'IA, è entrato a far parte del consiglio di amministrazione della OpenAI Foundation a settembre, che detiene il controllo su OpenAI. Cristiano ha sottolineato nell'intervista che le sue affermazioni rappresentano solo la sua posizione personale e non quella del consiglio di OpenAI.
Quando è entrato a far parte del consiglio, Cristiano aveva pubblicato un articolo pubblico stimando che il rischio di eventi catastrofici causati dalla perdita di controllo dell'umanità sull'IA fosse di circa il 4% nel prossimo anno.
Tuttavia, durante l'intervista di lunedì, ha affermato che negli ultimi mesi i progressi delle capacità dei modelli sono stati rapidi e ora stima che il rischio di un'IA che prenda il controllo sull'umanità nel prossimo anno sia "più vicino al 10%, piuttosto che all'1%". Ha dichiarato che se le grandi aziende non adotteranno ulteriori misure di protezione per mitigare i rischi derivanti dallo sviluppo dell'IA, questo valore di rischio aumenterà "significativamente".
Prezzo di --
Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.
Potrebbe interessarti anche

Johnson & Johnson è sulla buona strada per 101 miliardi di dollari di vendite nel 2026. Questo re dei dividendi è ancora un buon acquisto?

Il processo IPO di SpaceX e Anthropic è complesso, le banche di sottoscrizione si lamentano delle restrizioni severe

Il miliardario David Tepper ha appena effettuato un'enorme rotazione nei chip AI - Ne varrà la pena?

Il Bitcoin è stato scambiato al di sotto della sua media a 200 settimane solo l'8,4% del tempo. La storia dice che è in questo momento che gli investitori pazienti vengono ricompensati.

Il volume di scambi istituzionali su Kalshi cresce del 4124% in sei mesi, raggiungendo 26,3 miliardi di dollari

Solana si dirige verso il peggior anno della sua storia

Se i chip AI diventano merci, Nvidia ha molto da perdere, mentre queste 3 azioni sono pronte a guadagnare

3 azioni di energia per data center in calo di oltre un terzo dai loro massimi da acquistare ora e mantenere fino al 2030

SBF parla per la prima volta della vendita di Anthropic: c'è una probabilità del 25% che l'IA distrugga l'umanità, i giovani devono comprendere a fondo l'IA

L'S&P 500 è appena entrato in territorio di correzione. Ecco cosa significa per gli investitori in questo momento.

È finita l'era in cui il settore delle criptovalute guadagnava facilmente? Quattro strategie che estraggono liquidità dal mercato

DWF Labs: Il Bitcoin non è oro digitale, segue il Nasdaq

L'hack di Fluidkey da 1,6 milioni di dollari espone un rischio di sicurezza anche quando le chiavi private non lasciano mai i dispositivi degli utenti

Previsione: Rocket Lab triplicherà il suo fatturato entro il 2028. Ecco cosa significherebbe per le azioni.

Take-Two Interactive vs. Anthropic: Quale azione in movimento di mercato è il miglior acquisto?

Solo il 2,5% dei recenti depositi di Bitcoin è in profitto

Securitize paga il suo primo dividendo in azioni Apple tokenizzate in USDC

Walsh vuole che i funzionari della Fed parlino meno, ma i loro interventi sono aumentati

Arthur Hayes sta comprando il ribasso dopo aver trasferito 5 milioni di dollari in USDC?

Panoramica di 6 nuovi progetti di mining AI, forse il settore più interessante dopo la narrativa sulla privacy

Vulnerabilità nella firma dei portafogli Bitcoin sfruttabile da robot in pochi secondi

Paul Klay di BeginVC: Perché è sempre più difficile guadagnare nel settore delle criptovalute?

I compratori di Bitcoin affrontano un problema di trading mentre le stablecoin subiscono la loro maggiore diminuzione dell'offerta dal 2022

Il prezzo delle azioni di Nvidia è sceso del 40% rispetto al picco, ma ci sono ancora speranze

La cultura aziendale di Anthropic

NEAR sta riducendo l'inflazione. Chi paga il costo di meno nuovi token?

Perché Bending Spoons potrebbe scegliere di emettere obbligazioni convertibili

Quali aziende quotate sono state riscritte dai modelli AI dopo il campanello di Anthropic?

La Francia chiede regole più severe dell'UE sulle criptovalute riguardo a staking, pubblicità e sicurezza degli investitori
Perché alcuni token crypto VTC6 sono crollati dopo il lancio di GTA 6?
Scopri perché alcuni token crypto VTC6 sono scesi in occasione del lancio di GTA 6. Confronta tre mint Solana, attività di vendita, riserve dei pool e prove di un rug pull.









