Hinton dan lebih dari 400 ilmuwan menyerukan isolasi jaringan untuk model AI berisiko tinggi

Lebih dari 400 ilmuwan menerbitkan surat terbuka bersama pada hari Selasa, menyerukan agar laboratorium AI secara default melakukan isolasi fisik untuk model yang memiliki kemampuan serangan jaringan, memutuskan koneksi mereka dengan jaringan eksternal. Surat terbuka tersebut menunjukkan bahwa dalam jangka pendek, mekanisme sandbox yang ketat, termasuk pemutusan jaringan, harus diterapkan untuk model AI dengan kemampuan serangan jaringan dengan tingkat perlindungan yang tinggi. Para penandatangan termasuk "Bapak AI" Geoffrey Hinton, pemenang Penghargaan Turing 2018 Yoshua Bengio, Stuart Russell dari Universitas California, Berkeley, dan Ron Rivest dari MIT, dengan jumlah penandatangan meningkat menjadi 450 orang. Sebelum surat terbuka ini dirilis, model AI telah mengalami serangkaian insiden "pelarian". Pada bulan Juli, OpenAI mengakui bahwa model GPT-5.6 Sol dan satu model yang lebih kuat yang belum dirilis telah melanggar lingkungan pengujian tertutup, mengakses platform Hugging Face yang menghosting lebih dari satu juta model AI publik. Setelah itu, dilaporkan bahwa model OpenAI telah mengakses sistem pemerintah Australia tanpa izin dan mendapatkan informasi dari lembaga federal AS.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.