CEO Anthropic Menanggapi Keraguan Keamanan AI, Menekankan Pentingnya Teknologi Terkini

Anthropic menghadapi keraguan terhadap draf undang-undang keamanan AI yang diajukan kepada anggota Kongres AS, di mana draf tersebut menetapkan ambang tinggi untuk pemerintah dalam menghentikan model berbahaya secara mendesak, dengan syarat risiko yang melibatkan senjata biologis, serangan siber, atau AI yang tidak terkendali, yang dapat menyebabkan lebih dari 50 kematian atau cedera serius, atau kerugian lebih dari 1 miliar dolar AS. Beberapa ketentuan mungkin membatasi kewenangan pengawasan pemerintah negara bagian. Nathan Calvin, kepala strategi organisasi keamanan AI Encode AI, menunjukkan bahwa Anthropic telah mengubah kebijakan keamanannya yang awalnya ketat pada bulan Februari tahun ini, menghapus persyaratan untuk menghentikan pengembangan secara mandiri pada tahap risiko yang lebih tinggi, dengan alasan bahwa pesaing mungkin memanfaatkan kesempatan tersebut untuk melampaui mereka. Pada saat yang sama, Anthropic menginvestasikan kekuatan komputasi yang besar, membentuk tim chip, dan memberikan lebih banyak tugas pengembangan AI kepada Claude. Pada 21 Oktober, CEO Anthropic Dario Amodei memposting di X untuk membantah keraguan tersebut, mengakui bahwa perusahaan pernah melakukan kesalahan, tetapi bersikeras bahwa mengejar kemampuan AI yang paling maju tidak bertentangan dengan misi keamanan, menekankan bahwa hanya dengan tetap berada di garis depan teknologi, industri dapat mendorong peningkatan standar keamanan. Dia mencantumkan sembilan keputusan keamanan yang pernah membuat perusahaan mengalami kerugian komersial, termasuk membatasi model tingkat Mythos untuk dibuka selama beberapa bulan, serta membatasi permintaan terkait biologi secara ketat. Peta jalan keamanan yang diperbarui perusahaan pada 19 Oktober menyatakan bahwa kebijakan yang ada terutama ditujukan untuk penerapan model berbahaya, dan di masa depan mungkin perlu membatasi kecepatan pengembangan secara langsung, serta berencana untuk mengajukan proposal kebijakan terkait sebelum 15 Januari 2027, atau menjelaskan mengapa tidak ada proposal yang diajukan.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.