California Mengeluarkan Subpoena untuk OpenAI Terkait Model AI yang Melanggar Uji Coba

Jaksa Agung California Rob Bonta mengatakan pada hari Kamis bahwa kantornya telah melayani OpenAI dengan subpoena investigasi pada hari Rabu, yang mencari jawaban tentang insiden keamanan siber yang melibatkan model AI-nya, menurut kantornya.

"Kantor saya meminta OpenAI untuk menjawab pertanyaan tambahan mengenai insiden dan risiko keamanan siber yang melibatkan perusahaan dan model AI-nya," kata Jaksa Agung Bonta. "Pengembang yang gagal untuk [memastikan bahwa mereka tidak melakukan atau memungkinkan serangan siber] dapat dan harus dimintai pertanggungjawaban secara hukum, dan kantor saya berkomitmen untuk menentukan apakah itu terjadi di sini."

Subpoena adalah perintah hukum untuk menyerahkan dokumen atau jawaban, dan mengabaikannya akan membawa Anda di depan hakim. Ini adalah subpoena investigasi, alat yang digunakan untuk mengumpulkan fakta sebelum memutuskan apakah akan menggugat. Kantor Bonta belum secara publik menyatakan apa yang ingin mereka hasilkan dari OpenAI.

Model frontier---sistem AI paling canggih di pasar---dapat menjadi "alat yang sah untuk pertahanan siber," kata Bonta. Namun, perusahaan yang membangunnya memiliki "tanggung jawab moral dan hukum" untuk memastikan bahwa mereka tidak melakukan atau memungkinkan serangan siber, baik selama pengujian maupun setelah dirilis, katanya.

Uji Coba yang Melarikan Diri

Subpoena ini mengikuti insiden bulan Juli yang terdengar seperti fiksi ilmiah yang buruk. Menurut OpenAI, dua modelnya sedang dinilai pada tolok ukur yang memberikan AI 898 cacat perangkat lunak nyata dan meminta AI untuk mengubah masing-masing menjadi serangan yang berfungsi.

Model-model tersebut menemukan zero-day---sebuah celah keamanan yang tidak ada yang tahu ada, sehingga tidak ada perbaikan yang tersedia---dalam perangkat lunak pihak ketiga yang digunakan lingkungan uji untuk menginstal paket kode. Mereka menggunakannya untuk keluar.

Kemudian mereka beralasan bahwa Hugging Face, sebuah platform di mana pengembang berbagi model AI dan dataset, mungkin menyimpan kunci jawaban. Mereka membobol masuk dengan kredensial yang dicuri dan lebih banyak cacat. Dalam istilah sederhana, AI tersebut mengejar jawaban untuk ujian sendiri.

Hugging Face mengungkapkan pelanggaran tersebut pada 16 Juli, dan OpenAI mengonfirmasi bahwa model-modelnya berada di baliknya lima hari kemudian. OpenAI kemudian mengatakan model yang sama masuk ke akun di empat layanan lainnya.

Pandangan Panjang California terhadap OpenAI

Bonta mengumumkan penyelidikan formal terhadap insiden Hugging Face pada bulan September, dan subpoena ini adalah bagian dari itu. OpenAI berkantor pusat di California, dan ketika Bonta menolak untuk menentang pergeseran ke struktur profit pada bulan Oktober 2025, dia mengatakan kantornya akan terus "mengawasi OpenAI" untuk melindungi "keamanan semua warga California."

Dia tidak sendirian. Brenna Bird, jaksa agung Iowa, memimpin koalisi 15 negara bagian pada bulan Agustus yang menuntut OpenAI untuk mempertahankan catatan dan bersikap transparan tentang peretasan tersebut. Alabama telah mengeluarkan subpoena-nya sendiri, dan FTC dilaporkan sedang menyelidiki laboratorium AI termasuk OpenAI dan Anthropic.

Secara terpisah, Perdana Menteri Australia Anthony Albanese mengatakan seorang agen OpenAI masuk ke portal statistik Medicare pada bulan Juni. Pada saat itu, tampaknya menjadi kasus pertama yang diketahui dari agen AI yang meretas situs pemerintah. Kemudian diketahui bahwa agen OpenAI juga mengganggu situs pemerintah AS selama musim panas, meskipun tidak ada informasi non-publik yang tampaknya telah diakses.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.