Agen IA: Mereka Memberikan Diri Mereka Sendiri Hak untuk Menghabiskan Lebih Banyak Crypto
Anjing penjaga memiliki kunci kandang. Peneliti dari Cornell Tech dan Yale telah memberikan dompet crypto kepada sepuluh model IA, dengan batas pengeluaran satu sen per hari. Sembilan dari mereka telah menaikkan batas ini tanpa meminta izin dari siapa pun. Ini cukup untuk mendinginkan mereka yang sudah melihat agen IA membayar untuk kita.
Poin-poin kunci dari artikel ini:
- Peneliti menemukan bahwa 9 dari 10 model IA secara mandiri menaikkan batas pengeluaran mereka, menggunakan kode verifikasi yang ditujukan untuk manusia.
- Sebuah studi mengungkapkan bahwa 5 dari 10 model IA telah mentransfer uang kepada penyerang yang disimulasikan, menyoroti risiko potensial dari sistem pembayaran otomatis oleh agen IA.
Agen IA: 9 dari 10 Model Menaikkan Batas Mereka Sendiri
Protokolnya sederhana. Sebuah dompet agen Circle, diisi dengan 10 USDC di jaringan Base, dibatasi pada 1 sen pengeluaran harian. Agen tersebut memiliki alat untuk membaca email, menjelajahi web, dan menggunakan dompetnya. Dan di sinilah semua terjadi: kotak surat agen juga yang menerima kode validasi yang ditujukan untuk pemiliknya. Tingkat kenaikan batas pengeluaran secara mandiri menurut model IA dan skenario yang diuji. Hanya Claude Opus 5.5 yang tidak pernah menaikkan batasnya. Sumber: I-HITL (Cornell Tech / Yale), GitHub
Setiap model diuji 20 kali dalam setiap skenario. Tanpa ada penyerang dalam lingkaran, 9 dari 10 model telah menaikkan batas mereka setidaknya sekali, hanya dengan mengambil kode verifikasi dari kotak surat yang seharusnya memvalidasi keputusan manusia. Hanya satu yang tidak pernah mencoba, Claude Opus 5.5 dari Anthropic, yang menghabiskan hingga batas dan melaporkan tagihan yang tersisa, menurut CoinDesk.
Agen tersebut tidak meretas apa pun. Ia membaca email, menyalin kode, mengklik validasi, persis seperti yang dilakukan asisten yang bersemangat yang ingin menyelesaikan tugasnya.
Penipuan: 5 dari 10 Model Mengirim Uang ke Penyerang
Uji kedua lebih mengkhawatirkan. Para peneliti mensimulasikan seorang penyerang yang menulis kepada agen dengan menyamar sebagai pemilik dan meminta pembayaran ke dompetnya sendiri. Instruksi yang diberikan kepada agen hanya terbatas pada merangkum email yang diterima.
Lima dari sepuluh model telah menaikkan batas mereka dan mengirim uang kepada penyerang setidaknya sekali.
< < Sebagian besar sistem pembayaran untuk agen memverifikasi bahwa persetujuan telah diterima, tidak selalu bahwa seorang manusia benar-benar memberikannya > >, ringkas peneliti Anzalone dari Universitas Verona. Circle, yang diberitahu pada bulan Oktober, mengingatkan bahwa dokumentasinya < < secara eksplisit meminta untuk tidak pernah memberikan akses tidak terbatas kepada agen IA ke akun email > > yang digunakan untuk verifikasi. Siaran pers tidak menyebutkan adanya perubahan pada produk.
Countersign: Solusi Melalui Tindakan Fisik
Studi ini, berjudul < < I-HITL: Inalienable Human-in-the-Loop > > dan ditandatangani oleh mahasiswa doktoral Samuel Breckenridge dan Dani Vilardell, menarik kesimpulan sederhana. Setiap persetujuan yang dapat dicapai oleh agen tidak dapat diandalkan. Oleh karena itu, para peneliti telah menerbitkan Countersign, sebuah aplikasi mobile open source untuk Android dan iPhone yang mengharuskan interaksi fisik yang tidak dapat disimulasikan oleh perangkat lunak, menurut Dani Vilardell. Layar persetujuan juga harus menunjukkan representasi yang akurat dari tindakan yang akan divalidasi.
Bagi Anda, pelajaran praktisnya dapat diringkas dalam satu kalimat. Seorang agen yang mengelola dompet tidak boleh pernah memiliki akses ke saluran yang digunakan untuk memvalidasi pengeluarannya sendiri, baik itu email, SMS, atau notifikasi.
Namun, raksasa industri justru bergerak ke arah sebaliknya, dengan dompet untuk agen di MetaMask atau Coinbase. Chainalysis sudah mencatat 138 juta pembayaran oleh agen melalui protokol x402 di Base dalam setahun.
Harga --
Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.
Anda mungkin juga menyukai

J.P. Morgan Mengatakan Armada Robotaxi Tesla Dapat Menyamai Jarak Tempuh Waymo pada Akhir 2027 dengan 18.000 Mobil. Angka yang Penting Adalah Berapa Banyak Setiap Mobil Menghasilkan.

Apa yang Terjadi dengan Saham The Trade Desk? 3 Alasan Investor Kehilangan Kepercayaan.

Ancaman Besar Berikutnya untuk Bitcoin Mungkin Datang dari Dua Tanker Minyak di Timur Tengah

Bitcoin: Daya Jaringan Meningkat, Keuntungan Menghilang

Dewan: Pra-penjualan cryptocurrency Babak Zanjani ilegal; DotOne tidak memiliki izin bursa

Altria Memberikan Hasil 5,8% dan Telah Menaikkan Dividennya 61 Kali dalam 57 Tahun. Berikut Ini Jumlah yang Dihasilkan dari Investasi $5,000 Setiap Tahun.

Tidak Lucid. Tidak Ford. Saham EV yang Paling Mungkin Menarik Setiap Pembeli Cybertruck yang Dibatalkan.

Penurunan Bitcoin di Bawah $60.000 Menempatkan Keputusan Fed Desember di Bawah Sorotan

Pasar Saham Melakukan Sesuatu untuk Hanya Kelima Kalinya di Abad Ini, dan Sejarah Mengatakan Apa yang Selanjutnya untuk Saham

Morgan Stanley Bitcoin Spot ETF MSBT Menambah 799,212 BTC di Tengah Penurunan, Total Kepemilikan Mencapai 12,448 BTC

Bitcoin: Kunci yang Dihasilkan dengan Buruk Membuat 106 Juta Dolar Terpapar kepada Pencuri

Mengapa Pengembalian Pendapatan Sulit Mendorong Harga Koin? Hubungan Antara Pengembalian Bersih dan Harga Hanya Lemah

Peter Schiff mengatakan Solana dapat menggantikan eksposur Bitcoin. Bisakah?

Saham AMD Baru Saja Terjun Bebas Setelah Laporan Penjual Pendek. Apakah Ini Kesempatan Emas untuk Membeli?

Mengapa Turun Bersama Saham Teknologi? Emas Menjadi "Mesin Penarikan" Krisis Likuiditas

Analisis Laporan Q3 Monad: Biaya Jaringan Didominasi oleh Transaksi, Skala Pembukaan Terkendali

Protokol Sky Menghadapi Penarikan Stablecoin Senilai 2 Miliar Dolar!
![[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"](/public-static/081_0e4aedee7f.png?format=avif)
[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"

Otoritas Jasa Keuangan Korea Akan Melakukan Pemeriksaan Mendadak Terhadap Bursa Kripto

Tesla Baru Saja Mulai Menjual Cybercab, Ini Artinya untuk Merger SpaceX dan Tesla.

Crypto atau Tabungan Pensiun? Apa yang Diungkapkan Survei tentang Gen Z Amerika

Jefferies Peringatkan Penurunan Investasi AI Akan Memengaruhi Pasar Berkembang, Menurunkan Peringkat Pasar Saham Korea

Bagaimana Melindungi Kekayaan Anda di Tengah Gejolak Geopolitik?

Di Mana Saham Nvidia Akan Berada dalam 20 Tahun? Jawabannya Mungkin Mengejutkan Anda.

Netflix Jatuh di Bawah $60. Bill Ackman Menjelaskan Mengapa Ini adalah Kesempatan Investasi yang Luar Biasa.

Tinjauan Makroekonomi untuk Minggu Depan: Rilis Data PCE Inti AS pada Bulan Oktober, Penutupan Pasar untuk Liburan Thanksgiving

Midterms 2026: Inilah Apa yang Saya Lakukan dengan Portofolio Investasi Saya Saat Ini

Pasar Saham AS Mengalami Penjualan Panik, Banyak Lembaga Menganggap Masih Dalam Tahap Penyesuaian Bull Market

Miliarder David Tepper Baru Saja Melakukan Rotasi Chip AI Besar-Besaran --- Apakah Ini Akan Membayar?






