Vitalik Buterin Mengidentifikasi Keterampilan di Mana Manusia Memiliki Keunggulan atas AI

Vitalik Buterin menunjukkan batasan AI: meskipun pengetahuannya luas, AI kesulitan untuk menilai kedalaman sebuah teks, terutama saat pertama kali menemukannya. Bagi salah satu pendiri Ethereum ini, perbedaan antara pengetahuan dan kebijaksanaan layak mendapatkan perhatian khusus.

Singkatnya

• Pada 29 Oktober, Vitalik Buterin menggambarkan AI sebagai "sangat berpengetahuan", tetapi "tidak terlalu bijaksana", terutama saat menilai sebuah teks.
• Menurutnya, model-model mengalami lebih banyak kesulitan ketika menghadapi tulisan yang belum pernah dilihat sebelumnya, yang tidak memiliki komentar manusia dalam data pelatihan mereka.
• Dia juga menekankan perbedaan penting: kita dapat dengan mudah memverifikasi pengetahuan sebuah model, tetapi jauh lebih sulit untuk mengukur kebijaksanaannya.

AI Tahu Referensi, Tapi Apakah Ia Memahami Ide?

Vitalik Buterin secara teratur mengungkapkan keraguannya terhadap agen AI, seperti pada bulan Oktober dengan "mode paranoid"-nya. Pada 29 Oktober pukul 4:11 UTC, ia menerbitkan pemikiran baru sebagai tanggapan kepada penulis Ruxandra Teslo.

Diskusi ini mengikuti artikel dari Wall Street Journal tentang Humanities 10, sebuah kursus tahun pertama di Harvard yang melarang mahasiswa menggunakan telepon dan komputer selama satu tahun.

Dalam pesannya di X, Vitalik menjelaskan bahwa AI dapat mengerahkan pengetahuan tentang hampir semua topik, tanpa menunjukkan penilaian yang mendalam. Ia berisiko hanya berhenti pada aspek paling dangkal dari sebuah teks, tanpa sepenuhnya memahami jangkauan argumennya.

Pernyataan ini muncul dalam debat tentang kualitas interaksi dengan chatbot. Beberapa orang menganggap mereka sebagai lawan bicara yang lebih baik daripada kebanyakan manusia untuk mendiskusikan klasik besar. Sebaliknya, seorang penulis berpendapat bahwa komentar mereka tentang esainya sering kali hanya berupa jawaban yang kosong.

Pembacaan Pertama

Bagi Vitalik Buterin, batasan ini terutama muncul ketika model menemukan sebuah teks untuk pertama kalinya. Sebuah karya terkenal mendapatkan manfaat dari puluhan tahun kritik, analisis, dan komentar yang dapat ditemukan AI dalam data pelatihannya. Sebuah esai terbaru, di sisi lain, tidak memiliki sejarah yang sama.

Model harus lebih mengandalkan teks itu sendiri, tanpa dapat memanfaatkan sebanyak analisis yang sudah ada. Perbedaan ini sangat penting dalam kripto, di mana tim menggunakan agen AI untuk memeriksa buku putih, audit, atau proposal tata kelola.

Namun, beberapa pengembang sudah memperingatkan tentang celah yang mungkin dieksploitasi AI tanpa sepenuhnya memahami implikasinya. Dalam kondisi ini, ringkasan yang dihasilkan oleh model tidak boleh menggantikan verifikasi manusia, terutama ketika isu teknis atau finansial sangat penting.

Kebijaksanaan, Kualitas yang Sulit Diukur

Vitalik Buterin akhirnya mengangkat masalah yang lebih halus: pengetahuan sebuah model dapat diverifikasi dengan cukup mudah, berbeda dengan kebijaksanaannya. Kita dapat memeriksa sebuah tanggal, referensi, atau angka. Namun, menilai relevansi sebuah argumen membutuhkan lebih dari sekadar verifikasi faktual.

Sebuah episode di bulan Juli menggambarkan perbedaan ini. Sebuah kompetisi yang diadakan untuk mengidentifikasi penulis sebuah dokumen Ethereum anonim telah memberikan penghargaan, pada 6 Juli, kepada tim Franklyn Wang dari Co-Invest. Setelah memeriksa 27 teks, tim tersebut mendapatkan hasil yang terkait dengan probabilitas sekitar 20%.

Pengalaman ini mengingatkan kita bahwa kecerdasan buatan dapat mengenali karakteristik gaya tanpa harus memahami ide-ide yang tersembunyi di balik sebuah teks. Kehati-hatian yang sama harus diterapkan ketika ia menganalisis kode atau dokumen teknis: mengidentifikasi pola tidak selalu berarti memahami niat penulisnya.