Vitalik Buterin insanın süni intellekt üzərindəki üstünlüyünü müəyyən edir

Vitalik Buterin süni intellektin bir sərhədini qeyd edir: geniş biliklərinə baxmayaraq, o, bir mətni dərinliyində qiymətləndirməkdə çətinlik çəkir, xüsusilə də onu ilk dəfə kəşf etdikdə. Ethereum-un həmtəsisçisi üçün, bilik və hikmət arasındakı bu fərq xüsusi diqqətə layiqdir.

Qısa

• 29 oktyabrda, Vitalik Buterin süni intellekti "son dərəcə bilikli" amma "çox da hikmətli" kimi təsvir edir, xüsusilə də o, bir mətni qiymətləndirərkən.
• Onun fikrincə, modellər yeni bir yazı ilə qarşılaşdıqda, insan şərhlərindən məhrum olan yazılara daha çox çətinliklə rast gəlirlər.
• Nəhayət, o, əsas bir fərqi vurğulayır: bir modelin biliklərini asanlıqla yoxlamaq mümkündür, lakin onun hikmətini ölçmək çox daha çətindir.

Süni intellekt istinadları tanıyır, amma fikirləri başa düşürmü?

Vitalik Buterin süni intellekt agentləri ilə bağlı mütəmadi olaraq ehtiyatlarını ifadə edir, oktyabrda "paranoid rejim" ilə olduğu kimi. 29 oktyabrda UTC 4:11-də, o, yazıçı Ruxandra Teslo-ya cavab olaraq yeni bir düşüncə paylaşdı.

Müzakirə, Harvard-da tələbələrin bir il ərzində telefon və kompüter istifadə etməsini qadağan edən Humanities 10 adlı bir kurs haqqında Wall Street Journal-da dərc olunan bir məqaləyə cavab olaraq baş verdi.

Vitalik, X-dəki mesajında, süni intellektin demək olar ki, hər hansı bir mövzuda bilikləri mobilizasiya edə biləcəyini, lakin dərin bir mühakimə nümayiş etdirmədiyini izah edir. O, bu halda, bir mətni ən səthi aspektlərinə qədər dayanma riskini daşıyır, onun arqumentinin tam əhatəsini başa düşmür.

Bu qeyd, chatbotlarla olan müzakirələrdə müzakirə olunur. Bəziləri onları klassik ədəbiyyatla müzakirə etmək üçün əksər insanlardan daha yaxşı tərəfdaşlar hesab edirlər. Əksinə, bir yazıçı, onların onun esse-ləri haqqında şərhlərinin tez-tez boş cavablara endiyini düşünür.

İlk oxu

Vitalik Buterin üçün bu sərhəd, modelin bir mətni ilk dəfə kəşf etdiyi zaman daha çox görünür. Həqiqətən də, məşhur bir əsər onilliklər boyu tənqidlər, analizlər və şərhlərdən faydalanır ki, süni intellekt bunu öz təlim məlumatlarında tapa bilər. Lakin, son bir esse eyni tarixi keçmişə malik deyil.

Model, buna görə də, daha çox mətndən asılı olmalı, əvvəlki analizləri mobilizasiya edə bilmir. Bu fərq, xüsusilə kripto sahəsində əhəmiyyətlidir, burada komandalar süni intellekt agentlərini ağ kağızları, auditləri və idarəetmə təkliflərini araşdırmaq üçün istifadə edirlər.

Lakin, bəzi inkişaf etdiricilər artıq süni intellektin tam başa düşmədən istifadə edə biləcəyi boşluqlar barədə xəbərdarlıq edirlər. Bu şərtlərdə, model tərəfindən istehsal olunan xülasələr insan yoxlamasını əvəz etməməlidir, xüsusilə də texniki və maliyyə məsələləri vacib olduqda.

Hikmət, ölçülməsi çətin bir keyfiyyətdir

Vitalik Buterin nəhayət daha incə bir problemi qaldırır: bir modelin biliklərini yoxlamaq nisbətən asandır, lakin hikmətini yoxlamaq çətindir. Bir tarixi, istinadı və ya rəqəmi yoxlamaq mümkündür. Lakin, bir mühakimənin uyğunluğunu qiymətləndirmək, sadə bir fakt yoxlamasından daha çox tələb edir.

İyulda baş verən bir hadisə bu fərqi nümayiş etdirir. Anonim bir Ethereum sənədinin müəllifini müəyyənləşdirmək üçün təşkil olunan bir müsabiqə, 6 iyulda Franklyn Wang-ın Co-Invest komandası tərəfindən mükafatlandırıldı. 27 mətni nəzərdən keçirdikdən sonra, bu komanda təxminən 20% ehtimalı olan bir nəticə əldə etdi.

Bu təcrübə, süni intellektin stilistik xüsusiyyətləri tanıya biləcəyini, lakin bir mətndə gizlənən fikirləri başa düşmədiyini xatırladır. Kod və texniki sənədləri analiz edərkən də eyni ehtiyat tələb olunur: naxışları müəyyənləşdirmək, həmişə müəllifin niyyətlərini başa düşmək demək deyil.