Vitalik Buterin ระบุทักษะที่มนุษย์ยังคงมีข้อได้เปรียบเหนือ AI

Vitalik Buterin ชี้ให้เห็นถึงข้อจำกัดของ AI: แม้ว่าจะมีความรู้ที่กว้างขวาง แต่ก็ยังประสบปัญหาในการประเมินความลึกซึ้งของข้อความ โดยเฉพาะเมื่อพบข้อความนั้นเป็นครั้งแรก สำหรับผู้ร่วมก่อตั้ง Ethereum ความแตกต่างระหว่างความรู้และปัญญานั้นสมควรได้รับความสนใจเป็นพิเศษ。

สรุป

• เมื่อวันที่ 29 ตุลาคม Vitalik Buterin อธิบายว่า AI เป็น "ผู้รู้ที่มีความรู้มาก" แต่ "ไม่ค่อยมีปัญญา" โดยเฉพาะเมื่อประเมินข้อความ
• ตามที่เขากล่าว โมเดลต่างๆ ประสบปัญหามากขึ้นเมื่อเผชิญกับข้อความใหม่ที่ไม่มีความคิดเห็นของมนุษย์ในข้อมูลการฝึกอบรม
• เขายังเน้นถึงความแตกต่างที่สำคัญ: เราสามารถตรวจสอบความรู้ของโมเดลได้ง่าย แต่การวัดปัญญาของมันนั้นยากมากขึ้น

AI รู้จักอ้างอิง แต่เข้าใจแนวคิดหรือไม่?

Vitalik Buterin แสดงความกังวลเกี่ยวกับตัวแทน AI อย่างสม่ำเสมอ เช่น ในเดือนตุลาคมด้วย "โหมดพารanoid" ของเขา เมื่อวันที่ 29 ตุลาคม เวลา 4:11 UTC เขาได้เผยแพร่ความคิดใหม่ในตอบกลับต่อผู้เขียน Ruxandra Teslo

การสนทนานี้เกิดขึ้นหลังจากบทความใน Wall Street Journal เกี่ยวกับ Humanities 10 ซึ่งเป็นหลักสูตรปีแรกที่ Harvard ที่ห้ามนักเรียนใช้โทรศัพท์และคอมพิวเตอร์เป็นเวลาหนึ่งปี

ในข้อความของเขาบน X Vitalik อธิบายว่า AI สามารถใช้ความรู้เกี่ยวกับเกือบทุกหัวข้อได้ แต่ไม่ได้แสดงให้เห็นถึงการตัดสินที่ลึกซึ้ง มันอาจหยุดอยู่ที่ด้านผิวเผินที่สุดของข้อความ โดยไม่สามารถเข้าใจถึงขอบเขตของการโต้แย้งได้อย่างเต็มที่

ข้อสังเกตนี้เกิดขึ้นในระหว่างการอภิปรายเกี่ยวกับคุณภาพของการสนทนากับแชทบอท บางคนมองว่าพวกเขาเป็นคู่สนทนาที่ดีกว่ามนุษย์ส่วนใหญ่ในการพูดคุยเกี่ยวกับคลาสสิก ในทางกลับกัน ผู้เขียนคนหนึ่งเชื่อว่าความคิดเห็นของพวกเขาเกี่ยวกับเรียงความของเธอมักจะสรุปเป็นคำตอบที่ว่างเปล่า

การอ่านครั้งแรก

สำหรับ Vitalik Buterin ข้อจำกัดนี้ปรากฏชัดเจนเมื่อโมเดลพบข้อความเป็นครั้งแรก ในความเป็นจริง หนังสือที่มีชื่อเสียงได้รับประโยชน์จากการวิจารณ์ การวิเคราะห์ และความคิดเห็นหลายทศวรรษที่ AI สามารถค้นพบในข้อมูลการฝึกอบรมของตน ในขณะที่เรียงความล่าสุดกลับไม่มีประวัติศาสตร์เดียวกัน

โมเดลจึงต้องพึ่งพาข้อความเองมากขึ้น โดยไม่สามารถใช้การวิเคราะห์ที่มีอยู่ก่อนหน้านี้ได้มากนัก ความแตกต่างนี้มีความสำคัญโดยเฉพาะในคริปโต ซึ่งทีมงานใช้ตัวแทน AI ในการตรวจสอบเอกสารไวท์เปเปอร์ การตรวจสอบ หรือข้อเสนอการกำกับดูแล

อย่างไรก็ตาม นักพัฒนาบางคนได้เตือนเกี่ยวกับช่องโหว่ที่ AI อาจใช้ประโยชน์โดยไม่เข้าใจถึงผลกระทบอย่างเต็มที่ ในเงื่อนไขเหล่านี้ สรุปที่ผลิตโดยโมเดลไม่ควรแทนที่การตรวจสอบของมนุษย์ โดยเฉพาะเมื่อมีความเสี่ยงทางเทคนิคหรือการเงินที่สำคัญ

ปัญญา คุณภาพที่วัดได้ยาก

Vitalik Buterin ยกประเด็นที่ละเอียดอ่อนมากขึ้น: ความรู้ของโมเดลสามารถตรวจสอบได้ง่าย แต่ปัญญาของมันกลับทำได้ยากกว่า เราสามารถตรวจสอบวันที่ อ้างอิง หรือจำนวนได้ แต่การตัดสินความเกี่ยวข้องของการให้เหตุผลต้องการมากกว่าการตรวจสอบข้อเท็จจริงเพียงอย่างเดียว

เหตุการณ์ในเดือนกรกฎาคมแสดงให้เห็นถึงความแตกต่างนี้ การแข่งขันที่จัดขึ้นเกี่ยวกับการระบุผู้เขียนเอกสาร Ethereum ที่ไม่ระบุชื่อได้มอบรางวัลให้กับทีมของ Franklyn Wang จาก Co-Invest เมื่อวันที่ 6 กรกฎาคม หลังจากการตรวจสอบข้อความ 27 ข้อ ทีมนี้ได้ผลลัพธ์ที่เกี่ยวข้องกับความน่าจะเป็นประมาณ 20%

ประสบการณ์นี้เตือนให้เราทราบว่า AI สามารถรับรู้ลักษณะสไตล์ได้โดยไม่จำเป็นต้องเข้าใจแนวคิดที่ซ่อนอยู่เบื้องหลังข้อความ ความระมัดระวังเดียวกันนี้ต้องใช้เมื่อมันวิเคราะห์โค้ดหรือเอกสารทางเทคนิค: การระบุรูปแบบไม่ได้หมายความว่าต้องเข้าใจเจตนาของผู้เขียนเสมอไป。