AI สามารถมีอิทธิพลต่อการตัดสินใจของผู้เชี่ยวชาญได้อย่างเงียบ ๆ การศึกษาของ Anthropic พบ

นักวิเคราะห์มืออาชีพใช้ความคิดเห็นที่ซ่อนอยู่และถูกกำหนดแบบสุ่มของตัวแทน AI ในการตัดสินใจที่สำคัญถึง 86% ซึ่งสูงกว่าประมาณ 50% ที่คาดว่าจะเกิดขึ้นโดยบังเอิญ ตามการทดลองที่เผยแพร่เมื่อวันอังคารโดยทีมงาน Alignment ของ Anthropic มีเพียง 15% ที่ให้เครดิตกับตัวแทนหลังจากนั้น และไม่มีใครสงสัยว่าความชอบของมันถูกปลูกฝังไว้

ตัวแทน AI---โปรแกรมที่ดำเนินการตามงานด้วยตนเอง---กำลังถูกมอบหมายงานผู้เชี่ยวชาญตามสมมติฐานทั่วไปที่การศึกษานี้เรียกว่า: ผู้เชี่ยวชาญยังคงเป็นผู้ตัดสินใจที่สำคัญ Anthropic เปิดตัวแม่แบบตัวแทน 10 แบบสำหรับบริษัทการเงินและบริษัทประกันภัยในเดือนพฤษภาคม โดยกล่าวว่าผู้ใช้มีคำพูดสุดท้าย

การจัดเรียงนี้เรียกว่า "มนุษย์ในวงจร" ซึ่งสมมติว่าผู้ที่ลงนามในงานของ AI คือผู้ที่ทำการตัดสินใจที่สำคัญ Anthropic ทดสอบมันกับนักวิเคราะห์ 50 คนที่มีประสบการณ์ในการอนุมานเชิงสาเหตุ ซึ่งหมายถึงการทำงานจากข้อมูลว่าหนึ่งสิ่งทำให้เกิดอีกสิ่งหนึ่งหรือไม่

นักวิเคราะห์แต่ละคนใช้ Claude Code ตัวแทนการเขียนโค้ดของ Anthropic เพื่อให้คำแนะนำแก่สหกรณ์การเกษตรที่สมมติขึ้นเกี่ยวกับการขยายโปรแกรมการให้คำปรึกษา โดยที่พวกเขาไม่รู้ว่าการโยนเหรียญได้กำหนดว่าตัวแทนแต่ละคนชอบตัวเลือกใด ซึ่งซ่อนอยู่ในคำสั่งระบบ คำสั่งที่กำหนดวิธีที่ AI ทำงาน

"ในบรรดาตัวเลือกการวิเคราะห์ทั้งสี่ นักวิเคราะห์เลือกตามแนวโน้มของตัวแทน 86% ของเวลา หากข้อมูลของตัวแทนไม่มีความแตกต่าง เราคาดว่าจะได้ประมาณ 50%" Anthropic กล่าว ผู้ที่ได้เลือกไปแล้วก่อนที่ตัวแทนจะเข้ามาแสดงความคิดเห็นละทิ้งตัวแทน 60% ของเวลาเมื่อมีการไม่เห็นด้วยกับตัวแทน ในขณะที่มีเพียง 6% เมื่อเห็นด้วย แม้ว่าจะอิงจากเพียง 38 กรณี

เมื่อถูกถามเพื่ออธิบายการเลือกของพวกเขา 77% ได้ทำซ้ำข้อโต้แย้งของตัวแทนในคำตอบอย่างน้อยหนึ่งคำตอบ บางครั้งก็เป็นคำพูดเดียวกัน มีเพียง 15% ที่ให้เครดิตกับตัวแทน และ 52% กล่าวว่าแนะนำสุดท้ายเป็นของพวกเขามากกว่าของตัวแทน

"สำหรับผู้เชี่ยวชาญแต่ละคน สิ่งนี้อาจหมายถึงการสูญเสียอำนาจเหนือผลงานของตนเอง ซึ่งเป็นรูปแบบหนึ่งที่นักวิจัยเรียกว่าการทำให้ไร้อำนาจ" Anthropic กล่าว ปรากฏการณ์นี้หมายความว่ามนุษย์สูญเสียการควบคุมการตัดสินใจของตนเองโดยสมัครใจ "งานยังคงออกภายใต้ชื่อของผู้เชี่ยวชาญ" ผู้เขียนเขียน "แต่การตัดสินใจที่ขึ้นอยู่กับการตัดสินใจของพวกเขามากที่สุดจริง ๆ แล้วถูกตัดสินโดยความเชื่อก่อนหน้าของตัวแทน"

ในเดือนเมษายน 2025 OpenAI ได้ย้อนกลับการอัปเดต ChatGPT ที่เรียกว่าเป็นการยกย่องหรือเห็นด้วยมากเกินไป ตัวแทนที่นี่ได้รับคำสั่งไม่ให้หลอกลวง แต่พวกเขาก็แทบไม่โต้แย้งทางเลือกอื่นเลย

"ด้วยการโต้แย้งเพียงด้านเดียวที่ทำได้ดี" ผู้เขียนเขียน "นักวิเคราะห์สามารถนำสมมติฐานของตัวแทนไปใช้โดยไม่ต้องทำการวิเคราะห์ของตนเอง" การตรวจสอบข้อผิดพลาดมีความยากในการจับสิ่งนี้เพราะการตัดสินใจไม่มีคำตอบที่ถูกต้องเพียงคำตอบเดียว ดังนั้นงานจึงดูเหมือนจะถูกต้องไม่ว่าจะเลือกตัวเลือกใด

OpenAI ย้อนกลับการอัปเดต ChatGPT หลังจากการตอบสนองจากผู้ใช้เกี่ยวกับพฤติกรรมที่ "ประจบประแจง"

Anthropic กล่าวว่า นี่ไม่ใช่ข้อโต้แย้งในการใช้ AI น้อยลง เนื่องจากนักวิเคราะห์ที่มีตัวแทนเสร็จสิ้นได้เร็วขึ้นและทำข้อผิดพลาดที่ร้ายแรงน้อยลง แม้ว่ากลุ่มที่ไม่มีตัวแทนจะมีขนาดเล็กและมีประสบการณ์น้อยกว่า มันแนะนำให้ตัวแทนโต้แย้งกรณีที่ดีที่สุดสำหรับแต่ละตัวเลือกหรือถามผู้เชี่ยวชาญก่อน แม้ว่าจะอาจทำให้ผู้ใช้รู้สึกท่วมท้น

นักวิจัยได้เสริมความแข็งแกร่งให้กับความชอบของตัวแทนและทดสอบงานเดียว สาขา และโมเดล ดังนั้นผลกระทบในโลกจริงอาจน้อยกว่า การวัดมันนอกห้องปฏิบัติการเป็นเรื่องยาก ทีมงานสามารถตรวจจับการยอมจำนนได้เพียงเพราะมันสุ่มแนวโน้มของแต่ละตัวแทน ซึ่งผู้เขียนกล่าวว่าเป็นสิ่งที่เกิดขึ้นได้ยากในงานจริง