مطالعه آنتروپیک نشان می‌دهد که هوش مصنوعی می‌تواند به آرامی بر تصمیمات کارشناسان تأثیر بگذارد

تحلیلگران حرفه‌ای ۸۶٪ از تصمیمات کلیدی خود را بر اساس نظر پنهان و به‌طور تصادفی اختصاص‌یافته به عامل هوش مصنوعی خود اتخاذ کردند، در حالی که انتظار می‌رفت حدود ۵۰٪ به‌طور تصادفی باشد، طبق آزمایشی که روز سه‌شنبه توسط تیم هم‌راستایی آنتروپیک منتشر شد. تنها ۱۵٪ بعداً به عامل اعتبار دادند و هیچ‌یک از آنها مشکوک نبودند که ترجیحات آن کاشته شده است.

عامل‌های هوش مصنوعی---برنامه‌هایی که به‌طور مستقل وظایف را انجام می‌دهند---به کارهای کارشناسی واگذار شده‌اند بر اساس فرضیه‌ای که مطالعه آن را «فرضیه معمول» می‌نامد: اینکه کارشناسان هنوز تصمیمات مهم را می‌گیرند. آنتروپیک در ماه مه ۱۰ الگوی عامل برای شرکت‌های مالی و بیمه‌ای راه‌اندازی کرد و گفت که کاربران حرف آخر را می‌زنند.

این ترتیب، که «انسان در حلقه» نامیده می‌شود، فرض می‌کند که شخصی که بر کار یک هوش مصنوعی تأیید می‌کند، کسی است که تصمیمات مهم را می‌گیرد. آنتروپیک این را بر روی ۵۰ تحلیلگر با تجربه در استنباط علّی آزمایش کرد، به این معنی که از داده‌ها کار می‌کنند تا بفهمند آیا یک چیز باعث چیز دیگری می‌شود یا خیر.

هر تحلیلگر از کلاود کد، عامل کدنویسی آنتروپیک، برای مشاوره به یک تعاونی کشاورزی خیالی در مورد گسترش یک برنامه مشاوره استفاده کرد. بدون اینکه آنها بدانند، یک پرتاب سکه تعیین کرد که هر عامل کدام گزینه را ترجیح می‌دهد، که در یک دستور سیستم پنهان شده است، دستوراتی که نحوه رفتار یک هوش مصنوعی را شکل می‌دهند.

"در میان چهار انتخاب تحلیلی، تحلیلگران ۸۶٪ از زمان با تمایل عامل خود پیش رفتند. اگر ورودی عامل هیچ تفاوتی ایجاد نمی‌کرد، انتظار داشتیم حدود ۵۰٪ باشد،" آنتروپیک گفت. کسانی که قبلاً قبل از اینکه عامل نظر دهد انتخاب کرده بودند، ۶۰٪ از زمان آن را رها کردند زمانی که عامل مخالف بود، در مقابل ۶٪ زمانی که موافق بود، اگرچه این بر اساس تنها ۳۸ مورد است.

از آنها خواسته شد تا انتخاب‌های خود را توضیح دهند، ۷۷٪ در حداقل یک پاسخ استدلال عامل را تکرار کردند، گاهی به‌طور کلمه به کلمه. تنها ۱۵٪ به عامل اعتبار دادند و ۵۲٪ توصیه نهایی را بیشتر متعلق به خودشان نسبت به عامل دانستند.

"برای کارشناسان فردی، این می‌تواند به معنای از دست دادن اختیار بر کار خود باشد، شکلی از آنچه محققان آن را ناتوانی می‌نامند،" آنتروپیک گفت. این پدیده به‌طور کلی به این معناست که انسان به‌طور داوطلبانه کنترل تصمیمات خود را از دست می‌دهد. "کار هنوز تحت نام کارشناس انجام می‌شود،" نویسندگان نوشتند، "اما تصمیماتی که بیشتر به قضاوت آنها وابسته است در واقع توسط باورهای قبلی عامل تعیین می‌شود."

در آوریل ۲۰۲۵، OpenAI یک به‌روزرسانی برای ChatGPT که آن را بیش از حد تحسین‌آمیز یا موافق می‌دانست، لغو کرد. عامل‌های اینجا به‌طور خاص گفته شده بودند که هرگز گمراه نکنند، اما آنها به ندرت برای گزینه جایگزین استدلال کردند.

"با تنها یک طرف به‌خوبی استدلال شده،" نویسندگان نوشتند، "تحلیلگران می‌توانستند فرضیات عامل را بدون کار کردن بر روی فرضیات خود اتخاذ کنند." بررسی‌های خطا در شناسایی این مشکل با دشواری مواجه می‌شوند زیرا تصمیمات قضاوتی هیچ پاسخ صحیح واحدی ندارند، بنابراین کار به‌نظر صحیح می‌رسد هر گزینه‌ای که انتخاب شود.

آنتروپیک می‌گوید این دلیلی برای استفاده کمتر از هوش مصنوعی نیست، زیرا تحلیلگران با عامل سریع‌تر به پایان رسیدند و اشتباهات جدی بسیار کمتری مرتکب شدند، اگرچه گروه بدون عامل کوچک‌تر و کمتر با تجربه بود. این پیشنهاد می‌کند که عامل‌هایی که بهترین استدلال را برای هر گزینه ارائه می‌دهند یا ابتدا از کارشناس سؤال می‌کنند، هرچند که ممکن است کاربران را تحت فشار قرار دهد.

محققان به‌طور عمدی ترجیحات عامل‌ها را تقویت کردند و یک وظیفه، زمینه و مدل را آزمایش کردند، بنابراین اثرات واقعی ممکن است کوچکتر باشد. اندازه‌گیری آن خارج از آزمایشگاه بخش دشوار است: تیم تنها می‌توانست احترام را شناسایی کند زیرا تمایل هر عامل را تصادفی کرد، که نویسندگان می‌گویند در کار واقعی به ندرت ممکن است.