گوگل DeepMind ارزیابی XYEval را برای سنجش تبعیت عامل‌ها از مشاوره‌های نادرست منتشر کرد

محققان گوگل DeepMind پیش‌نویس مقاله‌ای به نام «XYEval: Agents say yes to bad advice» منتشر کردند که چارچوب ارزیابی متا XYEval را برای سنجش عملکرد عامل‌ها در مواجهه با مشاوره‌های نادرست کاربران ارائه می‌دهد. این مقاله به گسترش «مسئله XY» می‌پردازد، به این معنا که کاربر در واقع در حال پرسش درباره راه‌حل X است که خود امتحان کرده است، نه مسئله واقعی Y. XYEval با حفظ محیط وظیفه اصلی و پاسخ‌های قابل تأیید، مشاوره‌های نادرست به ظاهر منطقی را که می‌تواند گمراه‌کننده باشد، اضافه می‌کند. این مشاوره‌های نادرست توسط یک تولیدکننده پس از مشاهده کامل وظیفه تولید می‌شوند و به شکل مشاوره‌های مطمئن اضافه می‌شوند تا وظیفه اصلی همچنان قابل حل باشد. ارزیابی شامل شش معیار τ2-bench، SWE-bench Verified، SWE-bench Pro، Terminal-Bench، Humanity's Last Exam و MCP-Atlas و پنج مدل است، که در آن مشاوره‌های نادرست τ2-bench بر اساس قواعدی که توسط کارشناسان انسانی تعیین شده‌اند، تولید می‌شود. مقاله اشاره می‌کند که عملکرد پس از تغییرات XY به شدت کاهش می‌یابد و حداکثر کاهش به 46.7% می‌رسد. در τ2-bench، در مواجهه با کاربری که خواهان توضیحات دقیق قبل از پذیرش راه‌حل بهتر است، کاهش عملکرد بیشتر مشهود است. تشویق به این می‌شود که مدل‌ها به سادگی با دستورالعمل‌های سیستم XY آشنا شوند، که تنها می‌تواند به طور جزئی مشکل را کاهش دهد. کدهای مربوطه در مخزن GitHub به آدرس google-deepmind/xyeval منتشر شده است.