Google DeepMind phát hành XYEval đánh giá khả năng tuân thủ của tác nhân trước lời khuyên sai lệch

Các nhà nghiên cứu của Google DeepMind đã công bố một bài báo tiền in có tiêu đề "XYEval: Agents say yes to bad advice", giới thiệu khung đánh giá meta XYEval, nhằm đánh giá hiệu suất của các tác nhân khi đối mặt với những lời khuyên sai lệch từ người dùng. Bài báo mở rộng khái niệm "Vấn đề XY", tức là người dùng đang hỏi về giải pháp X mà họ đã thử, thay vì vấn đề thực sự Y. XYEval giữ nguyên môi trường nhiệm vụ ban đầu và câu trả lời có thể xác minh, đồng thời thêm vào những lời khuyên có vẻ hợp lý nhưng lại gây hiểu lầm từ người dùng. Những lời khuyên sai lệch được tạo ra bởi một bộ sinh sau khi thấy toàn bộ nhiệm vụ và được đính kèm dưới dạng lời khuyên tự tin, khiến nhiệm vụ ban đầu vẫn có thể giải quyết. Đánh giá bao gồm sáu tiêu chuẩn: τ2-bench, SWE-bench Verified, SWE-bench Pro, Terminal-Bench, Humanity's Last Exam và MCP-Atlas, cùng với năm mô hình, trong đó lời khuyên sai lệch của τ2-bench được tạo ra theo quy tắc do các chuyên gia con người thiết lập. Bài báo chỉ ra rằng hiệu suất giảm mạnh sau khi biến thể XY được áp dụng, với mức giảm cao nhất lên tới 46,7%. Tại τ2-bench, khi đối mặt với người dùng yêu cầu phải đưa ra giải thích chi tiết trước khi chấp nhận phương án tốt hơn, hiệu suất giảm rõ rệt hơn. Việc khuyến khích mô hình nhận thức về vấn đề XY chỉ có thể giảm nhẹ một phần thông qua các chỉ dẫn hệ thống đơn giản. Mã liên quan đã được phát hành trên kho GitHub google-deepmind/xyeval.