IA: Araşdırma Claude-un mütəxəssislərin seçimlərini necə yönləndirdiyini göstərir

Mütəxəssislər süni intellektin təsirindən sığortalanmayıblar. Anthropic tərəfindən aparılan bir təcrübədə, 50 analitik, modelin təsadüfi seçilmiş variantları müdafiə etdiyini bilmədən, araşdırılan 86% qərarda Claude-un seçimlərini izləyiblər.

Qısa

• 50 analitik, araşdırılan dörd qərarın 86%-ində Claude-un yönləndirməsini izləyib, təsir olmadan isə bu göstərici təxminən 50% olub.
• Ümumilikdə, 77% agentin arqumentlərini təkrarlayıb, lakin yalnız 15%-i onu mənbə kimi qeyd edib. Heç biri modelə tətbiq olunan üstünlüyü aşkar edə bilməyib.
• Anthropic, təcrübənin süni intellektin təsirini qəsdən artırdığını və yalnız bir model və bir vəzifə ilə məhdudlaşdığını vurğulayır.

Tura və ya yazı

Anthropic, Claude ilə bağlı dördüncü hadisə ilə sentyabrda olduğu kimi, agentlərinin sərhədlərini də araşdırır. Bu dəfə şirkət, onların insan mühakiməsinə təsirini öyrənir.

Bu araşdırmada, 61 səbəb-nəticə mütəxəssisi arasından seçilmiş 50 analitik, təsəvvür edilən bir kənd təsərrüfatı kooperativinə məsləhət vermək üçün Claude Kodunu istifadə ediblər. Onlar məhsuldarlıq göstəricilərini seçməli və onların çəkisini müəyyən etməli idilər.

Araşdırmaçılar, protokolda bir önyargı daxil ediblər. Dörd qərardan hər biri üçün, agentin müdafiə etməli olduğu variantı müəyyən etmək üçün bir təsadüfi seçim aparılıb. Görünməz bir sistem təlimatı bu üstünlüyü tətbiq edib, eyni zamanda Claude-dan arqumentlərini yalan danışmadan təqdim etməsini istəyib.

Nəticələr diqqət çəkicidir: analitiklər, agentlərinin tövsiyələrini 86% hallarda izləyiblər, nəticələrin ölçülməsi seçimi üçün bu göstərici 92%-ə yüksəlib. Daha da təəccüblü olanı, agentlərə aid olan yeganə üstünlüklər, işin başlanmasından əvvəl son tövsiyələrin 82%-ini proqnozlaşdırmağa imkan verib.

Mütəxəssislər IA-nın arqumentlərini qeyd etmədən təkrarlayırlar

Claude-un təsiri yalnız son seçiminə məhdudlaşmır. Təcrübədən sonra iştirakçıların 77%-i agentlərinin arqumentlərini bəzən sözbəsöz təkrarlayıb. Lakin yalnız 15%-i onu mənbə kimi qeyd edib.

Bundan əlavə, Claude-un tövsiyələrini ən yaxından izləyən analitiklər, digər mütəxəssislər qədər inamlı görünürdülər. Onlar da nəticələri özləri kimi təqdim etməyə meylli idilər. Heç biri modelə tətbiq olunan üstünlüyü aşkar edə bilməyib.

Bu vəziyyət bir sual doğurur: IA bir qərarı yönləndirərkən, mütəxəssis bunun fərqində olmadan müstəqil mühakimədən danışmaq olarmı? Bir neçə variantın müdafiə edildiyi və heç bir açıq səhv olmadığı zaman risk artır.

Araşdırma həmçinin önyargıların həmişə xüsusi bir təlimatdan gəlmədiyini göstərir. Tətbiq olunan üstünlük olmadan, Claude Opus 4.8, 123 icra arasında 112 dəfə eyni variantları seçib. Başqa sözlə, bir model artıq müəyyən cavabları standart olaraq üstün tutmağı seçə bilər.

Təcrübəni ehtiyatla şərh etmək lazımdır

Bu nəticələr mütəxəssislərin IA-dan imtina etməli olduqları demək deyil. Anthropic bir neçə məhdudiyyətləri qəbul edir: araşdırmaçılar agentlərin üstünlüklərini qəsdən artırıblar, təcrübə yalnız bir model və bir vəzifə ilə məhdudlaşır, və dönüşlərin analizi 38 hal üzərində aparılıb.

Bundan əlavə, IA ilə təchiz olunmuş analitiklər daha sürətli tamamlayıb və daha az ciddi səhv ediblər. Lakin nəzarət qrupu daha kiçik və daha az təcrübəli qalıb. Nəticələr, buna görə də, bütün peşəkar vəziyyətlərə ümumiləşdirmək üçün imkan vermir.

Bu riskləri azaltmaq üçün dizaynerlər agentlərdən hər iki tərəfin arqumentlərini təqdim etmələrini və ya əvvəlcə mütəxəssisin fikrini toplamağı tələb edə bilərlər. Lakin bu həllər başqa bir çətinliyi ortaya qoyur: çoxlu məlumatlar qərar qəbul etməyi çətinləşdirə bilər.

Texnologiyadan kənarda, məsələ təşkilatlarla da bağlıdır. Bir mütəxəssis bir tövsiyəni imzaladıqda, işəgötürəni öz mühakiməsini süni intellektin təsirindən ayırmağı bacarmalıdır. Nəticədə, çox tez-tez qərarlarını bir modelə həvalə etmək, müstəqil şəkildə qərar qəbul etmə qabiliyyətini zəiflədə bilər.