IA: Um estudo mostra como Claude orienta as escolhas de especialistas

Os especialistas não estão imunes à influência da inteligência artificial. Numa experiência realizada pela Anthropic, 50 analistas seguiram as preferências de Claude em 86% das decisões estudadas, sem saber que o modelo defendia opções escolhidas aleatoriamente.

Em resumo

• Os 50 analistas seguiram a orientação de Claude em 86% das quatro decisões estudadas, contra cerca de 50% na ausência de influência.
• No total, 77% repetiram os argumentos do agente, mas apenas 15% o citaram como fonte. Nenhum detectou a preferência imposta ao modelo.
• No entanto, a Anthropic sublinha que a experiência amplificava voluntariamente a influência da IA e se baseava apenas num modelo e numa tarefa.

Cara ou coroa

A Anthropic também examina os limites dos seus agentes, como em setembro, com um quarto incidente envolvendo Claude. Desta vez, a empresa está interessada na sua influência sobre o julgamento humano.

Neste estudo, 50 analistas, selecionados entre 61 especialistas em inferência causal, usaram o Claude Code para aconselhar uma cooperativa agrícola fictícia. Eles deviam, entre outras coisas, escolher indicadores de produtividade e determinar o seu peso.

Os pesquisadores, no entanto, introduziram um viés no protocolo. Para cada uma das quatro decisões, um sorteio determinava a opção que o agente deveria defender. Uma instrução invisível do sistema impunha essa preferência, enquanto pedia a Claude que apresentasse os seus argumentos sem mentir.

Os resultados são impressionantes: os analistas seguiram a recomendação do seu agente em 86% dos casos, com um pico de 92% na escolha da medida dos resultados. Mais surpreendente ainda, as únicas preferências atribuídas aos agentes permitiram prever 82% das recomendações finais antes mesmo do início do trabalho.

Os especialistas repetem os argumentos da IA sem a citar

A influência de Claude não se limita à escolha final. Após a experiência, 77% dos participantes repetiram os argumentos do seu agente, às vezes palavra por palavra. No entanto, apenas 15% o mencionaram como fonte.

Além disso, os analistas que seguiam mais de perto as recomendações de Claude mostraram-se tão confiantes quanto os outros. Eles também tendiam a apresentar as conclusões como se fossem suas. Nenhum detectou a preferência imposta ao modelo.

Este fato levanta uma questão: ainda podemos falar de julgamento independente quando a IA orienta uma decisão sem que o especialista tenha consciência disso? O risco aumenta quando várias opções são defendidas e nenhuma erro evidente permite questionar a recomendação.

O estudo revela também que os viéses não vêm sempre de uma instrução particular. Sem preferência imposta, o Claude Opus 4.8 escolheu as mesmas opções em 112 execuções de 123. Em outras palavras, um modelo pode já privilegiar certas respostas por padrão.

Uma experiência a interpretar com cautela

Estes resultados não significam que os profissionais devam abandonar a IA. A Anthropic reconhece várias limitações: os pesquisadores reforçaram voluntariamente as preferências dos agentes, a experiência focou-se num único modelo e numa única tarefa, e a análise das mudanças baseou-se em 38 casos.

Além disso, os analistas equipados com IA terminaram mais rapidamente e cometeram menos erros graves. No entanto, o grupo de controle era reduzido e menos experiente. Portanto, os resultados não permitem generalizar as conclusões para todas as situações profissionais.

Para limitar esses riscos, os designers poderiam pedir aos agentes que apresentassem os argumentos de ambos os lados ou coletassem primeiro a opinião do especialista. No entanto, essas soluções levantam outra dificuldade: demasiadas informações podem complicar a tomada de decisão.

Para além da tecnologia, a questão também diz respeito às organizações. Quando um especialista assina uma recomendação, o seu empregador deve ser capaz de distinguir o seu próprio julgamento da influência exercida pela inteligência artificial. A longo prazo, delegar frequentemente as suas decisões a um modelo também pode enfraquecer a sua capacidade de tomá-las de forma autónoma.