IA: Un estudio muestra cómo Claude orienta las decisiones de los expertos

Los expertos no están a salvo de la influencia de la inteligencia artificial. En un experimento realizado por Anthropic, 50 analistas siguieron las preferencias de Claude en el 86 % de las decisiones estudiadas, sin saber que el modelo defendía opciones elegidas al azar.

En resumen

• Los 50 analistas siguieron la orientación de Claude en el 86 % de las cuatro decisiones estudiadas, en comparación con aproximadamente el 50 % en ausencia de influencia.
• En total, el 77 % retomó los argumentos del agente, pero solo el 15 % lo citó como fuente. Ninguno detectó la preferencia impuesta al modelo.
• Sin embargo, Anthropic subraya que el experimento amplificaba intencionalmente la influencia de la IA y solo se centraba en un modelo y una tarea.

Cara o cruz

Anthropic también examina los límites de sus agentes, como en septiembre con un cuarto incidente que involucraba a Claude. Esta vez, la empresa se interesa por su influencia en el juicio humano.

En este estudio, 50 analistas, seleccionados entre 61 especialistas en inferencia causal, utilizaron Claude Code para asesorar a una cooperativa agrícola ficticia. Debían elegir indicadores de productividad y determinar su ponderación.

Sin embargo, los investigadores introdujeron un sesgo en el protocolo. Para cada una de las cuatro decisiones, un sorteo determinaba la opción que el agente debía defender. Una instrucción del sistema invisible imponía esta preferencia, mientras se pedía a Claude que presentara sus argumentos sin mentir.

Los resultados son sorprendentes: los analistas siguieron la recomendación de su agente en el 86 % de los casos, con un pico del 92 % para la elección de la medida de resultados. Más sorprendente aún, las únicas preferencias atribuidas a los agentes permitieron predecir el 82 % de las recomendaciones finales incluso antes de comenzar el trabajo.

Los expertos retoman los argumentos de la IA sin citarla

La influencia de Claude no se limita a la elección final. Después del experimento, el 77 % de los participantes había retomado los argumentos de su agente, a veces palabra por palabra. Sin embargo, solo el 15 % lo mencionó como fuente.

Además, los analistas que seguían más de cerca las recomendaciones de Claude se mostraban tan seguros como los demás. También tendían a presentar las conclusiones como propias. Ninguno detectó la preferencia impuesta al modelo.

Este hallazgo plantea una pregunta: ¿se puede seguir hablando de juicio independiente cuando la IA orienta una decisión sin que el experto sea consciente de ello? El riesgo aumenta cuando varias opciones se defienden y no hay un error evidente que ponga en duda la recomendación.

El estudio también revela que los sesgos no siempre provienen de una instrucción particular. Sin una preferencia impuesta, Claude Opus 4.8 eligió las mismas opciones en 112 ejecuciones de 123. En otras palabras, un modelo puede ya favorecer ciertas respuestas por defecto.

Una experiencia a interpretar con cautela

Estos resultados no significan que los profesionales deban abandonar la IA. Anthropic reconoce varias limitaciones: los investigadores reforzaron intencionalmente las preferencias de los agentes, el experimento se centró en un solo modelo y una sola tarea, y el análisis de los cambios se basó en 38 casos.

Además, los analistas equipados con IA terminaron más rápido y cometieron menos errores graves. Sin embargo, el grupo de control seguía siendo reducido y menos experimentado. Por lo tanto, los resultados no permiten generalizar las conclusiones a todas las situaciones profesionales.

Para limitar estos riesgos, los diseñadores podrían pedir a los agentes que presenten los argumentos de ambos lados o primero recopilar la opinión del experto. Sin embargo, estas soluciones plantean otra dificultad: demasiada información puede complicar la toma de decisiones.

Más allá de la tecnología, el desafío también concierne a las organizaciones. Cuando un experto firma una recomendación, su empleador debe poder distinguir su propio juicio de la influencia ejercida por la inteligencia artificial. A largo plazo, delegar demasiado a menudo sus decisiones a un modelo también podría debilitar su capacidad para tomarlas de manera autónoma.