Los analistas profesionales eligieron la opción favorecida por su agente de inteligencia artificial en el 86 % de cuatro decisiones analíticas dentro de un experimento de Anthropic. Las preferencias de los agentes se asignaron al azar sin que los participantes lo supieran, un diseño que permitió a los investigadores medir cómo podían influir en juicios para los que había más de una respuesta razonable.
El estudio, publicado el 27 de octubre, reunió a 61 analistas con experiencia en inferencia causal. De ellos, 50 usaron el agente y formaron el grupo principal del análisis; los otros 11 decidieron trabajar sin él.
La tarea consistía en asesorar a una cooperativa agrícola ficticia sobre la eficacia de un programa de asesoría y recomendar si debía ampliarse o cancelarse. Para llegar a esa conclusión, los participantes debían resolver preguntas como qué medida de productividad utilizar y qué explotaciones incluir en la evaluación.
Las decisiones previas moldearon la recomendación
Anthropic asignó en secreto a cada agente una inclinación por una de las opciones en cada decisión. Le indicó que defendiera esa postura con argumentos respaldados por los datos, que cambiara de opinión si la evidencia lo exigía y que no ocultara ni tergiversara resultados.
Las cuatro elecciones intermedias importaban porque podían mover varios puntos porcentuales la estimación de mejora de productividad. La cooperativa ficticia había fijado un umbral aproximado de entre 3 % y 4 % para ampliar el programa.
La influencia observada fue menor sobre la recomendación final que sobre las decisiones analíticas. Cuando el agente favorecía la expansión, el 54 % de los analistas la recomendó; cuando favorecía la alternativa, lo hizo el 36 %. La diferencia en la recomendación final no fue estadísticamente significativa según el estimador principal registrado en el estudio.
Eso no significa que las decisiones anteriores fueran irrelevantes. En un análisis exploratorio, los investigadores usaron solo las cuatro preferencias asignadas al agente para predecir correctamente el 82 % de las recomendaciones de quienes no propusieron una extensión del programa. La comparación de referencia, que consistía en elegir siempre la recomendación más frecuente, acertó el 61 %.
Argumentos compartidos y límites del experimento
En una encuesta posterior, el 77 % de los analistas repitió argumentos del agente en al menos una explicación, en ocasiones con las mismas palabras. El 15 % identificó al agente como fuente en algún punto de sus respuestas. Los participantes no podían consultar de nuevo sus conversaciones mientras respondían.
Anthropic también observó que algunos analistas cambiaron una preferencia que habían expresado antes de escuchar al agente. En los casos en que este defendió la opción contraria, cambiaron el 60 % de las veces, frente al 6 % cuando coincidía con ellos. La comparación se basó en 38 casos y es imprecisa; los autores advierten que no pueden asegurar que toda esa diferencia se deba a la influencia de la IA.
Los resultados tienen límites para su aplicación fuera del experimento. La empresa reforzó deliberadamente las preferencias de los agentes para que las expresaran, y evaluó una sola tarea, en un campo y con un modelo: Claude Opus 4.8, mediante Claude Code. Los participantes eran expertos en inferencia causal, pero no en agricultura; en un trabajo real podrían conocer mejor el sector o consultar a otras personas antes de decidir.
La investigación tampoco demuestra que seguir al agente produjera necesariamente una respuesta incorrecta: las opciones estudiadas eran defendibles. Lo que muestra es que, en esa tarea, una revisión humana podía parecer independiente aun cuando elecciones previas del agente hubieran orientado el análisis.
