Una reciente investigación de la empresa de IA Anthropic ha descubierto que, incluso cuando los participantes tienen experiencia en inferencia causal, sus decisiones pueden verse significativamente afectadas por los agentes de IA, y la mayoría de las personas no son conscientes de esta influencia.
La investigación reclutó a 50 participantes, a quienes se les pidió utilizar Claude Code para completar un análisis estadístico. Los participantes asumieron el rol de directores de una cooperativa agrícola ficticia, debiendo decidir si expandir o terminar un programa de consultoría remunerada. La conclusión final se basó en cuatro decisiones menores, que incluían si otorgar el mismo peso a las granjas de todos los miembros o considerar más a las grandes granjas. Todos los participantes tenían experiencia en inferencia causal y podían identificar relaciones relevantes a partir de datos originales.
La influencia de la IA en las decisiones humanas es significativa
Durante la prueba, los investigadores pidieron a Claude que se inclinara hacia una opción en cinco decisiones, con cada inclinación determinada aleatoriamente mediante el lanzamiento de una moneda. Si la sugerencia de la IA no tuviera efecto, se esperaba que los participantes eligieran de acuerdo con la sugerencia en aproximadamente el 50% de los casos. Los resultados reales mostraron que los participantes adoptaron la sugerencia de Claude el 86% del tiempo. Cuando los participantes ya tenían un juicio inicial y Claude ofrecía una sugerencia opuesta, cambiaron su decisión en el 60% de los casos.
Los investigadores también establecieron un modelo estadístico basado en las sugerencias de IA generadas aleatoriamente, el cual pudo predecir con precisión el 82% de los resultados finales. Anthropic afirmó que esto significa que los investigadores, antes de comenzar la tarea, podían prever aproximadamente qué sugerencias harían los analistas basándose únicamente en los resultados del lanzamiento de la moneda.
Una encuesta posterior reveló que el 77% de los participantes reiteraron la lógica proporcionada por Claude al explicar las bases de sus decisiones, con algunas formulaciones casi idénticas, pero solo el 15% admitió que la IA había influido en su juicio. Un total de 6 personas identificaron que el experimento tenía como objetivo medir la influencia de la IA en las decisiones humanas, pero nadie dudó que la salida de la IA estaba determinada por los resultados del lanzamiento de la moneda.
Anthropic advirtió que, cuando los agentes de IA se aplican en áreas como la salud, las finanzas, la defensa y la investigación en seguridad de IA, cualquier sesgo preestablecido o desalineado en el sistema podría influir en el juicio de los expertos y afectar la investigación científica y la toma de decisiones políticas. Los investigadores también señalaron que el experimento se llevó a cabo en un entorno altamente controlado, y aunque los participantes estaban familiarizados con la inferencia causal, carecían de experiencia agrícola, por lo que la aplicabilidad de los resultados en escenarios del mundo real aún necesita ser verificada.