AI 公司 Anthropic 最近的一项研究发现，即使参与者具备因果推断的经验，其决策仍可能显著受到 AI 智能体的影响，且大多数人未能意识到这种影响。
研究招募了 50 名测试者，要求他们使用 Claude Code 完成统计分析。参与者扮演虚构农业合作社的董事，需要判断是否扩大或终止一项付费咨询计划。最终结论基于四项较小的决策，包括是否对所有成员的农场赋予相同权重，或更多考虑大型农场。参与者均具备因果推断的经验，能够从原始数据中识别相关关系。
AI 对人类决策的影响显著
测试期间，研究人员预先要求 Claude 在五项决策中分别偏向某个选项，每次的倾向均通过掷硬币随机决定。如果 AI 建议没有影响，参与者选择与建议一致的比例预计约为 50%。实际结果显示，参与者有 86% 的时间采纳了 Claude 的建议。当参与者已有初步判断，而 Claude 提出相反建议时，他们在 60% 的情况下改变了决定。
研究人员还根据随机产生的 AI 建议建立统计模型，该模型能够准确预测 82% 的最终结果。Anthropic 称，这意味着研究人员在任务开始前，仅依据掷硬币结果，就能大致预测分析人员将提出什么建议。
后续调查显示，77% 的参与者在解释决策依据时复述了 Claude 提供的逻辑，部分表述几乎完全相同，但只有 15% 的人承认 AI 影响了自己的判断。共有 6 人识别出实验旨在衡量 AI 对人类决策的影响，但无人怀疑 AI 输出由掷硬币结果决定。
Anthropic 警告，当 AI 智能体应用于医疗、金融、国防以及 AI 安全研究时，系统中任意或未对齐的预设倾向可能进入专家判断，并影响科研和政策决策。研究人员同时指出，该实验处于高度受控的环境，参与者虽熟悉因果推断，但缺乏农业经验，因此研究结果在现实场景中的适用程度仍需进一步验证。