AI企業Anthropicの最近の研究によると、参加者が因果推論の経験を持っていても、彼らの意思決定はAIエージェントの影響を大きく受ける可能性があり、ほとんどの人がその影響に気づいていないことが明らかになった。
研究では50名のテスト参加者を募集し、彼らにClaude Codeを使用して統計分析を行うよう求めた。参加者は架空の農業協同組合の取締役を演じ、支払い相談プログラムを拡大するか終了するかを判断する必要があった。最終的な結論は、すべてのメンバーの農場に同じ重みを与えるか、大規模農場をより考慮するかなど、4つの小さな決定に基づいていた。参加者は皆、因果推論の経験を持ち、原データから関連性を識別することができた。
AIが人間の意思決定に与える影響は顕著
テスト期間中、研究者は事前にClaudeに5つの決定の中でそれぞれ特定の選択肢を支持するように指示し、その傾向はコイン投げでランダムに決定された。AIの提案が影響を与えない場合、参加者が提案に従って選択する割合は約50%と予想されていた。実際の結果では、参加者は86%の時間Claudeの提案を採用した。参加者が初期判断を持っている場合、Claudeが反対の提案をした際には、60%のケースで彼らは決定を変更した。
研究者はまた、ランダムに生成されたAIの提案に基づいて統計モデルを構築し、そのモデルが最終結果の82%を正確に予測できることを示した。Anthropicは、これは研究者がタスク開始前にコイン投げの結果だけで、分析者がどのような提案をするかを大まかに予測できることを意味すると述べている。
フォローアップ調査では、77%の参加者が意思決定の根拠を説明する際にClaudeが提供した論理を繰り返しており、一部の表現はほぼ完全に同じであったが、AIが自分の判断に影響を与えたと認めたのは15%に過ぎなかった。6人が実験の目的がAIが人間の意思決定に与える影響を測定することであると認識したが、誰もAIの出力がコイン投げの結果によって決定されているとは疑わなかった。
Anthropicは、AIエージェントが医療、金融、防衛、AI安全研究に応用される際、システム内の任意または未調整の先入観が専門家の判断に入り込み、研究や政策決定に影響を与える可能性があると警告している。研究者はまた、この実験が高度に制御された環境で行われたことを指摘し、参加者は因果推論に精通しているが農業経験が不足しているため、研究結果が現実のシナリオにどの程度適用できるかはさらなる検証が必要であると述べている。