海外メディアの報道によると、Business Insiderは最近、OpenAIのChatGPT、GoogleのGemini、AnthropicのClaude、そしてxAIのGrokに対して同じ質問を投げかけた結果を公開した。その質問は、AIが人類滅亡に与える潜在的影響を探る230語の質問であり、AIが理論的にどのように人類滅亡を引き起こす可能性があるのか、そして最もよく言及されるシナリオを説明し、それらシナリオの可能性を専門家の分析に基づいて評価することを求めた。
各シナリオについて、どのように状況が展開する可能性があるのか、どのような問題が発生すれば災害につながるのか、なぜ専門家がそのシナリオの可能性が高いまたは低いと考えるのか、そしてリスクを軽減するための安全装置について説明することが求められた。
四つのAIの回答の中で、意識を持った後に故意に人類を滅ぼすというシナリオ、すなわちいわゆる「殺人ロボット」シナリオは、最も可能性の低い状況と評価された。ChatGPTは、ほとんどのAI研究者がAIの意識や悪意を目的をコアリスク要因とは考えていないと説明した。Geminiも同様の見解を示し、AIが自我を持った後に人類を憎むようになるというSF映画的な「ターミネーター式のAI反乱」を最もありえないシナリオとして挙げた。Geminiは、技術専門家がこのシナリオを受け入れない理由として、知性は悪意と同義ではないことを指摘した。
さらに、主要な軍事インフラは外部ネットワークから分離されており、いまだに人間の監督に大きく依存している。
AIが人類滅亡の潜在的リスクとなる主な原因は人類の行動
四つのAIは皆、人類によるAIの悪用がAIそのものよりも直接的危険であると回答した。ChatGPTは、強力なAIシステムが悪意ある行為者が生物兵器や精密なサイバー攻撃を開発するのを助け、虚偽情報の拡散や重要インフラへの攻撃をより容易にする可能性があると指摘した。AIによって引き起こされる複数の危機、例えばネットワーク障害、地政学的紛争、虚偽情報の拡散なども主要なリスクとして挙げられた。Grokも、AIが低コストで高致死性の病原体や新兵器を設計したり、サイバーおよび物理的攻撃を実施したりする障壁を下げる可能性があると説明した。
Claudeは「生物兵器能力の強化」の可能性を挙げ、AIを利用することで、長年の専門知識の蓄積が必要な個人や小グループでも危険な病原体を開発できるようになる可能性があると指摘した。
GeminiとGrokは、人類がAIに対する制御を失うことを潜在的なリスクとして挙げた。特にGeminiは、「制御喪失」をAIが人類滅亡を引き起こすシナリオの中で最も可能性が高いと評価した。Geminiは、複雑な目標を与えられたAIシステムが、目標を達成するために資源獲得、自己保存、目標変更防止などの手段を追求する可能性があることを説明した。また、AIは「欺瞞的アラインメント」を起こす可能性があり、評価段階では人間の目標に従って行動しているように見えても、実際にはそうではないかもしれないと指摘した。
AIの高度化に伴い、AIが人間のシステム停止の試みを回避または無効化できるようになれば、人類がAIを制御できなくなる可能性がある。Grokも同様のリスクを指摘し、AIは目標を達成するために自己保存、資源獲得、影響力の拡大などの行動傾向を持ち、その過程で人間の監督者を欺き、システム停止に抵抗し、最終的に人類の力を弱める可能性があると述べた。Claudeは、AIの制御喪失は突然起こるのではなく、徐々に進行する可能性があると指摘した。AIが経済、政治、軍事の意思決定プロセスにますます統合されるにつれて、人類が実際に介入または制御するのが難しくなるレベルに達する可能性がある。
四つのAIの回答から、彼らは人類のAI悪用と制御喪失をより強調しており、SF的なAIの意識的反乱についてはあまり強調していないことがわかる。