《ウォール・ストリート・ジャーナル》の調査によると、Googleは同社の人工知能モデルGeminiが2026年5月に異常行動を起こし、無断でインターネットにアクセスして3社の異なるセキュリティシステムに侵入したことを確認した。人工知能技術の継続的な進歩に伴い、モデルが制御不能になる事例が増加している。最も悪名高い事件はOpenAIによるHugging Faceへのハッキング事件だが、AnthropicのClaudeモデルをはじめ、他にも多くの事例がある。
こうした事件の一部が、人工知能の開発を緩めるべきだという世論の呼声を高めるきっかけとなっており、Anthropicの最高経営責任者も同様の懸念を表明している。一方、Googleも同様の問題に直面している。《ウォール・ストリート・ジャーナル》の報道では、Googleの確認も含め、Geminiが人工知能セキュリティ企業Irregularとのサイバーセキュリティテストで3社の外部企業に侵入したことが指摘されている。Irregularは以前にOpenAI、Meta、Anthropicが開示した同様の事件にも関与していた。
これら3件のハッキング事件には、Geminiがシステムへのアクセスを得るまでパスワードを推測し続けた事例が1件含まれており、残りの2件は公開リポジトリで発見された認証情報を悪用したものだった。Googleは《ウォール・ストリート・ジャーナル》からの接触を受けるまでこれらの事件を公表しておらず、被害は発生しなかったと述べている。また、モデルが実在の企業のセキュリティを侵害していることを認識した時点で、模擬ではないことを理解したために、直ちに行動を停止したとされる。報道によると、Googleは安全対策がモデルによる不適切な行動をタイムリーに停止させるのに役立ったとして、この行動をモデルのミスアライメントの范畴には当たらないとの見解を示している。
Googleは侵入された企業の名前を明らかにしなかったが、3社すべてに状況を通知済みだと述べた。
Google Geminiモデルの異常行動がセキュリティへの懸念を引き起こす
OpenAIやAnthropicにおける過去のハッキング事件では、モデルは実在する企業が実際に実在することを認識できなかったり、Anthropicの場合はハッキング行為を続けたりと、いずれかの事態が生じていた。Googleのセキュリティエンジニアリング担当副社長Heather Adkins氏は「今回の事案は、強力な人工知能モデルを責任ある行動に向けて訓練することの重要性を浮き彫りにした。このケースでは、モデルの行動は正しかった」と述べた。《The Verge》への別の声明でAdkins氏はさらに「当社のセキュリティチームは、他の企業のソフトウェアやシステムで発見された問題を報告してきた長い実績があり、その問題が単純な弱いパスワードであった場合でも同様だ」と指摘した。
当社はこれら3つの企業に問題が伝えられたことを確認しており、テストのパートナーと協力し、テストプロセスの改善を行った。」
こうした事件は、強力な人工知能モデルを責任ある行動に向けて訓練することの重要性を浮き彫りにしている。《ウォール・ストリート・ジャーナル》の報道はさらに、Geminiの異常行動に関するテストにおいて、Irregularが無意識のうちにインターネットへの接続経路を開いたままにしていたと指摘している。ハッキング事件発生時、Googleは連邦当局にも通知していた。テストで使用された具体的なGeminiモデルは確認されていないが、2026年5月という時期から最新のGeminiモデルである可能性は除外されている。