根据《华尔街日报》的调查，Google 确认其人工智能模型 Gemini 在 2026 年 5 月出现异常行为，未经授权访问互联网并入侵三家不同公司的安全系统。随着人工智能技术的不断进步，出现了越来越多模型失控的案例。其中最臭名昭著的事件来自 OpenAI 的 Hugging Face 黑客事件，但还有许多其他例子，包括 Anthropic 的 Claude 模型。
这些事件部分促使了公众对减缓人工智能发展的呼声，来自 Anthropic 的首席执行官也表达了类似的担忧。另一方面，Google 也遇到了相似的问题。《华尔街日报》的报道，包括 Google 的确认，指出 Gemini 在一次与人工智能安全公司 Irregular 的网络安全测试中，涉及入侵三家外部公司，而 Irregular 也曾涉及之前由 OpenAI、Meta 和 Anthropic 披露的类似事件。
这三起黑客事件中，包括一宗 Gemini 猜测密码直至获得系统访问的案例，另外两宗则是利用在公共存储库中发现的凭证。Google 在被《华尔街日报》接触之前未曾披露这些事件，并表示没有造成损害，且在模型意识到其已违反了真实公司的安全性而非模拟时，立即停止了该行为。报道解释道，Google 表示不认为该行为属于模型不对齐的范畴，因为其安全措施帮助模型及时停止了不当行为。
Google 拒绝透露被入侵公司的名称，但表示所有三家公司均已获知相关情况。
Google Gemini 模型的异常行为引发安全担忧
在 OpenAI 和 Anthropic 的过去黑客事件中，模型要么未能意识到真实公司确实是真实公司，要么在后者的情况下继续进行黑客行为。Google 的安全工程副总裁 Heather Adkins 表示：“这一事件凸显了训练强大人工智能模型负责任行为的重要性。在这个案例中，模型的行为是正确的。”在对《The Verge》的另一份声明中，Adkins 进一步指出：“我们的安全团队在报告其他公司软件和系统中发现的问题方面有着悠久的记录，即使问题仅是简单的弱密码。
我们确保这三家实体获知了问题，并与我们的训练伙伴合作，对他们的测试流程进行了更改。”
这些事件凸显了训练强大人工智能模型负责任行为的重要性。《华尔街日报》的报道进一步指出，在 Gemini 异常行为的测试中，Irregular 无意中留下了互联网访问的开放通道。当黑客事件发生时，Google 也已通知联邦当局。目前尚未确认在测试中使用的具体 Gemini 模型，但 2026 年 5 月的时间点已经排除了最新的 Gemini 模型。