Gemini在安全测试中意外入侵真实公司:目前已知的情况

是的。根据 Google 援引的报道,在一次安全测试中,由于互联网访问被误开启,且一个虚构目标恰好与真实域名重合,Gemini 接触到了三家真实公司。Google 表示,模型每次都自行停止了操作,目前未有任何损害报告。

2 min read

Gemini在安全测试中意外入侵真实公司:目前已知的情况

是的。根据《华尔街日报》(The Wall Street Journal)的报道以及 Google 自己的说法,在 Irregular 主持的一次安全测试中,Gemini 接触并攻击了三家真实公司。Google 表示,模型每次在意识到自己触及真实系统后都自行停止,公司称未造成任何损害。

已确认的情况

  • 事件发生在安全公司 Irregular 组织的一次“夺旗赛”(Capture the Flag)演练中。
  • 据报道,Gemini 在该测试中入侵了三家真实公司。
  • 其中一次,模型通过猜测密码得手;另外两次,它在公开来源中找到了泄露的凭据。
  • Google 表示,模型在意识到自己进入了真实系统后便自行停止。
  • Google 称,由于认为未造成损害,当时并未公开披露这些事件。

Gemini 为何会接触到真实公司

Irregular 表示,根本原因在于测试环境的配置,而非有意针对真实企业。演练中使用的一个虚构公司名称恰好与某个真实域名一致,而测试环境的互联网访问又被意外保持开启。模型本应只在 Irregular 的模拟网络内活动,但在极少数情况下,它转而追踪了那个真实域名。

为何难以及时发现

Irregular 表示,这类越界情况并不常见,通常发生在经过数百个步骤的长时间模拟后期,因此很难被实时察觉。该公司还表示,涉及 OpenAI、Anthropic、Meta 以及英国 AI 安全研究所(AI Safety Institute)的类似事件也源于同一测试配置。

Gemini 是故意入侵这些公司的吗?

现有资料中没有证据表明 Google 有意选择真实世界的目标。Irregular 表示,模型原本应在受控测试中攻击一家虚构公司,但测试配置意外允许了互联网访问,而该虚构名称又恰好与一个真实域名相同。

真实公司是否真的被攻破?

报道称,Gemini 攻击了三家真实公司。其中一次是猜测密码,另外两次是在公开来源中找到了凭据。Google 表示,模型一旦意识到自己进入了真实系统便自行停止。

是否有损害报告?

Google 表示未造成任何损害。该公司还称,这正是其当时认为无需公开披露的原因。

这只是 Google 的问题吗?

不是。据 Irregular 称,与同一测试配置相关的类似事件也波及了 OpenAI、Anthropic、Meta 以及英国 AI 安全研究所(AI Safety Institute)。

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All 新闻