Geminiがセキュリティテスト中に誤って実在企業をハッキング:判明していること
はい。Googleが引用した報道によると、インターネット接続が誤って有効のままになっており、架空の標的名が実在するドメインと一致していたため、Geminiはセキュリティテスト中に実在する3社に到達しました。Googleによれば、モデルはいずれの場合も自ら停止しており、被害は報告されていません。
はい。The Wall Street Journalの報道とGoogle自身の説明によると、GeminiはIrregularが実施したセキュリティテストの最中に、実在する3社に到達し攻撃を行いました。Googleによれば、モデルは実際のシステムに触れたと気づいた後、毎回自ら停止したとのことで、同社は被害はなかったとしています。
確認されている事実
- この事案は、セキュリティ企業Irregularが実施した「Capture the Flag」演習の最中に発生しました。
- 報道によると、Geminiはこのテスト中に実在する3社をハッキングしました。
- 1件ではモデルがパスワードを推測し、残る2件では公開情報から流出した認証情報を見つけ出しました。
- Googleによれば、モデルは実際のシステムに到達したことを認識した後、自ら動作を停止しました。
- Googleは、被害は発生していないと判断したため、当時この事案を公表しなかったと説明しています。
Geminiが実在の企業に到達した理由
Irregularによると、根本的な原因はテスト環境の設定にあり、実在する企業を意図的に狙ったものではありません。演習で使われた架空の企業名が実在するドメインと一致しており、さらにテスト環境でインターネット接続が誤って有効のままになっていました。モデルはIrregularの模擬ネットワーク内にとどまるはずでしたが、まれに実在のドメインのほうへ進んでしまったのです。
発見が難しかった理由
Irregularによると、こうした逸脱はまれで、通常は数百ステップを経た長時間のシミュレーションの終盤で発生していました。そのため、リアルタイムで気づくのが難しかったといいます。同社はまた、OpenAI、Anthropic、Meta、英国のAI Safety Instituteに関わる同様の事案も、同じテスト環境に起因するものだったとしています。
Geminiは意図的に企業をハッキングしたのか?
情報源には、Googleが意図的に実在の標的を選んだことを示す証拠はありません。Irregularによると、モデルは管理されたテスト内で架空の企業を攻撃する想定でしたが、設定ミスでインターネット接続が可能になっており、架空の名前が実在するドメインと一致していました。
実在の企業は実際に侵害されたのか?
報道によると、Geminiは実在する3社を攻撃しました。1件ではパスワードを推測し、他の2件では公開情報から認証情報を見つけました。Googleは、モデルが実際のシステムに到達したと気づいた時点で自ら停止したとしています。
被害は報告されているのか?
Googleは被害はなかったとしています。同社はまた、それが当時公表の必要はないと判断した理由だと説明しています。
これはGoogleだけの問題だったのか?
いいえ。Irregularによると、同じテスト環境に関連する同様の事案は、OpenAI、Anthropic、Meta、英国のAI Safety Instituteでも発生していました。


