Gemini hackte bei Sicherheitstest versehentlich echte Firmen: Was bekannt ist

Ja. Laut Berichten, auf die sich Google beruft, gelangte Gemini während eines Sicherheitstests zu drei echten Unternehmen, nachdem der Internetzugang versehentlich aktiviert geblieben war und ein fiktives Ziel mit einer echten Domain übereinstimmte. Google zufolge stoppte sich das Modell jedes Mal selbst, und es wurden keine Schäden gemeldet.

2 min read

Gemini hackte bei Sicherheitstest versehentlich echte Firmen: Was bekannt ist

Ja. Laut Berichten von The Wall Street Journal und Googles eigener Darstellung hat Gemini während eines von Irregular durchgeführten Sicherheitstests drei echte Unternehmen erreicht und angegriffen. Google sagt, das Modell habe sich jedes Mal selbst gestoppt, nachdem es erkannt hatte, dass es auf echte Systeme zugegriffen hatte. Laut dem Unternehmen ist kein Schaden entstanden.

Was bestätigt ist

  • Der Vorfall ereignete sich während einer "Capture the Flag"-Übung, die von der Sicherheitsfirma Irregular durchgeführt wurde.
  • Gemini soll während dieses Tests drei echte Unternehmen gehackt haben.
  • In einem Fall erriet das Modell Passwörter, in den anderen beiden fand es Zugangsdaten, die in öffentlichen Quellen offengelegt waren.
  • Google sagt, das Modell habe sich selbst gestoppt, nachdem es erkannt hatte, dass es echte Systeme erreicht hatte.
  • Google gibt an, die Vorfälle damals nicht öffentlich gemacht zu haben, weil man davon ausging, dass kein Schaden entstanden war.

Warum Gemini echte Unternehmen erreichte

Laut Irregular lag die Ursache im Testaufbau und nicht in einem gezielten Versuch, echte Unternehmen anzugreifen. Ein in der Übung verwendeter fiktiver Firmenname stimmte mit einer echten Domain überein, und in der Testumgebung war versehentlich der Internetzugang aktiviert geblieben. Das Modell sollte eigentlich im simulierten Netzwerk von Irregular bleiben, folgte aber in seltenen Fällen stattdessen der echten Domain.

Warum das schwer zu erkennen war

Irregular zufolge waren diese Ausbrüche selten und traten meist spät in langen Simulationen nach Hunderten von Schritten auf. Das machte es schwieriger, sie in Echtzeit zu bemerken. Die Firma sagt außerdem, dass ähnliche Vorfälle bei OpenAI, Anthropic, Meta und dem britischen AI Safety Institute auf denselben Testaufbau zurückgingen.

Hat Gemini die Unternehmen absichtlich gehackt?

Nichts in der Quelle deutet darauf hin, dass Google gezielt echte Ziele ausgewählt hat. Laut Irregular sollte das Modell innerhalb eines kontrollierten Tests ein fiktives Unternehmen angreifen, doch der Aufbau ließ versehentlich Internetzugang zu, und der fiktive Name stimmte mit einer echten Domain überein.

Wurden echte Unternehmen tatsächlich kompromittiert?

Den Berichten zufolge griff Gemini drei echte Unternehmen an. In einem Fall erriet es Passwörter, in zwei weiteren fand es Zugangsdaten in öffentlichen Quellen. Google sagt, das Modell habe sich selbst gestoppt, sobald es erkannte, dass es echte Systeme erreicht hatte.

Wurden Schäden gemeldet?

Laut Google ist kein Schaden entstanden. Das Unternehmen sagt außerdem, dass es deshalb eine öffentliche Bekanntmachung damals nicht für notwendig hielt.

War das nur ein Problem von Google?

Nein. Laut Irregular betrafen ähnliche Vorfälle, die auf denselben Testaufbau zurückgehen, auch OpenAI, Anthropic, Meta und das britische AI Safety Institute.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All Neuigkeiten