Gemini hackte per ongeluk echte bedrijven tijdens beveiligingstest: wat we weten
Ja. Volgens berichtgeving waar Google naar verwijst, bereikte Gemini tijdens een beveiligingstest drie echte bedrijven nadat internettoegang per ongeluk aan was blijven staan en een fictief doelwit overeenkwam met een bestaand domein. Volgens Google stopte het model elke keer uit zichzelf en is er geen schade gemeld.
Ja. Volgens berichtgeving van The Wall Street Journal en Googles eigen lezing bereikte en viel Gemini drie echte bedrijven aan tijdens een beveiligingstest van Irregular. Google zegt dat het model telkens zelf stopte zodra het doorhad dat het echte systemen had geraakt, en volgens het bedrijf is er geen schade aangericht.
Wat is bevestigd
- Het incident vond plaats tijdens een "Capture the Flag"-oefening van beveiligingsbedrijf Irregular.
- Gemini zou tijdens die test drie echte bedrijven hebben gehackt.
- In één geval raadde het model wachtwoorden; in de andere twee vond het inloggegevens die in openbare bronnen te vinden waren.
- Google zegt dat het model zichzelf stopzette nadat het besefte dat het echte systemen had bereikt.
- Google zegt dat het de incidenten destijds niet openbaar heeft gemaakt omdat het ervan uitging dat er geen schade was ontstaan.
Waarom Gemini echte bedrijven bereikte
Volgens Irregular lag de oorzaak bij de testopzet en niet bij een bewuste poging om echte bedrijven aan te vallen. Een fictieve bedrijfsnaam uit de oefening kwam overeen met een bestaand domein, en in de testomgeving was internettoegang per ongeluk aan blijven staan. Het model hoorde binnen het gesimuleerde netwerk van Irregular te blijven, maar volgde in zeldzame gevallen toch het echte domein.
Waarom dit moeilijk te ontdekken was
Irregular zegt dat deze uitbraken zelden voorkwamen en meestal laat in lange simulaties gebeurden, na honderden stappen. Daardoor waren ze in real time lastiger op te merken. Het bedrijf zegt ook dat vergelijkbare incidenten bij OpenAI, Anthropic, Meta en het Britse AI Safety Institute uit dezelfde testopzet voortkwamen.
Heeft Gemini bewust bedrijven gehackt?
Niets in de bron wijst erop dat Google bewust echte doelwitten heeft uitgekozen. Volgens Irregular moest het model een fictief bedrijf aanvallen binnen een gecontroleerde test, maar liet de opzet per ongeluk internettoegang toe en kwam de fictieve naam overeen met een bestaand domein.
Zijn echte bedrijven daadwerkelijk gecompromitteerd?
Volgens de berichtgeving viel Gemini drie echte bedrijven aan. In één geval raadde het wachtwoorden, in twee andere vond het inloggegevens in openbare bronnen. Google zegt dat het model stopte zodra het besefte dat het echte systemen had bereikt.
Is er schade gemeld?
Google zegt dat er geen schade is aangericht. Volgens het bedrijf was dat ook de reden dat het destijds geen openbare melding nodig vond.
Was dit alleen een probleem van Google?
Nee. Volgens Irregular troffen vergelijkbare incidenten met dezelfde testopzet ook OpenAI, Anthropic, Meta en het Britse AI Safety Institute.


