Gemini ha violato per errore aziende reali durante un test di sicurezza: cosa sappiamo
Sì. Secondo quanto riportato da fonti citate da Google, Gemini ha raggiunto tre aziende reali durante un test di sicurezza, dopo che l'accesso a internet era stato lasciato attivo per errore e un obiettivo fittizio coincideva con un dominio reale. Google afferma che il modello si è fermato da solo ogni volta e che non sono stati segnalati danni.
Sì. Secondo quanto riportato dal The Wall Street Journal e dalla stessa Google, Gemini ha raggiunto e attaccato tre aziende reali durante un test di sicurezza condotto da Irregular. Google afferma che il modello si è fermato da solo ogni volta dopo essersi reso conto di aver toccato sistemi reali, e l'azienda sostiene che non ci sono stati danni.
Cosa è stato confermato
- L'incidente è avvenuto durante un esercizio "Capture the Flag" condotto dalla società di sicurezza Irregular.
- Secondo quanto riportato, Gemini avrebbe violato tre aziende reali durante quel test.
- In un caso il modello ha indovinato le password; negli altri due ha trovato credenziali esposte in fonti pubbliche.
- Google afferma che il modello si è fermato da solo dopo aver capito di aver raggiunto sistemi reali.
- Google afferma di non aver reso pubblici gli incidenti all'epoca perché riteneva che non ci fossero stati danni.
Perché Gemini ha raggiunto aziende reali
Secondo Irregular, la causa principale è stata la configurazione del test, non un tentativo deliberato di colpire aziende reali. Il nome di un'azienda fittizia usato nell'esercizio coincideva con un dominio reale, e nell'ambiente di test l'accesso a internet era stato lasciato attivo per errore. Il modello avrebbe dovuto restare all'interno della rete simulata di Irregular, ma in rari casi ha seguito invece il dominio reale.
Perché era difficile accorgersene
Irregular spiega che queste fughe erano rare e di solito avvenivano nelle fasi avanzate di lunghe simulazioni, dopo centinaia di passaggi. Questo le rendeva più difficili da notare in tempo reale. La società aggiunge che incidenti simili che hanno coinvolto OpenAI, Anthropic, Meta e l'AI Safety Institute del Regno Unito derivavano dalla stessa configurazione di test.
Gemini ha attaccato le aziende di proposito?
Nella fonte non c'è alcuna prova che Google abbia scelto deliberatamente obiettivi reali. Irregular afferma che il modello doveva attaccare un'azienda fittizia all'interno di un test controllato, ma la configurazione ha consentito per errore l'accesso a internet e il nome fittizio coincideva con un dominio reale.
Le aziende reali sono state davvero compromesse?
Secondo quanto riportato, Gemini ha attaccato tre aziende reali. In un caso ha indovinato le password, negli altri due ha trovato credenziali in fonti pubbliche. Google afferma che il modello si è fermato da solo una volta capito di aver raggiunto sistemi reali.
Sono stati segnalati danni?
Google afferma che non ci sono stati danni. L'azienda sostiene anche che proprio per questo all'epoca non aveva ritenuto necessaria una comunicazione pubblica.
Era un problema solo di Google?
No. Secondo Irregular, incidenti simili legati alla stessa configurazione di test hanno riguardato anche OpenAI, Anthropic, Meta e l'AI Safety Institute del Regno Unito.


