Gemini invadiu sem querer empresas reais em um teste de segurança: o que se sabe

Sim. De acordo com reportagens citadas pela Google, o Gemini chegou a três empresas reais durante um teste de segurança, depois de o acesso à internet ter ficado ligado por engano e de um alvo fictício corresponder a um domínio real. A Google afirma que o modelo se interrompeu sozinho em todas as ocasiões e não foram reportados danos.

2 min read

Gemini invadiu sem querer empresas reais em um teste de segurança: o que se sabe

Sim. Segundo o The Wall Street Journal e a própria versão da Google, o Gemini chegou a três empresas reais e atacou-as durante um teste de segurança conduzido pela Irregular. A Google diz que o modelo se interrompeu sozinho de cada vez, depois de perceber que tinha tocado em sistemas reais, e a empresa garante que não houve danos.

O que está confirmado

  • O incidente ocorreu durante um exercício de "Capture the Flag" conduzido pela empresa de segurança Irregular.
  • O Gemini terá pirateado três empresas reais durante esse teste.
  • Num dos casos, o modelo adivinhou palavras-passe; nos outros dois, encontrou credenciais expostas em fontes públicas.
  • A Google diz que o modelo parou sozinho depois de reconhecer que tinha chegado a sistemas reais.
  • A Google afirma que não divulgou publicamente os incidentes na altura por considerar que não tinha havido danos.

Porque é que o Gemini chegou a empresas reais

A Irregular diz que a causa principal foi a configuração do teste, e não uma tentativa deliberada de visar empresas reais. Um nome de empresa fictícia usado no exercício correspondia a um domínio real, e o acesso à internet tinha ficado ligado por acidente no ambiente de teste. O modelo deveria ter permanecido dentro da rede simulada da Irregular, mas, em casos raros, seguiu o domínio real.

Porque foi difícil detetar

A Irregular diz que estas fugas eram pouco comuns e aconteciam normalmente numa fase avançada de simulações longas, após centenas de passos. Isso tornava-as mais difíceis de notar em tempo real. A empresa acrescenta que incidentes semelhantes envolvendo a OpenAI, a Anthropic, a Meta e o AI Safety Institute do Reino Unido resultaram da mesma configuração de testes.

O Gemini pirateou empresas de propósito?

Nada na fonte indica uma escolha deliberada de alvos reais por parte da Google. A Irregular diz que o modelo deveria atacar uma empresa fictícia num teste controlado, mas a configuração permitiu acidentalmente o acesso à internet e o nome fictício correspondia a um domínio real.

Houve empresas reais efetivamente comprometidas?

As reportagens indicam que o Gemini atacou três empresas reais. Num caso adivinhou palavras-passe e, nos outros dois, encontrou credenciais em fontes públicas. A Google diz que o modelo parou sozinho assim que percebeu que tinha chegado a sistemas reais.

Foram reportados danos?

A Google diz que não houve danos. A empresa afirma também que foi por isso que não considerou necessária uma divulgação pública na altura.

Foi um problema exclusivo da Google?

Não. Segundo a Irregular, incidentes semelhantes ligados à mesma configuração de testes afetaram também a OpenAI, a Anthropic, a Meta e o AI Safety Institute do Reino Unido.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All Notícias