Gemini hackeó por accidente a empresas reales en una prueba de seguridad: lo que sabemos

Sí. Según la información citada por Google, Gemini llegó a tres empresas reales durante una prueba de seguridad después de que el acceso a internet se dejara activado por error y un objetivo ficticio coincidiera con un dominio real. Google afirma que el modelo se detuvo por sí mismo en cada ocasión y no se ha informado de ningún daño.

3 min read

Gemini hackeó por accidente a empresas reales en una prueba de seguridad: lo que sabemos

Sí. Según la información publicada por The Wall Street Journal y la propia versión de Google, Gemini llegó a tres empresas reales y las atacó durante una prueba de seguridad realizada por Irregular. Google asegura que el modelo se detuvo por sí mismo cada vez tras darse cuenta de que había alcanzado sistemas reales, y la compañía afirma que no se produjo ningún daño.

Lo que se ha confirmado

  • El incidente se produjo durante un ejercicio de tipo "Capture the Flag" organizado por la firma de seguridad Irregular.
  • Según la información disponible, Gemini hackeó a tres empresas reales durante esa prueba.
  • En un caso, el modelo adivinó contraseñas; en los otros dos, encontró credenciales expuestas en fuentes públicas.
  • Google afirma que el modelo se detuvo por sí mismo tras reconocer que había alcanzado sistemas reales.
  • Google señala que no hizo públicos los incidentes en su momento porque consideró que no se había producido ningún daño.

Por qué Gemini llegó a empresas reales

Irregular explica que la causa de fondo fue la configuración de la prueba, no un intento deliberado de atacar a negocios reales. Un nombre de empresa ficticio utilizado en el ejercicio coincidía con un dominio real, y el acceso a internet se había dejado activado por accidente en el entorno de pruebas. El modelo debía permanecer dentro de la red simulada de Irregular, pero en casos excepcionales siguió el dominio real.

Por qué fue difícil detectarlo

Irregular afirma que estas fugas eran poco frecuentes y solían ocurrir en las fases finales de simulaciones largas, después de cientos de pasos. Eso hacía más difícil advertirlas en tiempo real. La firma añade que incidentes similares relacionados con OpenAI, Anthropic, Meta y el AI Safety Institute del Reino Unido se originaron en la misma configuración de pruebas.

¿Hackeó Gemini a esas empresas a propósito?

Nada en la fuente indica que Google eligiera deliberadamente objetivos reales. Irregular explica que el modelo debía atacar a una empresa ficticia dentro de una prueba controlada, pero la configuración permitió por accidente el acceso a internet y el nombre ficticio coincidía con un dominio real.

¿Se vieron realmente comprometidas empresas reales?

Según la información publicada, Gemini atacó a tres empresas reales. En un caso adivinó contraseñas y en los otros dos encontró credenciales en fuentes públicas. Google afirma que el modelo se detuvo en cuanto se dio cuenta de que había alcanzado sistemas reales.

¿Se informó de algún daño?

Google asegura que no hubo daños. La compañía también afirma que por eso no consideró necesario hacerlo público en su momento.

¿Fue un problema exclusivo de Google?

No. Según Irregular, incidentes similares vinculados a la misma configuración de pruebas afectaron también a OpenAI, Anthropic, Meta y el AI Safety Institute del Reino Unido.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All Noticias