Gemini случайно взломал реальные компании во время теста безопасности: что известно

Да. Согласно публикациям, на которые ссылается Google, во время тестирования безопасности Gemini добрался до трех реальных компаний: доступ в интернет по ошибке остался включенным, а вымышленная цель совпала с реальным доменом. В Google утверждают, что модель каждый раз останавливалась сама, и никакого ущерба зафиксировано не было.

2 min read

Gemini случайно взломал реальные компании во время теста безопасности: что известно

Да. По данным The Wall Street Journal и по словам самой Google, во время тестирования безопасности, которое проводила компания Irregular, Gemini добрался до трех реальных компаний и атаковал их. В Google говорят, что модель каждый раз останавливалась, осознав, что затронула реальные системы, и что никакого ущерба нанесено не было.

Что подтверждено

  • Инцидент произошел во время учений формата "Capture the Flag", которые проводила компания по кибербезопасности Irregular.
  • Как сообщается, в ходе этого теста Gemini взломал три реальные компании.
  • В одном случае модель подобрала пароли, в двух других нашла учетные данные, оказавшиеся в открытых источниках.
  • По словам Google, модель остановилась сама, поняв, что добралась до реальных систем.
  • В Google заявляют, что тогда не стали публично раскрывать информацию об инцидентах, поскольку считали, что ущерба нанесено не было.

Почему Gemini добрался до реальных компаний

В Irregular утверждают, что первопричиной стала конфигурация теста, а не намеренная попытка атаковать реальный бизнес. Название вымышленной компании, использованное в учениях, совпало с реальным доменом, а в тестовой среде по ошибке остался включенным доступ в интернет. Модель должна была оставаться внутри смоделированной сети Irregular, но в редких случаях переходила на реальный домен.

Почему это было сложно заметить

По данным Irregular, такие выходы за пределы среды случались нечасто и обычно на поздних этапах длительных симуляций, после сотен шагов. Из-за этого их было сложнее заметить в реальном времени. В компании также сообщают, что аналогичные инциденты с участием OpenAI, Anthropic, Meta и британского AI Safety Institute произошли в той же тестовой конфигурации.

Взламывал ли Gemini компании намеренно?

В источнике нет данных, указывающих на то, что Google сознательно выбирала реальные цели. По словам Irregular, модель должна была атаковать вымышленную компанию в контролируемом тесте, но конфигурация случайно открыла доступ в интернет, а вымышленное название совпало с реальным доменом.

Были ли реальные компании действительно скомпрометированы?

Согласно публикациям, Gemini атаковал три реальные компании. В одном случае он подобрал пароли, в двух других нашел учетные данные в открытых источниках. В Google говорят, что модель останавливалась, как только понимала, что добралась до реальных систем.

Сообщалось ли о каком-либо ущербе?

В Google утверждают, что ущерба нанесено не было. По словам компании, именно поэтому тогда она не сочла публичное раскрытие необходимым.

Это проблема только Google?

Нет. По данным Irregular, аналогичные инциденты, связанные с той же тестовой конфигурацией, затронули также OpenAI, Anthropic, Meta и британский AI Safety Institute.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All Новости