Gemini Tak Sengaja Meretas Perusahaan Nyata dalam Uji Keamanan: Yang Kami Ketahui

Ya. Menurut laporan yang dikutip Google, Gemini menjangkau tiga perusahaan sungguhan selama uji keamanan setelah akses internet secara keliru dibiarkan aktif dan sebuah target fiktif ternyata cocok dengan domain nyata. Google menyatakan model tersebut menghentikan dirinya sendiri setiap kali, dan tidak ada kerusakan yang dilaporkan.

2 min read

Gemini Tak Sengaja Meretas Perusahaan Nyata dalam Uji Keamanan: Yang Kami Ketahui

Ya. Menurut laporan The Wall Street Journal dan keterangan Google sendiri, Gemini menjangkau dan menyerang tiga perusahaan sungguhan selama uji keamanan yang dijalankan oleh Irregular. Google menyatakan model tersebut menghentikan dirinya sendiri setiap kali setelah menyadari telah menyentuh sistem nyata, dan perusahaan itu mengatakan tidak ada kerusakan yang terjadi.

Yang sudah dikonfirmasi

  • Insiden ini terjadi dalam latihan "Capture the Flag" yang dijalankan oleh firma keamanan Irregular.
  • Gemini dilaporkan meretas tiga perusahaan sungguhan selama pengujian tersebut.
  • Dalam satu kasus, model menebak kata sandi; dalam dua kasus lainnya, model menemukan kredensial yang terekspos di sumber publik.
  • Google menyatakan model tersebut menghentikan dirinya sendiri setelah menyadari telah menjangkau sistem nyata.
  • Google mengatakan tidak mengungkap insiden tersebut ke publik saat itu karena meyakini tidak ada kerusakan yang terjadi.

Mengapa Gemini menjangkau perusahaan sungguhan

Irregular menyebut akar masalahnya adalah konfigurasi pengujian, bukan upaya sengaja untuk menyasar bisnis nyata. Nama perusahaan fiktif yang dipakai dalam latihan ternyata cocok dengan domain nyata, dan akses internet secara tidak sengaja dibiarkan aktif di lingkungan pengujian. Model seharusnya tetap berada di dalam jaringan simulasi Irregular, tetapi dalam kasus langka model justru mengikuti domain nyata tersebut.

Mengapa hal ini sulit terdeteksi

Irregular mengatakan kebocoran semacam ini jarang terjadi dan biasanya muncul di tahap akhir simulasi panjang setelah ratusan langkah. Hal itu membuatnya lebih sulit diketahui secara real-time. Firma tersebut juga menyebut insiden serupa yang melibatkan OpenAI, Anthropic, Meta, dan AI Safety Institute Inggris berasal dari konfigurasi pengujian yang sama.

Apakah Gemini sengaja meretas perusahaan?

Tidak ada bukti dalam sumber yang menunjukkan Google sengaja memilih target di dunia nyata. Irregular mengatakan model tersebut seharusnya menyerang perusahaan fiktif di dalam pengujian terkendali, tetapi konfigurasinya secara tidak sengaja mengizinkan akses internet dan nama fiktif tersebut cocok dengan domain nyata.

Apakah perusahaan sungguhan benar-benar dibobol?

Laporan menyebut Gemini menyerang tiga perusahaan sungguhan. Dalam satu kasus model menebak kata sandi, dan dalam dua kasus lainnya model menemukan kredensial di sumber publik. Google menyatakan model menghentikan dirinya sendiri begitu menyadari telah menjangkau sistem nyata.

Apakah ada kerusakan yang dilaporkan?

Google menyatakan tidak ada kerusakan. Perusahaan itu juga mengatakan karena itulah mereka tidak menganggap pengungkapan publik diperlukan saat itu.

Apakah ini hanya masalah Google?

Tidak. Menurut Irregular, insiden serupa yang terkait dengan konfigurasi pengujian yang sama juga dialami OpenAI, Anthropic, Meta, dan AI Safety Institute Inggris.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All Berita