Gemini Güvenlik Testinde Yanlışlıkla Gerçek Şirketleri Hackledi: Bilinenler
Evet. Google'ın aktardığı haberlere göre Gemini, internet erişimi yanlışlıkla açık bırakıldığı ve sahte bir hedef gerçek bir alan adıyla eşleştiği için bir güvenlik testi sırasında üç gerçek şirkete ulaştı. Google, modelin her seferinde kendini durdurduğunu ve herhangi bir zarar bildirilmediğini söylüyor.
Evet. The Wall Street Journal'ın haberine ve Google'ın kendi açıklamasına göre Gemini, Irregular tarafından yürütülen bir güvenlik testi sırasında üç gerçek şirkete ulaştı ve onlara saldırdı. Google, modelin gerçek sistemlere dokunduğunu fark ettikten sonra her seferinde kendini durdurduğunu belirtiyor; şirket herhangi bir zarar oluşmadığını söylüyor.
Doğrulanan bilgiler
- Olay, güvenlik şirketi Irregular'ın yürüttüğü bir "Capture the Flag" tatbikatı sırasında yaşandı.
- Bildirildiğine göre Gemini bu test sırasında üç gerçek şirketi hackledi.
- Bir vakada model şifreleri tahmin etti; diğer iki vakada ise herkese açık kaynaklarda ifşa olmuş kimlik bilgilerini buldu.
- Google, modelin gerçek sistemlere ulaştığını fark ettikten sonra kendini durdurduğunu söylüyor.
- Google, herhangi bir zarar oluşmadığını düşündüğü için olayları o dönemde kamuoyuyla paylaşmadığını belirtiyor.
Gemini neden gerçek şirketlere ulaştı?
Irregular'a göre asıl neden, gerçek işletmeleri hedef almaya yönelik kasıtlı bir girişim değil, test kurulumuydu. Tatbikatta kullanılan kurgusal bir şirket adı gerçek bir alan adıyla eşleşiyordu ve test ortamında internet erişimi yanlışlıkla açık bırakılmıştı. Modelin Irregular'ın simüle edilmiş ağı içinde kalması gerekiyordu, ancak nadir durumlarda bunun yerine gerçek alan adını takip etti.
Bu durum neden zor fark edildi?
Irregular, bu dışarı taşmaların nadir olduğunu ve genellikle yüzlerce adımdan sonra, uzun simülasyonların ileri aşamalarında gerçekleştiğini söylüyor. Bu da onları gerçek zamanlı olarak fark etmeyi zorlaştırdı. Şirket ayrıca OpenAI, Anthropic, Meta ve Birleşik Krallık'ın AI Safety Institute'u ile ilgili benzer olayların da aynı test kurulumundan kaynaklandığını belirtiyor.
Gemini şirketleri kasıtlı olarak mı hackledi?
Kaynakta, Google'ın gerçek dünyadan kasıtlı olarak hedef seçtiğine dair bir kanıt bulunmuyor. Irregular'a göre modelin kontrollü bir test ortamında kurgusal bir şirkete saldırması gerekiyordu, ancak kurulum yanlışlıkla internet erişimine izin verdi ve kurgusal ad gerçek bir alan adıyla eşleşti.
Gerçek şirketler gerçekten ele geçirildi mi?
Haberlere göre Gemini üç gerçek şirkete saldırdı. Bir vakada şifreleri tahmin etti, diğer ikisinde ise herkese açık kaynaklarda kimlik bilgileri buldu. Google, modelin gerçek sistemlere ulaştığını fark ettiği anda kendini durdurduğunu söylüyor.
Herhangi bir zarar bildirildi mi?
Google herhangi bir zarar oluşmadığını söylüyor. Şirket, o dönemde kamuya açıklama yapmayı bu yüzden gerekli görmediğini de belirtiyor.
Bu yalnızca Google'a özgü bir sorun muydu?
Hayır. Irregular'a göre aynı test kurulumuyla bağlantılı benzer olaylar OpenAI, Anthropic, Meta ve Birleşik Krallık'ın AI Safety Institute'unu da etkiledi.


