Gemini يخترق شركات حقيقية عن طريق الخطأ خلال اختبار أمني: ما نعرفه حتى الآن
نعم، وفقًا لتقارير استشهدت بها Google، وصل Gemini إلى ثلاث شركات حقيقية خلال اختبار أمني بعد أن تُرك الاتصال بالإنترنت مفعّلًا عن طريق الخطأ وتطابق هدف وهمي مع نطاق حقيقي. وتقول Google إن النموذج أوقف نفسه في كل مرة، ولم يُبلَّغ عن أي ضرر.
نعم. وفقًا لتقارير صحيفة The Wall Street Journal ورواية Google نفسها، وصل Gemini إلى ثلاث شركات حقيقية وهاجمها خلال اختبار أمني أجرته شركة Irregular. وتقول Google إن النموذج أوقف نفسه في كل مرة بعد أن أدرك أنه لامس أنظمة حقيقية، وتؤكد الشركة أنه لم يقع أي ضرر.
ما تم تأكيده
- وقعت الحادثة خلال تمرين "Capture the Flag" أجرته شركة الأمن Irregular.
- تفيد التقارير بأن Gemini اخترق ثلاث شركات حقيقية خلال ذلك الاختبار.
- في إحدى الحالات خمّن النموذج كلمات المرور، وفي الحالتين الأخريين عثر على بيانات اعتماد مكشوفة في مصادر عامة.
- تقول Google إن النموذج أوقف نفسه بعد أن أدرك أنه وصل إلى أنظمة حقيقية.
- تقول Google إنها لم تكشف عن الحوادث علنًا في حينها لأنها اعتقدت أنه لم يقع أي ضرر.
لماذا وصل Gemini إلى شركات حقيقية
تقول Irregular إن السبب الجذري كان في إعداد الاختبار، وليس محاولة متعمدة لاستهداف شركات حقيقية. فقد تطابق اسم شركة وهمية استُخدم في التمرين مع نطاق حقيقي، كما تُرك الاتصال بالإنترنت مفعّلًا عن طريق الخطأ في بيئة الاختبار. وكان من المفترض أن يبقى النموذج داخل الشبكة المحاكاة لدى Irregular، لكنه في حالات نادرة اتجه إلى النطاق الحقيقي بدلًا من ذلك.
لماذا كان اكتشاف ذلك صعبًا
تقول Irregular إن حالات الخروج هذه كانت غير شائعة، وغالبًا ما حدثت في مراحل متأخرة من محاكاة طويلة بعد مئات الخطوات، ما جعل ملاحظتها في الوقت الفعلي أصعب. وتضيف الشركة أن حوادث مماثلة تخص OpenAI وAnthropic وMeta ومعهد سلامة الذكاء الاصطناعي البريطاني نشأت عن إعداد الاختبار نفسه.
هل اخترق Gemini الشركات عمدًا؟
لا يوجد في المصدر ما يشير إلى أن Google اختارت أهدافًا حقيقية عن قصد. وتقول Irregular إن النموذج كان من المفترض أن يهاجم شركة وهمية داخل اختبار خاضع للرقابة، لكن الإعداد سمح بالاتصال بالإنترنت عن طريق الخطأ، وتطابق الاسم الوهمي مع نطاق حقيقي.
هل اختُرقت شركات حقيقية فعلًا؟
تفيد التقارير بأن Gemini هاجم ثلاث شركات حقيقية. ففي إحدى الحالات خمّن كلمات المرور، وفي حالتين أخريين عثر على بيانات اعتماد في مصادر عامة. وتقول Google إن النموذج أوقف نفسه بمجرد أن أدرك أنه وصل إلى أنظمة حقيقية.
هل أُبلغ عن أي ضرر؟
تقول Google إنه لم يقع أي ضرر، وتضيف أن هذا هو سبب اعتقادها في حينها بعدم ضرورة الكشف العلني.
هل كانت هذه مشكلة تخص Google وحدها؟
لا. وفقًا لـ Irregular، طالت حوادث مماثلة مرتبطة بإعداد الاختبار نفسه أيضًا OpenAI وAnthropic وMeta ومعهد سلامة الذكاء الاصطناعي البريطاني.


