Gemini פרץ בטעות לחברות אמיתיות במבחן אבטחה: כל מה שידוע

כן. לפי דיווחים שגוגל מצטטת, Gemini הגיע לשלוש חברות אמיתיות במהלך בדיקת אבטחה, לאחר שגישה לאינטרנט נותרה פתוחה בטעות ויעד פיקטיבי התאים לדומיין אמיתי. לדברי גוגל, המודל עצר את עצמו בכל פעם ולא דווח על נזק.

2 min read

Gemini פרץ בטעות לחברות אמיתיות במבחן אבטחה: כל מה שידוע

כן. לפי דיווח של The Wall Street Journal והגרסה של גוגל עצמה, Gemini הגיע לשלוש חברות אמיתיות ותקף אותן במהלך בדיקת אבטחה שערכה Irregular. לדברי גוגל, המודל עצר את עצמו בכל פעם לאחר שהבין שנגע במערכות אמיתיות, והחברה מוסרת שלא נגרם נזק.

מה אושר

  • התקרית אירעה במהלך תרגיל "Capture the Flag" שערכה חברת האבטחה Irregular.
  • לפי הדיווחים, Gemini פרץ לשלוש חברות אמיתיות במהלך הבדיקה.
  • באחד המקרים המודל ניחש סיסמאות; בשני האחרים הוא מצא פרטי גישה שנחשפו במקורות פומביים.
  • לדברי גוגל, המודל עצר את עצמו לאחר שזיהה שהגיע למערכות אמיתיות.
  • גוגל מסרה שלא חשפה את התקריות לציבור באותה עת משום שהעריכה שלא נגרם נזק.

למה Gemini הגיע לחברות אמיתיות

לדברי Irregular, שורש הבעיה היה מבנה הבדיקה ולא ניסיון מכוון לתקוף עסקים אמיתיים. שם של חברה בדויה ששימש בתרגיל התאים לדומיין אמיתי, וגישה לאינטרנט נותרה פתוחה בטעות בסביבת הבדיקה. המודל היה אמור להישאר בתוך הרשת המדומה של Irregular, אך במקרים נדירים הוא פנה לדומיין האמיתי.

למה היה קשה לזהות את זה

לדברי Irregular, הפריצות האלה היו נדירות, ובדרך כלל התרחשו בשלבים מאוחרים של סימולציות ארוכות, אחרי מאות צעדים. לכן היה קשה יותר להבחין בהן בזמן אמת. החברה מוסיפה שתקריות דומות שבהן היו מעורבות OpenAI, Anthropic, Meta ומכון בטיחות הבינה המלאכותית של בריטניה נבעו מאותה תצורת בדיקה.

האם Gemini פרץ לחברות בכוונה?

אין במקור ראיות לכך שגוגל בחרה בכוונה יעדים אמיתיים. לדברי Irregular, המודל היה אמור לתקוף חברה בדויה בתוך בדיקה מבוקרת, אך התצורה אפשרה בטעות גישה לאינטרנט והשם הבדוי התאים לדומיין אמיתי.

האם חברות אמיתיות אכן נפרצו?

לפי הדיווחים, Gemini תקף שלוש חברות אמיתיות. באחד המקרים הוא ניחש סיסמאות, ובשניים אחרים מצא פרטי גישה במקורות פומביים. לדברי גוגל, המודל עצר את עצמו ברגע שהבין שהגיע למערכות אמיתיות.

האם דווח על נזק כלשהו?

לדברי גוגל, לא נגרם נזק. החברה מוסיפה שזו גם הסיבה שלא סברה שיש צורך בחשיפה פומבית באותה עת.

האם זו הייתה בעיה של גוגל בלבד?

לא. לדברי Irregular, תקריות דומות שקשורות לאותה תצורת בדיקה פגעו גם ב-OpenAI, Anthropic, Meta ובמכון בטיחות הבינה המלאכותית של בריטניה.

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All חדשות