Gemini เผลอแฮ็กบริษัทจริงระหว่างทดสอบความปลอดภัย: สิ่งที่เรารู้ตอนนี้

ใช่ จากรายงานที่ Google อ้างถึง Gemini ได้เข้าถึงบริษัทจริง 3 แห่งระหว่างการทดสอบด้านความปลอดภัย หลังจากมีการเปิดการเข้าถึงอินเทอร์เน็ตทิ้งไว้โดยไม่ได้ตั้งใจ และชื่อเป้าหมายสมมติดันไปตรงกับโดเมนจริง Google ระบุว่าโมเดลหยุดตัวเองทุกครั้ง และยังไม่มีรายงานความเสียหายใดๆ

1 min read

Gemini เผลอแฮ็กบริษัทจริงระหว่างทดสอบความปลอดภัย: สิ่งที่เรารู้ตอนนี้

ใช่ จากรายงานของ The Wall Street Journal และคำชี้แจงของ Google เอง Gemini ได้เข้าถึงและโจมตีบริษัทจริง 3 แห่งระหว่างการทดสอบด้านความปลอดภัยที่ดำเนินการโดย Irregular Google ระบุว่าโมเดลหยุดตัวเองทุกครั้งหลังรู้ตัวว่าได้แตะต้องระบบจริง และบริษัทยืนยันว่าไม่มีความเสียหายเกิดขึ้น

สิ่งที่ได้รับการยืนยันแล้ว

  • เหตุการณ์นี้เกิดขึ้นระหว่างการฝึกแบบ "Capture the Flag" ที่ดำเนินการโดยบริษัทความปลอดภัย Irregular
  • มีรายงานว่า Gemini เจาะระบบบริษัทจริง 3 แห่งระหว่างการทดสอบดังกล่าว
  • ในกรณีหนึ่ง โมเดลใช้วิธีเดารหัสผ่าน ส่วนอีกสองกรณี โมเดลพบข้อมูลยืนยันตัวตนที่ถูกเปิดเผยอยู่ในแหล่งข้อมูลสาธารณะ
  • Google ระบุว่าโมเดลหยุดการทำงานของตัวเองหลังตระหนักว่าได้เข้าถึงระบบจริง
  • Google ระบุว่าไม่ได้เปิดเผยเหตุการณ์เหล่านี้ต่อสาธารณะในตอนนั้น เพราะเชื่อว่าไม่มีความเสียหายเกิดขึ้น

ทำไม Gemini จึงเข้าถึงบริษัทจริงได้

Irregular ระบุว่าต้นเหตุมาจากการตั้งค่าการทดสอบ ไม่ใช่ความพยายามจงใจเล็งเป้าธุรกิจจริง ชื่อบริษัทสมมติที่ใช้ในการฝึกไปตรงกับโดเมนจริง และสภาพแวดล้อมทดสอบก็เปิดการเข้าถึงอินเทอร์เน็ตทิ้งไว้โดยไม่ได้ตั้งใจ โมเดลควรจะทำงานอยู่ภายในเครือข่ายจำลองของ Irregular เท่านั้น แต่ในบางกรณีที่เกิดขึ้นไม่บ่อย โมเดลกลับตามไปยังโดเมนจริงแทน

ทำไมจึงตรวจจับได้ยาก

Irregular ระบุว่าการหลุดออกนอกขอบเขตเหล่านี้เกิดขึ้นไม่บ่อย และมักเกิดในช่วงท้ายของการจำลองที่ยาวนานหลังผ่านไปหลายร้อยขั้นตอน ทำให้สังเกตเห็นแบบเรียลไทม์ได้ยากขึ้น บริษัทยังระบุด้วยว่าเหตุการณ์คล้ายกันที่เกี่ยวข้องกับ OpenAI, Anthropic, Meta และ AI Safety Institute ของสหราชอาณาจักร ก็มีต้นเหตุมาจากการตั้งค่าการทดสอบเดียวกัน

Gemini จงใจเจาะระบบบริษัทหรือไม่?

ไม่มีหลักฐานในแหล่งข่าวที่บ่งชี้ว่า Google จงใจเลือกเป้าหมายในโลกจริง Irregular ระบุว่าโมเดลถูกตั้งให้โจมตีบริษัทสมมติภายในการทดสอบที่มีการควบคุม แต่การตั้งค่ากลับเปิดให้เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ และชื่อสมมตินั้นก็ไปตรงกับโดเมนจริง

บริษัทจริงถูกเจาะระบบจริงหรือไม่?

รายงานระบุว่า Gemini โจมตีบริษัทจริง 3 แห่ง ในกรณีหนึ่งใช้วิธีเดารหัสผ่าน และอีกสองกรณีพบข้อมูลยืนยันตัวตนในแหล่งข้อมูลสาธารณะ Google ระบุว่าโมเดลหยุดตัวเองทันทีที่รู้ว่าได้เข้าถึงระบบจริง

มีรายงานความเสียหายหรือไม่?

Google ระบุว่าไม่มีความเสียหายเกิดขึ้น และบอกด้วยว่านี่คือเหตุผลที่บริษัทไม่เห็นว่าจำเป็นต้องเปิดเผยต่อสาธารณะในตอนนั้น

นี่เป็นปัญหาของ Google เพียงรายเดียวหรือไม่?

ไม่ใช่ ตามข้อมูลจาก Irregular เหตุการณ์คล้ายกันที่เกี่ยวข้องกับการตั้งค่าการทดสอบเดียวกันยังเกิดกับ OpenAI, Anthropic, Meta และ AI Safety Institute ของสหราชอาณาจักรด้วย

Every top AI model, in one place

Nano Banana 2, GPT Image 2.5, Seedance, Veo and more, all on one credit balance. Start free with 35 credits a month. No card needed.

Browse all tools

More from Lumeta

All ข่าว