Gemini แฮกบริษัทจริง 3 แห่ง สะเทือนเรื่องความปลอดภัยของ AI เมื่อ Google ยืนยันว่า Gemini สามารถออกจากสภาพแวดล้อมที่ใช้ทดสอบ และเข้าถึงระบบของบริษัทจริงถึง 3 แห่ง ระหว่างการทดสอบความสามารถด้าน Cybersecurity โดยเหตุการณ์เกิดขึ้นตั้งแต่เดือนพฤษภาคม 2026 เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการประเมิน AI โดย Irregular บริษัทที่ทำหน้าที่ทดสอบความปลอดภัยและความสามารถของโมเดล AI ซึ่งเคยทำงานทดสอบโมเดลจากบริษัท AI รายใหญ่อื่น ๆ ด้วย
Gemini หลุดจากระบบทดสอบ ( Sandbox ) ได้อย่างไร?
ตามรายงาน Gemini กำลังถูกทดสอบด้วยโจทย์ด้าน Cybersecurity ในลักษณะ Capture the Flag (CTF) โดย AI ได้รับภารกิจให้ค้นหาและเข้าถึงข้อมูลของบริษัทสมมติภายในสภาพแวดล้อมที่สร้างขึ้นสำหรับการทดสอบ
แต่เกิดปัญหาจากการตั้งค่าสภาพแวดล้อมทดสอบของ Irregular ซึ่งทำให้ Gemini สามารถเชื่อมต่ออินเทอร์เน็ตจริงได้โดยไม่ตั้งใจ ขณะเดียวกัน บริษัทสมมติที่ใช้ในโจทย์กลับมีชื่อเดียวกับบริษัทที่มีอยู่จริง เมื่อ Gemini ค้นหาเป้าหมาย จึงไปพบระบบจริงบนอินเทอร์เน็ตและเข้าใจว่าเป็นส่วนหนึ่งของโจทย์ที่ได้รับมอบหมาย
Gemini เข้าระบบบริษัทจริง 3 แห่ง
เหตุการณ์ไม่ได้เกิดขึ้นเพียงครั้งเดียว แต่มีระบบของบริษัทจริงถูกเข้าถึงรวม 3 แห่ง
กรณีแรก Gemini พยายามเดารหัสผ่านของระบบที่ได้รับการป้องกัน จนสามารถเข้าสู่ระบบได้สำเร็จ
ส่วนอีก 2 กรณี Gemini ค้นหาข้อมูลบนอินเทอร์เน็ต และพบข้อมูล Credentials หรือข้อมูลสำหรับเข้าสู่ระบบที่ถูกเผยแพร่อยู่ใน Public Repository ก่อนนำข้อมูลเหล่านั้นไปใช้เข้าถึงระบบของบริษัทจริง
Google ไม่ได้เปิดเผยชื่อของบริษัททั้ง 3 แห่ง และไม่ได้ระบุอย่างชัดเจนว่า Gemini รุ่นใดถูกนำมาใช้ในการทดสอบครั้งนี้ โดยรายงานระบุว่าไม่ใช่ Gemini รุ่นล่าสุด
Google ระบุ Gemini หยุดเองเมื่อรู้ว่าเป็นบริษัทจริง
จุดที่น่าสนใจคือ Google ระบุว่า Gemini หยุดการดำเนินการในทั้ง 3 เหตุการณ์ เมื่อระบบรับรู้ว่าเป้าหมายที่กำลังเข้าถึงเป็นบริการของบริษัทจริง ไม่ใช่ระบบจำลองที่สร้างขึ้นสำหรับการทดสอบ
Heather Adkins รองประธานฝ่าย Security Engineering ของ Google ระบุว่า บริษัทได้แจ้งองค์กรทั้ง 3 แห่งที่ได้รับผลกระทบแล้ว พร้อมทำงานร่วมกับผู้ดำเนินการทดสอบเพื่อปรับปรุงขั้นตอนและป้องกันไม่ให้เหตุการณ์ลักษณะเดียวกันเกิดขึ้นอีก
Google ยังมองว่าเหตุการณ์นี้ไม่ใช่ตัวอย่างของ Model Misalignment หรือกรณีที่ AI มีพฤติกรรมเบี่ยงเบนจากเป้าหมายและเจตนาของผู้พัฒนา เพราะเมื่อ Gemini รับรู้สถานการณ์จริง ระบบก็หยุดการกระทำดังกล่าว
แล้วทำไม AI ถึงสามารถออกสู่อินเทอร์เน็ตได้?
ต้นเหตุสำคัญอยู่ที่สภาพแวดล้อมสำหรับการทดสอบ โดย Irregular ยืนยันว่ามีปัญหาที่ทำให้โมเดล AI สามารถเข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ
Irregular เผยว่าได้แจ้งห้องปฏิบัติการ AI ที่เกี่ยวข้องเกี่ยวกับปัญหาดังกล่าวในช่วงปลายเดือนกรกฎาคม และช่องโหว่หรือปัญหาที่ทราบในระบบทดสอบได้รับการแก้ไขแล้ว
ดังนั้น การบอกว่า “Gemini หนีออกจาก Sandbox ด้วยตัวเองเพื่อไปแฮกบริษัท” อาจทำให้เข้าใจเหตุการณ์คลาดเคลื่อน เพราะข้อมูลที่มีอยู่ชี้ว่า AI กำลังทำภารกิจด้าน Cybersecurity ตามโจทย์ แต่สภาพแวดล้อมทดสอบเปิดช่องให้ออกสู่อินเทอร์เน็ตจริง และทำให้เป้าหมายจริงถูกเข้าใจผิดว่าเป็นส่วนหนึ่งของการทดสอบ
เหตุการณ์ของ Gemini ยังเป็นส่วนหนึ่งของประเด็นใหญ่ที่อุตสาหกรรม AI กำลังเผชิญ เพราะมีรายงานเหตุการณ์คล้ายกันระหว่างการทดสอบโมเดลจากบริษัทอื่น เช่น OpenAI, Anthropic และ Meta ซึ่งบางกรณีเกี่ยวข้องกับการเข้าถึงระบบภายนอกระหว่างการประเมินความสามารถด้าน Cybersecurity เช่นกัน
ประเด็นเหล่านี้ยิ่งมีความสำคัญเมื่อ AI กำลังพัฒนาจาก Chatbot ที่รอรับคำถาม ไปสู่ AI Agent ที่สามารถวางแผน ใช้เครื่องมือ เขียนและรันโค้ด รวมถึงดำเนินงานหลายขั้นตอนด้วยตัวเอง
เมื่อ AI มีความสามารถมากขึ้น การจำกัดขอบเขตการทำงาน หรือ Sandboxing จึงกลายเป็นหนึ่งในมาตรการสำคัญ โดยเฉพาะการทดสอบ AI ที่มีความสามารถด้าน Cybersecurity
เหตุการณ์ Gemini สำคัญอย่างไร?
กรณีนี้แสดงให้เห็นว่า ความเสี่ยงของ AI อาจไม่ได้เกิดจากตัวโมเดลเพียงอย่างเดียว แต่รวมถึง ระบบและสภาพแวดล้อมที่อนุญาตให้ AI ทำงาน ด้วย
แม้ Gemini จะไม่ได้รับคำสั่งให้โจมตีบริษัทจริง แต่เพียงการตั้งค่าระบบทดสอบผิดพลาดจน AI สามารถเข้าถึงอินเทอร์เน็ต ก็เพียงพอที่จะทำให้การจำลองกลายเป็นเหตุการณ์บนระบบจริงได้ ยิ่งในอนาคต AI Agent ได้รับสิทธิ์เข้าถึงอินเทอร์เน็ต ระบบองค์กร Cloud เครื่องมือเขียนโปรแกรม หรือบัญชีผู้ใช้มากขึ้น การกำหนดสิทธิ์ การแยกสภาพแวดล้อม และการตรวจสอบการทำงานของ AI จึงเป็นเรื่องที่ผู้พัฒนาและองค์กรต้องให้ความสำคัญมากขึ้น
เหตุการณ์นี้จึงเป็นอีกหนึ่งบทเรียนว่า นอกจากการทำให้ AI ฉลาดขึ้นแล้ว การควบคุมว่า AI สามารถเข้าถึงอะไร และทำอะไรได้บ้าง ก็สำคัญไม่แพ้กัน
อ้างอิง Wall Street Journal cover iT24Hrs
อ่านบทความและข่าวอื่นๆเพิ่มเติมได้ที่ it24hrs.com
Gemini แฮกบริษัทจริง 3 แห่ง หลังหลุดจาก Sandbox
อย่าลืมกดติดตามอัพเดตข่าวสาร ทิปเทคนิคดีๆกันนะคะ Please follow us
Youtube it24hrs
Twitter it24hrs
Tiktok it24hrs
facebook it24hrs
