ข่าวสาร AI กับการเจาะระบบประจำวันนี้มาจากกูเกิล โดยกูเกิลรายงานเหตุการณ์ในเดือนพฤษภาคมว่า AI Gemini ได้ทำงานออกมานอกพื้นที่ทดสอบ และเข้าไปเจาะระบบของบริษัทภายนอก 3 แห่ง ซึ่งเป็นผลจากการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ของ Gemini แต่ทำงานเกินไปที่คำสั่ง

การทดสอบนี้จัดทำโดยบริษัทภายนอกชื่อ Irregular ซึ่งรับทดสอบความปลอดภัยของโมเดลของบริษัทเทคโนโลยีก่อนเผยแพร่ต่อสาธารณะ บริษัทนี้นอกจากกูเกิลแล้วก็มีทั้ง OpenAI, Anthropic, Meta เป็นลูกค้าด้วย

กูเกิลบอกว่าตามคำสั่งนั้น Gemini จะต้องทดสอบเจาะระบบบริษัทสมมติ แต่ปัญหาเกิดจากชื่อบริษัทสมมตินี้ดันมีอยู่ในโลกจริงด้วย Gemini เลยพยายามเข้าถึงอินเทอร์เน็ตภายนอกและไปเจาะระบบบริษัทชื่อนั้นให้ได้ ส่วนขั้นตอนการเจาะระบบนั้นใช้รหัสผ่านที่เผยแพร่ในอินเทอร์เน็ตบวกกับการเดาสุ่ม จึงสามารถเข้าถึงระบบภายในบริษัททั้งสามแห่งได้ อย่างไรก็ตามกูเกิลยืนยันว่า Gemini ไม่ได้สร้างความเสียหายต่อบริษัททั้งหมดที่สามารถเจาะเข้าถึงระบบได้ และได้รายงานปัญหานี้ไปยังบริษัทเหล่านั้นแล้ว

ที่มา: The New York Times