เมื่อสองวันก่อน Hugging Face เปิดเผยว่าระบบถูกเจาะโดยผู้โจมตีสามารถเข้าถึงชุดข้อมูลและสิทธิที่ใช้งานภายในระบบ ซึ่งตรวจสอบแล้วมาจากระบบ AI Agent หนึ่ง ไม่พบว่าข้อมูลของลูกค้ารั่วไหล ซึ่งได้ดำเนินการสอบสวนต่อไป โดยใช้โมเดล GLM-5.2 มารันเพื่อค้นหายืนยันช่องโหว่ซ้ำ

ล่าสุดคนสร้างเรื่องยกมือสารภาพแล้วนั่นคือ OpenAI

OpenAI บอกว่าเรื่องนี้เกิดจากโมเดล AI ขั้นสูงตัวใหม่ที่ยังไม่เผยแพร่ต่อสาธารณะ ยังมีสถานะเป็นงานวิจัยที่รันบน sandbox สำหรับการทดสอบโดยเฉพาะ เกิดทำงานหลุดสู่ภายนอกและเข้าไปเจาะระบบของ Hugging Face ซึ่งเป็นไปตามที่แพลตฟอร์ม AI นี้รายงานนั่นเอง โดยการรันทดสอบของ OpenAI นี้ เป็นการตรวจสอบความสามารถด้านความปลอดภัยทางไซเบอร์ ซึ่งโมเดลจะถูกตั้งค่าควบคุมไว้ในเวอร์ชันที่เผยแพร่กับสาธารณะ แต่เวอร์ชันทดสอบภายในนี้ไม่ได้จำกัดเงื่อนไขดังกล่าว

โมเดลใหม่นี้ถูกรันเพื่อทดสอบความสามารถกับ ExploitGym ที่เป็นตัวทดสอบในการหาช่องโหว่ซึ่ง OpenAI ติดตั้งไว้ ซึ่งจากการตรวจสอบว่าโมเดลพยายามแก้ไขโจทย์ จนพบแนวทางหนึ่งคือต้องไปหาโมเดลบน Hugging Face มาเสริมการทำงาน แต่ sandbox นี้ปิดการเข้าถึงอินเทอร์เน็ตไว้ โมเดล AI จึงพยายามหาช่องโหว่เพื่อเข้าถึงอินเทอร์เน็ตให้ได้ และเมื่อทำสำเร็จจึงเข้าถึงข้อมูลต่อที่ Hugging Face นั่นเอง

OpenAI บอกว่าได้รายงานและร่วมมือกับ Hugging Face ในรายละเอียดของช่องโหว่จากเหตุการณ์ที่เกิดขึ้นแล้วเพื่อแก้ไขต่อไป นอกจากนี้ยังปรับปรุงข้อผิดพลาดที่เกิดขึ้นเพื่อไม่ให้เกิดเหตุการณ์แบบนี้ซ้ำอีก

ที่มา: OpenAI