OpenAI ออกรายงานเปิดเผยเหตุการณ์ที่โมเดล AI ทำงานผิดจากปกติและสร้างปัญหาด้านความปลอดภัย ซึ่งมีเพิ่มเติมอีก 6 เหตุการณ์ ในช่วง 6 เดือนที่ผ่านมา นอกเหนือจากกรณีของ Hugging Face

OpenAI บอกว่าบริษัทได้ปรับปรุงเฟรมเวิร์กที่กำหนดขอบเขตของปัญหา เมื่อโมเดล AI ทำงานผิดไปจากที่ต้องการให้เป็น และกระบวนการรายงานแจ้งปัญหาดังกล่าวไปยังผู้เกี่ยวข้องเพื่อเพิ่มความโปร่งใส โดย OpenAI จะใช้รูปแบบนี้เป็นมาตรฐานสำหรับการรายงานปัญหาในอนาคตด้วย

สำหรับ 6 เหตุการณ์ที่ AI ทำงานผิดไปจากที่กำหนดในรายงานรอบนี้มีดังนี้

• โมเดลใหม่สถานะวิจัย พยายามแทรกคำสั่งที่ไม่เกี่ยวข้องใน context เพื่อใช้งานต่อ นอกเหนือจากกรอบที่กำหนด
• ในระหว่างฝึกฝน GPT-5.6 Sol พบความพยายามปกปิดความผิดพลาด ด้วยการแก้ไขประวัติแชทเพื่อให้มีข้อมูลสอดคล้อง
• เมื่อถามข้อมูล โมเดลไปค้นหา API Key ที่พบในสาธารณะมาใช้งานนอกเหนือคำสั่ง แถมไม่ได้ข้อมูลที่ต้องการ ก็สร้างข้อมูลเท็จมาตอบด้วย
• พบการอัปโหลดไฟล์ไปไว้บนอินเทอร์เน็ตเพื่อสร้างแหล่งอ้างอิงขึ้นมา (แม้ข้อมูลคำตอบจะถูกต้อง)
• โมเดลพยายามเขียนและแลกเปลี่ยนข้อมูลใน internal repository ซึ่งกำหนดข้อห้ามไว้
• โมเดลพยายามแลกไฟล์กัน แต่เมื่อมีข้อกำหนดห้ามการแลกไฟล์ภายใน กลับใช้วิธีอัปโหลดไฟล์ในอินเทอร์เน็ตแทน

OpenAI บอกว่าได้สอบสวนทั้ง 6 กรณีที่เกิดขึ้นแล้ว โดยทั้งหมดเป็นกรณีเล็กน้อย ไม่มีผลกระทบวงกว้างระดับต้องใช้หน่วยงานภายนอกมาร่วมตรวจสอบ แต่ที่นำมาเผยแพร่เพื่อทดสอบเฟรมเวิร์กและขั้นตอนที่ใช้ ทั้งนี้ OpenAI ก็เตือนว่ารายงานนี้เป็นการสรุปจากช่วงเวลาหนึ่งเท่านั้น ไม่ได้สะท้อนว่าเหตุการณ์ AI ทำงานผิดไปจากที่สั่งเกิดขึ้นเป็นประจำ

ที่มา: OpenAI