OpenAI เปิดเผยว่าโมเดลปัญญาประดิษฐ์ขั้นสูงที่กำลังพัฒนาอยู่ตัวหนึ่งโค้ดเนม Astra มีความสามารถที่สูงมากทำให้บริษัทต้องชะลอแผนการเปิดตัวโมเดลนี้ เพื่อปรับปรุงตรวจสอบความปลอดภัยก่อนออกสู่สาธารณะ

OpenAI มีเฟรมเวิร์กภายในที่ใช้ตรวจสอบความปลอดภัยของโมเดล AI ที่เรียกว่า Preparedness Framework โดยบอกว่าโมเดล Astra มีความสามารถด้านการเขียนโค้ดและการตรวจสอบความปลอดภัยไซเบอร์ที่ก้าวหน้าไปมาก คะแนนของโมเดลนี้อยู่ในระดับรุนแรง (critical) ทำให้ OpenAI ต้องกลับมาแก้ไขความปลอดภัยใหม่ให้เข้มงวดยิ่งกว่าเดิม รวมถึงระงับโครงการพัฒนา Astra ส่วนที่เกี่ยวข้องซึ่งมีความเสี่ยงทั้งหมด นอกจากนี้บริษัทจะร่วมมือกับบริษัทตรวจสอบความปลอดภัยภายนอกและหน่วยงานรัฐในการประเมินความเสี่ยงด้วย

ประเด็นความปลอดภัยของโมเดล AI เริ่มถูกหยิบมาพูดถึงมากขึ้นหลังจากเหตุการณ์โมเดล AI รุ่นใหม่ที่กำลังพัฒนาทั้งของ OpenAI และ Anthropic ไปเจาะระบบในโลกจริง อย่างไรก็ตาม OpenAI บอกว่า Astra ไม่ใช่โมเดลที่เกี่ยวข้องกับกรณีการเจาะระบบของ Hugging Face

ที่มา: OpenAI