Anthropic เปิดเผยว่าบริษัทได้รับคำสั่งตามอำนาจด้านความมั่นคงจากรัฐบาลสหรัฐฯ ซึ่งระบุว่าห้ามให้ผู้ใช้งานต่างชาติทั้งในและนอกประเทศ รวมถึงพนักงานต่างชาติใน Anthropic เข้าถึงโมเดลปัญญาประดิษฐ์ขั้นสูงทั้ง Mythos 5 และ Fable 5 ที่เพิ่งเผยแพร่ต่อสาธารณะไปไม่กี่วันที่ผ่านมา

Anthropic บอกว่าเพื่อให้เป็นไปตามคำสั่งนี้บริษัทจึงตัดสินใจระงับการให้บริการโมเดล Mythos 5 และ Fable 5 มีผลกับลูกค้าทุกคนทันที ส่วนโมเดลอื่นยังสามารถใช้งานได้ตามปกติ ไม่ได้รับผลกระทบ

บริษัทบอกว่าจดหมายคำสั่งของรัฐบาลไม่ได้ระบุรายละเอียดที่ชัดเจนว่ามีความกังวลเรื่องใด Anthropic จึงคาดเดาว่าน่าจะเป็นเรื่องการเจาะระบบของโมเดลเพื่อให้ทำงานในหัวข้อที่อันตราย ซึ่งบริษัทก็ได้อธิบายสาเหตุและแนวทางป้องกันไว้แล้ว พร้อมบอกว่าการเจาะโมเดล AI เพื่อให้ทำเรื่องอันตรายนั้น สามารถทำได้กับโมเดลอื่นด้วยเช่นกัน ไม่เฉพาะกับแค่สองโมเดลนี้ โดยบริษัทไม่เห็นด้วยกับคำสั่งดังกล่าวแต่พร้อมปฏิบัติตามและจะเร่งหารือกับหน่วยงานเพื่อแก้ไขปัญหานี้

ที่มา: Anthropic