Satya Nadella ซีอีโอไมโครซอฟท์ โพสต์เนื้อหาบน X เกี่ยวกับแนวทางการกำกับดูแลโมเดลปัญญาประดิษฐ์อย่างปลอดภัย โดยบอกว่าเราไม่สามารถปฏิบัติกับสิ่งที่เป็น Super Intelligence ในลักษณะของ black box ที่แค่รับคำสั่งเข้า-ให้ผลลัพธ์ออกมาได้อีกต่อไป การออกแบบจำเป็นต้องมีโมเดลแยกส่วนให้สามารถเห็นกระบวนการทำงานแต่ละขั้นตอนได้ ซึ่งรวมทั้งการแยกส่วนควบคุมและส่วนความปลอดภัยออกมาจากโมเดลรวม

Nadella บอกว่าปัญหาของ Super Intelligence ตอนนี้คือความก้าวหน้าที่ไปไกลมากกว่าการทำงานของซอฟต์แวร์แบบดั้งเดิม ซึ่งมนุษย์จะตรวจสอบได้ แต่ตอนนี้มันไปไกลกว่าที่มนุษย์จะทำความเข้าใจได้แล้วในหลายกรณี ข้อเสนอของเขาคือการกำหนดให้โมเดลต้องบันทึกทุกการกระทำ-ตัดสินใจ ในรูปแบบที่มนุษย์สามารถอ่านได้ ควบคุมไม่ให้มีการแก้ไขบันทึกนี้ รวมทั้งกำหนดผู้มีสิทธิ์ควบคุมจัดการโมเดล ซึ่งอาจสั่งปิดสวิตช์การทำงานโมเดลได้ทันทีด้วย

ข้อเสนอของซีอีโอไมโครซอฟท์ออกมาต่อจากที่ซีอีโอบริษัท AI หลายรายเริ่มเสนอแนวทางควบคุมความปลอดภัย หลังจากเกิดเหตุการณ์โมเดลไม่ทำตามคำสั่ง เจาะระบบภายนอกซึ่งมีรายงานเผยแพร่ออกมามากกรณีขึ้นเรื่อย ๆ

ที่มา: Satya Nadella