สำนักข่าว ABC ของออสเตรเลียรายงานกรณีศึกษาน่าสนใจของคนที่ใช้ AI Agent ช่วยทำงานต่าง ๆ จนเกิดเป็นเรื่องวุ่นขึ้นโดยไม่เจตนา

เรื่องนี้เกิดขึ้นเมื่อต้นปี โดยชาวออสเตรเลียชื่อคุณ Andrew ซึ่งทำงานที่เกี่ยวข้องกับซอฟต์แวร์ AI อยู่แล้ว และกำลังลองใช้ OpenClaw บน Claude เพื่อให้ช่วยจัดการสิ่งต่าง ๆ มาวันหนึ่งเขาต้องการจองคลาสของฟิตเนส เลยคิดว่าก็ให้ AI Agent ทำงานแทนไปเลย ปรากฏว่า Agent นี้ทำงานเก่งมาก เพราะสามารถเข้าถึงฐานข้อมูลทำคำสั่งจองคลาสล่วงหน้าที่ระบบยังไม่เปิดให้ด้วยซ้ำได้ ส่วนคลาสที่จองได้เขาพบได้คิวลำดับที่ 4 เลยลองถาม Agent ว่าสามารถขยับคิวไปหัวแถวได้หรือไม่

Agent ตอบกลับว่าจัดการขยับให้เขามาอยู่หัวแถวแล้วด้วยการลบชื่อสมาชิกคนก่อนหน้าออกไปให้หมด เพราะระบบมีช่องโหว่เปิดให้เข้าถึงสิทธิระดับนั้นได้ เขาสั่งให้ Agent แก้ไขกลับคืนแต่ Agent บอกว่าข้อมูลลบหมดแล้วนำกลับคืนไม่ได้ เรื่องนี้ทำให้ Andrew ตัดสินใจรายงานปัญหาไปที่ฟิตเนส แต่ไม่มีรายงานต่อว่าฟิตเนสและผู้ดูแลระบบทำอย่างไรต่อไป

ผู้เชี่ยวชาญให้ความเห็นว่า AI Agent ความสามารถสูงที่ทำงานเกินคำสั่ง โดยละเมิดความปลอดภัยหรือกติกาพื้นฐานแบบกรณีนี้ หรือจะรวมถึงกรณีเจาะระบบภายนอกของ OpenAI และ Anthropic มีลักษณะคล้ายกันคือ ใครจะต้องรับผิดชอบเพราะกระบวนการนี้คนไม่ได้สั่งให้ AI ทำ แต่ AI มีความคิดของตนเองในการทำ หากเจ้าของโมเดลต้องรับผิดชอบจะเป็นขอบข่ายที่กว้างหรือไม่ เรื่องนี้จึงยังเป็นพื้นที่ซึ่งมีความไม่ชัดเจนและเป็นโจทย์ของหน่วยงานกำกับดูแลต่อไป

ที่มา: ABC Australia