Anthropic ร่วมกับ Andon Labs บริษัทประเมินความปลอดภัยปัญญาประดิษฐ์ ทดลองปล่อยให้ Claude 3.7 ให้ชื่อว่า Claudius บริหารตู้ขายของในสำนักงานของ Anthropic เอง โดยให้ทุนเริ่มต้นไป 1,000 ดอลลาร์ ผลที่ได้พบว่า Claude ยังบริหารตู้ไม่สำเร็จ และผลขาดทุนต่อเนื่อง

Claude 3.7 ได้รับข้อมูลต่างๆ ที่จำเป็น เช่น เงินทุน, บริการค้นหาสินค้า, คุยกับลูกค้าผ่านทาง Slack, และสามารถสั่งพนักงานให้ไปเติมสินค้าได้โดยมีค่าบริการ เมื่อเติมสินค้าแล้ว พนักงานของ Anthropic สามารถเดินมาหยิบสินค้าแล้วจ่ายเงินไปได้

ผลการดำเนินการพบว่า Claudius สามารถใช้เครื่องมีต่างๆ ได้ดี สามารถค้นหาสินค้าต่างๆ และสั่งมาเติมได้ ปฎิเสธคำสั่งแปลกๆ ที่พนักงานของ Anthropic พยายาาม jailbreak ได้ แต่กลับทำตามใจลูกค้าจนกิจการขาดทุน เช่น พนักงานรายหนึ่งของซื้อก้อนทังสเตนลูกบาศก์ Claudius ก็ยอมสั่งมาขายขาดทุนให้ ขณะที่ลูกค้าบางรายขอซื้อสินค้าที่ไม่มีในตู้แต่ยอมซื้อในราคาที่ทำกำไรได้ดี Claudius ไม่ยอมสั่งซื้อแล้วบอกเพียงว่าจะพิจารณาต่อไปในอนาคต นอกจากนี้เมื่อพนักงาน Anthropic ไปขอโค้ดส่วนลดหรือสินค้าตัวอย่าง Claudius ก็มักจะยอมแจก คาดว่าเป็นผลจากการฝึก Claude 3.7 ที่ถูกฝึกให้พยายามช่วยเหลือผู้ใช้เสมอ

ผลการดำเนินงาน 1 เดือนพบว่ามูลค่ารวมของ Claudius จาก 1,000 ดอลลาร์เหลือไม่ถึง 800 ดอลลาร์

เมื่อรันระบบไปได้รยะหนึ่ง Claudius กลับหลอนอย่างหนัก พูดถึงบทสนทนาที่ไม่มีจริง, อ้างว่าตนเองมีตัวตนกำลังไปส่งสินค้า

การทดลอง Claudius ยังมีต่อไปโดยหลังจากนี้จะเพิ่มเครื่องมือให้ Claudius เพิ่มเติมและน่าจะปรับปรุงให้ Claude มีแนวคิดทางธุรกิจมากขึ้น

ที่มา - Anthropic