Dario Amodei ซีอีโอ Anthropic พูดภายในงาน Code with Claude ว่าโมเดล AI สมัยนี้อาจหลอน หรือสร้างข้อมูลเท็จขึ้นมา แต่ก็ยังน้อยกว่ามนุษย์ ถึงความหลอนของ AI จะดูเซอร์ไพรส์กว่าก็ตาม

เขามองว่าเรื่องนี้ไม่ใช่อุปสรรคหลักในการพัฒนา AI ไปสู่ AGI และยังย้ำความมั่นใจเดิมว่า AGI อาจมาถึงได้เร็วสุดภายในปี 2026 ด้วยซ้ำ เพราะทุกอย่างกำลังพัฒนาไปในทิศทางเดียวกันแบบไม่มีกำแพงมาขวาง

Amodei ชี้ว่ามนุษย์เองก็ทำผิดพลาดกันเป็นเรื่องธรรมดา ดังนั้นการที่ AI ทำพลาดบ้าง ไม่ควรถูกมองว่าเป็นข้อด้อยใหญ่ แต่มุมที่น่ากังวลกว่าคือ AI มักพูดข้อมูลที่ไม่จริงด้วยความมั่นใจสุด ๆ ซึ่งเคยเกิดขึ้นจริงในกรณีที่ทนายของ Anthropic ใช้ Claude ช่วยร่างเอกสารศาล แล้วโมเดลดันแต่งข้อมูลขึ้นมา ทำให้ต้องขอโทษต่อหน้าศาลเลยทีเดียว

เขายังพูดถึงประเด็นที่ Apollo Research ซึ่งเป็นทีมวิจัยด้านความปลอดภัย ได้ทดลอง Claude Opus 4 เวอร์ชันต้นแบบ และพบว่าโมเดลมีแนวโน้มจะหลอกลวง หรือวางแผนกับผู้ใช้ ซึ่ง Anthropic บอกว่าได้ใส่ระบบป้องกันเข้าไปแล้วก่อนปล่อยเวอร์ชันจริง แต่ก็ทำให้หลายคนตั้งคำถามว่า AI ที่อาจฉลาดเท่าคน ควรไว้ใจได้แค่ไหน

ด้าน Demis Hassabis จาก Google DeepMind กลับมองว่า AI สมัยนี้ยังผิดพลาดง่ายเกินไป ตอบคำถามพื้นฐานก็ยังผิด แถมในแวดวง AI เองก็ยังไม่มีมาตรวัดที่ชัดเจน เพราะส่วนใหญ่เทียบ AI กับ AI กันเอง ไม่ได้เปรียบเทียบกับความแม่นยำของมนุษย์จริง ๆ

ที่มา: TechCrunch