ทีมวิจัย MIT เปิดตัว Norman ปัญญาประดิษฐ์บรรยายภาพเป็นประโยค (แบบเดียวกับ Show and Tell ของกูเกิล) แต่กลับใช้ชุดข้อมูลจากเว็บบอร์ด subreddit ที่เอาแต่แชร์ภาพคนตาย
ทีมวิจัยไม่เปิดเผยชื่อเว็บบอร์ดเพราะมีภาพรุนแรงจำนวนมาก และเนื่องจากข้อจำกัดทางจริยธรรม ทีมวิจัยใช้ข้อมูลจากเว็บบอร์ดเฉพาะข้อความบรรยายภาพคนตายมาจับคู่กับภาพหมึกกระจาย (inkblot) เท่านั้น ไม่ได้ใช้ภาพคนตายจริงแต่อย่างใด
ผลที่ได้คือปัญญาประดิษฐ์ Norman ที่จะบรรยายภาพทุกอย่างกลายเป็นความรุนแรงไปเสียหมด หลังจากนั้นทีมวิจัยก็ใช้ชุดทดสอบ Rorschach inkblots มาให้ Norman บรรยาย
เนื่องจาก Norman ถูกฝึกมาด้วยภาพคนตาย พอมาบรรยายภาพทดสอบจึงบรรยายกลายเป็นภาพคนตายไปเสียหมด งานวิจัยนี้เป็นการแสดงให้เห็นอันตรายของชุดข้อมูลที่บิดเบี้ยว ว่ามันจะทำให้ปัญญาประดิษฐ์สุดท้ายทำงานผิดปกติได้อย่างไร
ที่มา - Norman AI
Comments
ข่าวต่อไป Norman อัพโหลดตัวเองลงหุ่น Boston Dynamic
เห็นมาหลายข่าวแล้วว่า AI ยังควรเป็นผู้ช่วยและขอให้มันเป็นแค่ผู้ช่วยต่อไปเถอะ...
AI ปัจจุบันมันแปรผันตามข้อมูล ถ้าข้อมูลที่ใช้ Train มี bias มันก็มีแนวโน้มประเมินไปในทิศทางนั้น แต่ถ้าคิดสูตรหาค่าความโน้มเอียงทางทัศนคติเพื่อเป็นตัวกรองอีกชั้นเหมือนสมอง ที่มีตัวควบคุมด้านจริยธรรมก็น่าจะพอช่วยได้ เดาว่าทีมนี้้กำลังพัฒนาอัลกอริทึ่มประเภทนี้อยู่
ให้คอมฯ เรียนภาษาไทย
ดูภาพหมึกเลอะๆ ให้บรรยาย
แล้วบอกว่าคอมฯ เอาแต่บรรยายเป็นภาษาไทย ไม่บรรยายเป็นภาษาอื่นเลย
MIT ต้องการทดลองให้ดู เพื่อพิสูจน์ว่า AI มันไม่ได้มีแค่ข้อดีอย่างเดียว เหมือนอย่างที่บางคนเคยพูดไว้
https://www.blognone.com/node/102582
AI มันก็เป็นแค่เครื่องมือตัวนึงเท่านั้นเอง
ดี-ไม่ดี ขึ้นกับข้อมูลที่ป้อนให้มัน
ให้คอมฯ เรียนภาษาไทย
ดูภาพหมึกเลอะๆ ให้บรรยาย
แล้วบอกว่าคอมฯ เอาแต่บรรยายเป็นภาษาไทย ไม่บรรยายเป็นภาษาอื่นเลย
มันก็อาจจะมีประโยชน์เอาไปช่วยวิเคราะห์คดีฆาตกรรมได้
ตอนสมัครงานผมต้องไปสอบจิตวิทยาให้ผ่านเพื่อจะเข้าทำงานได้ ก็ต้องไปนั่งดู inkblot นี่เหมือนกัน เค้าจะพลิกให้ดูเรื่อยๆ ถามว่าดูแล้วเหมือนอะไร แล้วดูปฏิกิริยาเรา + คำตอบที่ตอบ
ตอนแรกก็ตอบต้นไม้ใบหญ้าไปเรื่อยๆ จนถึงแผ่นข้อ 2 เนี่ย ผมอยากรู้ว่าจะเป็นไงเลยตอบไปว่า "กระดูกเชิงกรานมนุษย์" คนฟัง (น่าจะเป็นหมอ) ถึงกับสะดุ้งตาโต แล้วถามต่อว่าเคยเห็นที่ไหนหรอ ผมก็ตอบไปว่าตอนเรียนชีวะสมัยมัธยม เค้าค่อยพลิกต่อ
ยังสงสัยอยู่ว่าถ้าตอบแนวนี้ไปหลายๆ ข้อ จะไม่ผ่านมั้ยเนี่ย อย่างข้อแรกตอบไปว่า กระดูสันหลัง ไหปลาร้าและบางส่วนของซี่โครง อะไรงี้
น่าสนใจจริงๆ
ผมเคยทำแบบทดสอบนี่เหมือนกัน ได้คำตอบว่าเป็นพวกซีเรียสเกินไป - -
ชอบชื่อ Norman Bates
เลื่อนขึ้นไปสังเกตตามเลย 555 Norman Normal อิอิ
อย่าว่าแต่ AI แม้แต่คนก็หลอน ถ้าเสพสื่อพวกนี้บ่อย
ก็เหมือนคนแหละมีคนประสบอุบัติเหตุรอดเพราะคาดเข็มขัด แต่คนเห็นห้อยพระเครื่อง เลยเรียนรู้ว่าห้อยพระแล้วรอด