Tags:
Node Thumbnail

ทีมวิจัย MIT เปิดตัว Norman ปัญญาประดิษฐ์บรรยายภาพเป็นประโยค (แบบเดียวกับ Show and Tell ของกูเกิล) แต่กลับใช้ชุดข้อมูลจากเว็บบอร์ด subreddit ที่เอาแต่แชร์ภาพคนตาย

ทีมวิจัยไม่เปิดเผยชื่อเว็บบอร์ดเพราะมีภาพรุนแรงจำนวนมาก และเนื่องจากข้อจำกัดทางจริยธรรม ทีมวิจัยใช้ข้อมูลจากเว็บบอร์ดเฉพาะข้อความบรรยายภาพคนตายมาจับคู่กับภาพหมึกกระจาย (inkblot) เท่านั้น ไม่ได้ใช้ภาพคนตายจริงแต่อย่างใด

ผลที่ได้คือปัญญาประดิษฐ์ Norman ที่จะบรรยายภาพทุกอย่างกลายเป็นความรุนแรงไปเสียหมด หลังจากนั้นทีมวิจัยก็ใช้ชุดทดสอบ Rorschach inkblots มาให้ Norman บรรยาย

เนื่องจาก Norman ถูกฝึกมาด้วยภาพคนตาย พอมาบรรยายภาพทดสอบจึงบรรยายกลายเป็นภาพคนตายไปเสียหมด งานวิจัยนี้เป็นการแสดงให้เห็นอันตรายของชุดข้อมูลที่บิดเบี้ยว ว่ามันจะทำให้ปัญญาประดิษฐ์สุดท้ายทำงานผิดปกติได้อย่างไร

ที่มา - Norman AI

No Description

Get latest news from Blognone

Comments

By: pepporony
ContributorAndroid
on 9 June 2018 - 21:18 #1054497

ข่าวต่อไป Norman อัพโหลดตัวเองลงหุ่น Boston Dynamic

By: Hadakung
iPhoneWindows PhoneAndroidWindows
on 9 June 2018 - 21:35 #1054500

เห็นมาหลายข่าวแล้วว่า AI ยังควรเป็นผู้ช่วยและขอให้มันเป็นแค่ผู้ช่วยต่อไปเถอะ...

By: akira on 9 June 2018 - 21:55 #1054508

AI ปัจจุบันมันแปรผันตามข้อมูล ถ้าข้อมูลที่ใช้ Train มี bias มันก็มีแนวโน้มประเมินไปในทิศทางนั้น แต่ถ้าคิดสูตรหาค่าความโน้มเอียงทางทัศนคติเพื่อเป็นตัวกรองอีกชั้นเหมือนสมอง ที่มีตัวควบคุมด้านจริยธรรมก็น่าจะพอช่วยได้ เดาว่าทีมนี้้กำลังพัฒนาอัลกอริทึ่มประเภทนี้อยู่

By: GodPapa
iPhoneWindows PhoneAndroidBlackberry
on 9 June 2018 - 22:19 #1054520
GodPapa's picture

ให้คอมฯ เรียนภาษาไทย
ดูภาพหมึกเลอะๆ ให้บรรยาย
แล้วบอกว่าคอมฯ เอาแต่บรรยายเป็นภาษาไทย ไม่บรรยายเป็นภาษาอื่นเลย

By: PriteHome
ContributorAndroidWindows
on 10 June 2018 - 12:41 #1054569 Reply to:1054520
PriteHome's picture

MIT ต้องการทดลองให้ดู เพื่อพิสูจน์ว่า AI มันไม่ได้มีแค่ข้อดีอย่างเดียว เหมือนอย่างที่บางคนเคยพูดไว้
https://www.blognone.com/node/102582

AI มันก็เป็นแค่เครื่องมือตัวนึงเท่านั้นเอง
ดี-ไม่ดี ขึ้นกับข้อมูลที่ป้อนให้มัน

By: GodPapa
iPhoneWindows PhoneAndroidBlackberry
on 9 June 2018 - 22:19 #1054521
GodPapa's picture

ให้คอมฯ เรียนภาษาไทย
ดูภาพหมึกเลอะๆ ให้บรรยาย
แล้วบอกว่าคอมฯ เอาแต่บรรยายเป็นภาษาไทย ไม่บรรยายเป็นภาษาอื่นเลย

By: PsFreedom
ContributorAndroidRed HatUbuntu
on 10 June 2018 - 09:53 #1054542
PsFreedom's picture

มันก็อาจจะมีประโยชน์เอาไปช่วยวิเคราะห์คดีฆาตกรรมได้

By: Holy
ContributorAndroidWindowsIn Love
on 10 June 2018 - 10:02 #1054543
Holy's picture

ตอนสมัครงานผมต้องไปสอบจิตวิทยาให้ผ่านเพื่อจะเข้าทำงานได้ ก็ต้องไปนั่งดู inkblot นี่เหมือนกัน เค้าจะพลิกให้ดูเรื่อยๆ ถามว่าดูแล้วเหมือนอะไร แล้วดูปฏิกิริยาเรา + คำตอบที่ตอบ

ตอนแรกก็ตอบต้นไม้ใบหญ้าไปเรื่อยๆ จนถึงแผ่นข้อ 2 เนี่ย ผมอยากรู้ว่าจะเป็นไงเลยตอบไปว่า "กระดูกเชิงกรานมนุษย์" คนฟัง (น่าจะเป็นหมอ) ถึงกับสะดุ้งตาโต แล้วถามต่อว่าเคยเห็นที่ไหนหรอ ผมก็ตอบไปว่าตอนเรียนชีวะสมัยมัธยม เค้าค่อยพลิกต่อ

ยังสงสัยอยู่ว่าถ้าตอบแนวนี้ไปหลายๆ ข้อ จะไม่ผ่านมั้ยเนี่ย อย่างข้อแรกตอบไปว่า กระดูสันหลัง ไหปลาร้าและบางส่วนของซี่โครง อะไรงี้

By: adente
ContributorSUSESymbianWindows
on 10 June 2018 - 16:46 #1054593 Reply to:1054543
adente's picture

น่าสนใจจริงๆ

By: Architec
ContributorWindows PhoneAndroidWindows
on 10 June 2018 - 16:56 #1054595 Reply to:1054543

ผมเคยทำแบบทดสอบนี่เหมือนกัน ได้คำตอบว่าเป็นพวกซีเรียสเกินไป - -

By: samphan on 10 June 2018 - 11:47 #1054562

ชอบชื่อ Norman Bates

By: porple on 10 June 2018 - 20:40 #1054613 Reply to:1054562

เลื่อนขึ้นไปสังเกตตามเลย 555 Norman Normal อิอิ

By: Thaitop_BN
Windows PhoneUbuntuWindows
on 10 June 2018 - 22:16 #1054625
Thaitop_BN's picture

อย่าว่าแต่ AI แม้แต่คนก็หลอน ถ้าเสพสื่อพวกนี้บ่อย

By: neonicus
Android
on 10 June 2018 - 22:34 #1054627

ก็เหมือนคนแหละมีคนประสบอุบัติเหตุรอดเพราะคาดเข็มขัด แต่คนเห็นห้อยพระเครื่อง เลยเรียนรู้ว่าห้อยพระแล้วรอด