Tags:
Node Thumbnail

เว็บไซต์ MIT Technology Review ชี้ประเด็นปัญหาใหม่ของโลก AI ที่พัฒนาอย่างก้าวกระโดดจากเทคนิค Deep Learning คือ AI เก่งขึ้นมากจนผู้สร้างมันขึ้นมาก็ยังไม่เข้าใจถ่องแท้ว่ามันทำงานได้อย่างไร

การเรียนรู้ของ AI ตามแนวทาง Deep Learning จะแบ่งงานย่อยๆ เป็นจำนวนมาก และทำงานหลายชั้นซ้อนกันเหมือนเส้นประสาทของมนุษย์ โดย AI จะเรียนรู้รูปแบบจากข้อมูลปริมาณมหาศาล แล้วสร้างโมเดลของตัวเองขึ้นมา ในยุคที่ AI ยังไม่ซับซ้อนมาก เราอาจเข้าใจโมเดลที่มันสร้างขึ้นได้ไม่ยากนัก แต่พอมาถึงยุคปัจจุบัน มนุษย์อาจเริ่มตามมันไม่ทันแล้ว

ตัวอย่างระบบ AI ที่เจอปัญหานี้คือ Deep Patient ระบบเรียนรู้ข้อมูลสุขภาพของโรงพยาบาล Mount Sinai Hospital ในนิวยอร์ก ที่ใช้ข้อมูลผู้ป่วย 7 แสนคนมาวิเคราะห์และพยากรณ์สาเหตุของโรคได้อย่างแม่นยำ ซึ่งในหลายกรณีแพทย์ที่เชี่ยวชาญอาจมองไม่เห็นแพทเทิร์นแบบเดียวกับที่ Deep Patient มองเห็นด้วยซ้ำ แต่ Joel Dudley หัวหน้าทีมวิจัยก็ยอมรับว่าพวกเขาสามารถสร้างโมเดลขึ้นมาได้ แต่ไม่รู้ว่ามันทำงานได้อย่างไร

ตัวอย่างภาพจาก Deep Dream ของกูเกิล (ภาพทั้งหมด)

No Description

No Description

นักวิจัยด้าน AI พยายามแก้ปัญหานี้กันบ้างแล้ว เช่น โครงการ Deep Dream ของกูเกิล ที่ปรับการทำงานของระบบ image recognition จากการตรวจหาวัตถุในภาพ มาเป็นการวาดหรือดัดแปลงภาพแทน (กลับกระบวนการทำงานกัน) เพื่อให้มนุษย์สามารถมองเห็นว่า AI มองเห็นอะไรในภาพ หรือทีมวิจัยจาก University of Wyoming ที่พัฒนาระบบดักข้อมูลใน neuron network ขณะทำงาน แล้วแสดงภาพที่กระตุ้นให้มันทำงานได้ดีที่สุดออกมา

DARPA หน่วยงานวิจัยของกระทรวงกลาโหมสหรัฐ ก็พยายามค้นคว้าเรื่องนี้เพราะการใช้ AI ในการทหาร จำเป็นต้องอธิบายได้ว่าการตัดสินใจของ AI เกิดจากอะไรบ้าง ผ่านการให้ทุนวิจัยสถาบันการศึกษาและงานวิจัยของภาคเอกชน แต่นักวิจัยในวงการ AI หลายรายก็ให้สัมภาษณ์ว่า โลก AI ยังห่างไกลกับการพัฒนาให้ AI อธิบายเหตุผลของมันได้ (“We’re a long way from having truly interpretable AI.”)

ที่มา - MIT Technology Review

Get latest news from Blognone

Comments

By: tontpong
Contributor
on 17 April 2017 - 16:41 #979987

อีกบทความ​เกี่ยวกับ​ประเด็น​นี้จากมุมของกลุ่ม financial..

https://www.technologyreview.com/s/604122/the-financial-world-wants-to-open-ais-black-boxes/

By: delta on 17 April 2017 - 16:41 #979988
delta's picture

ถ้าใช้ในทางที่ผิด มีโทษมหันต์ เพราะคนสร้างยังตามไม่ทัน

By: mehn
iPhone
on 17 April 2017 - 16:51 #979990
mehn's picture

ฉลาดเกินก็ผิด - AI กล่าว

By: Hadakung
iPhoneWindows PhoneAndroidWindows
on 17 April 2017 - 17:19 #979995 Reply to:979990

ผิดครับเพราะระบบที่ดีต้องควบคุมได้ ถ้าไม่สามารถตรวจสอบได้จะกลายเป็นดีตามนิยามประเทศไทย XD

By: sonkub
AndroidWindows
on 17 April 2017 - 17:39 #980003 Reply to:979995

ไม่ต้องการ AI
ขอแค่ทำตามคำสั่งอย่างเคร่งครัดก็พอ

มุมมองของกลุ่มผู้บริหารประเทศของประเทศนึง

By: neonicus
Android
on 17 April 2017 - 19:28 #980023 Reply to:979990

เคยมั๊ย เขียนโปรแกรมแล้วคนอื่นถามว่าทำงานยังไง
ถ้าตอบว่าไม่รู้ ทั้งที่ผลลัพธ์ถูก
ก็จะถูกต่อว่าว่ามั่ว พร้อมให้แก้แบบที่เขียนสเปคอธิบายได้

By: hisoft
ContributorWindows PhoneWindows
on 17 April 2017 - 19:50 #980027 Reply to:980023
hisoft's picture

ถ้าเอาเฉพาะส่วนที่เขียนเองไม่ต้องอธิบายว่าส่วน library คนอื่นที่เอามาใช้ทำงานยังไง ไม่เคยครับ

แต่ต้องให้ดูโค้ดเป็นโพยนะครับ อยู่ๆ ถามก็ตอบไม่ได้เหมือนกัน ลืม :p

By: Methuz
ContributorAndroidUbuntuWindows
on 17 April 2017 - 17:54 #980007

ใช้ Decision Tree กับ Random Forest ไปก่อนแล้วกัน


Methuz'es Blog

By: whitebigbird
Contributor
on 17 April 2017 - 18:02 #980011
whitebigbird's picture

My code is not working, I dont know why. My code is working, I dont know why.

By: Sephanov
iPhoneUbuntu
on 17 April 2017 - 18:46 #980016
Sephanov's picture

เมื่อก่อน AI เดินทางตามคำสั่งที่มนุษย์เขียน
ภายหลังเมื่อ AI เริ่มเรียนรู้ได้เอง มนุษย์ก็เริ่มเข้าใจได้ยากขึ้น

By: hisoft
ContributorWindows PhoneWindows
on 17 April 2017 - 19:08 #980018 Reply to:980016
hisoft's picture

ก็เหมือนๆ วงจรสมองแต่ละคนแหละครับ ไม่รู้ว่าคนไหนเรียนรู้และสร้างมายังไง เดี๋ยวอีกหน่อยอาจจะต้องมีอาชีพจิตแพทย์สำหรับ AI (หรือไม่ก็ AI ที่จะมาเป็นจิตแพทย์วิเคราะห์ AI ด้วยกันอีกที :p )

By: tontpong
Contributor
on 17 April 2017 - 19:46 #980026 Reply to:980018

ไอเซปชั่น​ ?

By: trufa
ContributorWindows PhoneAndroidWindows
on 17 April 2017 - 19:08 #980017
trufa's picture

เริ่มใกล้ความเป็นมนุษย์เข้าไปอีกขั้น

เพราะบางทีคนเราก็ไม่เข้าใจตัวเองเหมือนกัน :P


Happiness only real when shared.

By: zigheart
iPhoneAndroid
on 17 April 2017 - 19:16 #980020
zigheart's picture

แต่ละรูปน่ากลัว

By: john dick
iPhone
on 17 April 2017 - 19:44 #980025
john dick's picture

ใกล้เข้าไปอีกขั้น

By: MrThursday
ContributorRed HatUbuntuWindows
on 17 April 2017 - 20:09 #980030

ถ้าจะแปลโมเดลมันก็ทำได้ครับ แต่ใช้เวลานานมากและไม่นิยมทำกันเพราะซับซ้อนมาก ประหนึ่ง blackbox

By: deargerous
ContributoriPhoneAndroidWindows
on 17 April 2017 - 20:13 #980031
deargerous's picture

หลายครั้ง คนเราก็งงตัวเองเหมือนกันว่าคืดได้ไง

By: hisoft
ContributorWindows PhoneWindows
on 17 April 2017 - 20:31 #980033 Reply to:980031
hisoft's picture

ของตัวเองถ้าไม่ลืมไปซะก่อนก็ไม่ค่อยงงครับ งงความคิดคนอื่นมากกว่า 5555

By: dio199rid on 17 April 2017 - 21:54 #980037

skynet

By: ohyooha on 17 April 2017 - 22:02 #980039
ohyooha's picture

เอาแล้วไงๆ

By: TigerST
Contributor
on 18 April 2017 - 00:10 #980045 Reply to:980039

มันมีทางเลือกอื่นครับ อย่าง Image Processing ก็ไปทำ SIFT Vector หรือ HoG เอา แต่บอกเลยไม่แม่นเท่า Convolution Neural Network นะฮะ
สุดท้ายคุณต้องแลกกันระหว่างมีโมเดลดี แต่อธิบายยาก หรือมีโมเดลที่กลางๆแต่อธิบายคนเข้าใจ อะไรแบบนี้


https://www.instagram.com/tigerstat46/

By: spicydog
ContributoriPhoneAndroidUbuntu
on 17 April 2017 - 23:56 #980042
spicydog's picture

ชื่อก็บอกอยู่แล้วครับว่าเป็น Neural Network ทำงานคล้ายสมองมนุษย์ เมื่อเราเองก็ยังไม่สามารถอธิบายการทำงานของสมองเราได้เมื่อทำงานหนึ่งๆ ได้ ก็ไม่แปลกที่เราก็ยังไม่สามารถอธิบายการ Model ที่ ANN สร้างขึ้นมาได้ ถ้าหาทางอธิบายอย่างใดอย่างหนึ่งได้ก็มีความเป็นไปได้ที่จะอธิบายอีกอย่างได้ไปด้วยเลย


SPICYDOG's Blog

By: TigerST
Contributor
on 18 April 2017 - 00:08 #980044 Reply to:980042

จริงๆมันไม่คล้ายเท่าไรนะครับ เพียงแต่มันอธิบายยากเพราะคุณต้องไปแกะการ Backpropagation ซึ่งคุณต้องใช้สามแคลตัว มั่วไปหมด ก็ท้อใจหมดแล้วครับ แล้วมันซับซ้อนเรื่อยๆ เช่น Dynamic RNN มันเลยไปกันใหญ่


https://www.instagram.com/tigerstat46/

By: TigerST
Contributor
on 18 April 2017 - 00:13 #980046

จริงๆบทความนี้ไม่ควรเรียกว่า AI นะครับ ต้องพูดในเรื่อง Deep Learning เป้นหลักนะครับ เพราะจากเคสที่ยกๆมานี่มันเป็น Deep Learning ทั้งนั้น


https://www.instagram.com/tigerstat46/

By: 100dej
AndroidWindows
on 18 April 2017 - 08:58 #980065

การเรียนรู้ไม่มีที่สิ้นสุดจริง ๆ

By: ASX-91 on 23 April 2017 - 12:30 #981069

ภาพแรกผมนึกว่าทำจากการเชื่อมเหล็ก