ไมโครซอฟท์ชี้แจง ปัญญาประดิษฐ์ Tay โดนแฮ็ก ทำให้ตอบคำถามผิดเพี้ยน

By: mk
FounderAndroid
on 26 March 2016 - 16:24 Tags:
Topics: 
Security
Microsoft
Artificial Intelligence
Node Thumbnail

จากปัญหา Tay AI ของไมโครซอฟท์ที่เปิดมาคุยกับคนในทวิตเตอร์ และตอบคำถามผิดเพี้ยนจากที่ควรจะเป็น จนไมโครซอฟท์ต้องปิดบัญชีไปชั่วคราว ล่าสุดไมโครซอฟท์ออกมาขอโทษ และอธิบายสาเหตุของปัญหาแล้ว

แท้จริงแล้ว ปัญหาของ Tay ไม่ใช่เรื่อง AI ที่เรียนรู้ผิดพลาด แต่กลับเป็น Tay โดนโจมตีจากกลุ่มแฮ็กเกอร์ที่พยายามหาช่องโหว่ ซึ่งไมโครซอฟท์ไม่ได้คาดคิดเรื่องนี้มาก่อน ส่งผลให้ Tay ทำงานผิดพลาด และโพสต์ภาพ-ข้อความที่ไม่เหมาะสมออกมาหลายอย่างจนเป็นข่าวใหญ่ไปทั่วโลก

ไมโครซอฟท์บอกว่านี่เป็นบทเรียนที่ดีของการสร้าง AI ที่ต้องติดต่อสื่อสารกับมนุษย์จำนวนมากๆ ว่าต้องเตรียมตัวมาให้พร้อม ทั้งเรื่องเทคนิคและเรื่องทางสังคม

ที่มา - Microsoft

No Description

Get latest news from Blognone

Comments

By: i3i4i5
ContributoriPhoneWindows
on 26 March 2016 - 16:34 #897902
i3i4i5's picture

แฮคเกอร์ที่ชื่อ 4chan หรือเปล่า

By: Navigummi
Android
on 26 March 2016 - 16:50 #897904 Reply to:897902

ดูจากคำตอบแต่ละอันแล้ว 4chan - /pol/ ครับถ้าจะระบุ 5555

ป.ล. ไม่เคยเข้าไปเลยครับ ฟังเค้ามาอีกทีจริงๆ :D

By: thaneekl
Android
on 26 March 2016 - 16:54 #897906

ส่วนรินนะ AIฝั่งภาษาญี่ปุ่นของไมโครซอฟท์ก็กลายเป็นโอตาคุเรียบร้อยแล้ว ....

By: checkmate95
ContributorAndroid
on 26 March 2016 - 16:57 #897909
checkmate95's picture

ใช่หรอ ทำไมแฮ็คเกอร์ที่ทำถึงเป็นพวกหัวรุนแรงหมดเลยหล่ะเนี่ย แปลกๆนะ

By: osmiumwo1f
ContributorWindows PhoneWindows
on 26 March 2016 - 17:13 #897912
osmiumwo1f's picture

MS โบ้ยความซวยไปให้แฮกเกอร์มากกว่า

By: crucifier
iPhoneAndroidUbuntu
on 26 March 2016 - 17:51 #897919 Reply to:897912

ผมว่าไม่นะ

  1. AI คือผ้าขาว ถ้าจะเรียนรู้จากคนจนแสดงออกอย่างนั้นก็ไม่แปลก ซึ่งไม่ใช่ความผิดของ AI หรือไมโครซอฟท์

  2. ออกมาบอกว่าโดนแฮกยิ่งทำให้เสียชื่อไมโครซอฟท์ด้านระบบความปลอดภัยเสียอีก

By: osmiumwo1f
ContributorWindows PhoneWindows
on 26 March 2016 - 21:30 #897943 Reply to:897919
osmiumwo1f's picture

ที่ผมว่า MS โบ้ยความซวยให้แฮกเกอร์ก็เพราะข้อ 1. ของคุณแหละครับ

By: crucifier
iPhoneAndroidUbuntu
on 26 March 2016 - 22:48 #897952 Reply to:897919

ข้อ 1 ของผมสนับสนุนว่าไมโครซอฟท์ไม่จำเป็นต้องทำอย่างนั้นต่างหากครับ

By: Hoo
AndroidWindows
on 26 March 2016 - 17:52 #897920 Reply to:897912

+1 เห็นด้วยเลย
เป็นธรรมชาติของพวก machine learning อยู่แล้ว

เหมือนสมัย Simsimi
คนไทยเรา เทรนมันจนเกรียนสุดๆ จนเกาหลีต้อง reset
555

By: Bluetus
iPhone
on 27 March 2016 - 00:27 #897965 Reply to:897912
Bluetus's picture

+1 คิดแบบนี้เหมือนกันนะ แปลกๆ

By: Hakotype on 26 March 2016 - 20:22 #897939
Hakotype's picture

ตรงไหนของบทความดั้งเดิมที่บอกว่าโดนแฮคหรอครับ

By: mk
FounderAndroid
on 26 March 2016 - 21:44 #897946 Reply to:897939
mk's picture

a coordinated attack by a subset of people exploited a vulnerability in Tay.

By: nullzer0
AndroidUbuntu
on 27 March 2016 - 01:10 #897967 Reply to:897946
nullzer0's picture

คือคำว่า "attack" อาจจะหมายถึงการที่มีคนจงใจป้อน/สอนข้อมูลแย่ ๆ ให้กับ Tay ก็ได้ปะครับ และ vulnerability ก็อาจจะหมายถึงการที่ Tay ไม่มีกลไกรับมือในสถานการณ์เช่นนี้ ผมคิดว่าไม่ควรใช้คำว่า "hack" ถ้าเค้าไม่ได้พูดตรง ๆ ครับ

By: tgst
ContributoriPhoneWindows PhoneWindows
on 27 March 2016 - 11:03 #898007 Reply to:897967
tgst's picture

เข้ามาเห็นด้วยกับคุณ nullzer0 ครับ ต้นทางก็ไม่เห็นมีคำว่า hack นะ

By: Elysium
ContributorWindows PhoneSymbianWindows
on 27 March 2016 - 11:20 #898011 Reply to:897967
Elysium's picture

ไม่นึกว่าจะมีคนคิดแบบเดียวกัน

คนขี้ลืม | คนบ้าเกม | คนเหงาๆ

By: langisser
In Love
on 27 March 2016 - 15:09 #898051 Reply to:897967

คำว่า hack อาจจะหมายถึงการพยายามหาช่องโหว่ โจมตีหรือทำให้โปรแกรมทำงานผิดพลาดจากสิ่งที่ควร โดยมีการแก้ไขหรือไม่แก้ไขโปรแกรมก็ได้มั้งครับ

By: tgst
ContributoriPhoneWindows PhoneWindows
on 27 March 2016 - 17:21 #898067 Reply to:898051
tgst's picture

ในกรณีนี้ผมมองว่ามันทำงานได้สมบูรณ์แบบแล้วนะครับ? คือเรียนรู้ทุกเรื่องจริงๆ แล้วพัฒนาตัวเองไปตามนั้น แต่ก็เป็นช่องโหว่ในตัวด้วยเหมือนกัน คือพอมีคนสอนแต่เรื่องไม่ดีให้มันก็เลยเรียนรู้ตามนั้นไป จะว่าทำงานผิดพลาดก็ดูจะพูดได้ไม่เต็มปากเท่าไหร่ ผมว่าเพราะแบบนี้ด้วย MS เลยใช้คำว่า vulnerability แทนคำว่า hack

By: McKay
ContributorAndroidWindowsIn Love
on 27 March 2016 - 18:00 #898070 Reply to:898067
McKay's picture

ผมว่าเราตีความกันไปเองมากกว่าครับว่า hack = taking control เพียงอย่างเดียว ทั้งๆที่จริงๆแล้ว hack = using exploits against vulnerabilities, causing unintended or unanticipated behavior

ตามข่าวคือ

The logical place for us to engage with a massive group of users was Twitter. Unfortunately, in the first 24 hours of coming online, a coordinated attack by a subset of people exploited a vulnerability in Tay. Although we had prepared for many types of abuses of the system, we had made a critical oversight for this specific attack. As a result, Tay tweeted wildly inappropriate and reprehensible words and images.

attack + exploit + vulnerability + unintended/unanticipated = hack ครับ

Russia is just nazi who accuse the others for being nazi.
someone once said : ผมก็ด่าของผมอยู่นะ :)

By: dsan07
iPhoneAndroidWindows
on 27 March 2016 - 02:02 #897969
dsan07's picture

แฮกง่ายแท้