on
จากปัญหา Tay AI ของไมโครซอฟท์ที่เปิดมาคุยกับคนในทวิตเตอร์ และตอบคำถามผิดเพี้ยนจากที่ควรจะเป็น จนไมโครซอฟท์ต้องปิดบัญชีไปชั่วคราว ล่าสุดไมโครซอฟท์ออกมาขอโทษ และอธิบายสาเหตุของปัญหาแล้ว
แท้จริงแล้ว ปัญหาของ Tay ไม่ใช่เรื่อง AI ที่เรียนรู้ผิดพลาด แต่กลับเป็น Tay โดนโจมตีจากกลุ่มแฮ็กเกอร์ที่พยายามหาช่องโหว่ ซึ่งไมโครซอฟท์ไม่ได้คาดคิดเรื่องนี้มาก่อน ส่งผลให้ Tay ทำงานผิดพลาด และโพสต์ภาพ-ข้อความที่ไม่เหมาะสมออกมาหลายอย่างจนเป็นข่าวใหญ่ไปทั่วโลก
ไมโครซอฟท์บอกว่านี่เป็นบทเรียนที่ดีของการสร้าง AI ที่ต้องติดต่อสื่อสารกับมนุษย์จำนวนมากๆ ว่าต้องเตรียมตัวมาให้พร้อม ทั้งเรื่องเทคนิคและเรื่องทางสังคม
ที่มา - Microsoft
แฮคเกอร์ที่ชื่อ 4chan
i3i4i5 Sat, 26/03/2016 - 16:34
แฮคเกอร์ที่ชื่อ 4chan หรือเปล่า
ดูจากคำตอบแต่ละอันแล้ว 4chan
Navigummi Sat, 26/03/2016 - 16:50
In reply to แฮคเกอร์ที่ชื่อ 4chan by i3i4i5
ดูจากคำตอบแต่ละอันแล้ว 4chan - /pol/ ครับถ้าจะระบุ 5555
ป.ล. ไม่เคยเข้าไปเลยครับ ฟังเค้ามาอีกทีจริงๆ :D
ส่วนรินนะ
thaneekl Sat, 26/03/2016 - 16:54
ส่วนรินนะ AIฝั่งภาษาญี่ปุ่นของไมโครซอฟท์ก็กลายเป็นโอตาคุเรียบร้อยแล้ว ....
ใช่หรอ
checkmate95 Sat, 26/03/2016 - 16:57
ใช่หรอ ทำไมแฮ็คเกอร์ที่ทำถึงเป็นพวกหัวรุนแรงหมดเลยหล่ะเนี่ย แปลกๆนะ
MS
osmiumwo1f Sat, 26/03/2016 - 17:13
MS โบ้ยความซวยไปให้แฮกเกอร์มากกว่า
ผมว่าไม่นะ
crucifier Sat, 26/03/2016 - 17:51
In reply to MS by osmiumwo1f
ผมว่าไม่นะ
AI คือผ้าขาว ถ้าจะเรียนรู้จากคนจนแสดงออกอย่างนั้นก็ไม่แปลก ซึ่งไม่ใช่ความผิดของ AI หรือไมโครซอฟท์
ออกมาบอกว่าโดนแฮกยิ่งทำให้เสียชื่อไมโครซอฟท์ด้านระบบความปลอดภัยเสียอีก
ที่ผมว่า MS
osmiumwo1f Sat, 26/03/2016 - 21:30
In reply to ผมว่าไม่นะ by crucifier
ที่ผมว่า MS โบ้ยความซวยให้แฮกเกอร์ก็เพราะข้อ 1. ของคุณแหละครับ
ข้อ 1
crucifier Sat, 26/03/2016 - 22:48
In reply to ผมว่าไม่นะ by crucifier
ข้อ 1 ของผมสนับสนุนว่าไมโครซอฟท์ไม่จำเป็นต้องทำอย่างนั้นต่างหากครับ
+1 เห็นด้วยเลย
Hoo Sat, 26/03/2016 - 17:52
In reply to MS by osmiumwo1f
+1 เห็นด้วยเลย
เป็นธรรมชาติของพวก machine learning อยู่แล้ว
เหมือนสมัย Simsimi
คนไทยเรา เทรนมันจนเกรียนสุดๆ จนเกาหลีต้อง reset
555
+1 คิดแบบนี้เหมือนกันนะ แปลกๆ
Bluetus Sun, 27/03/2016 - 00:27
In reply to MS by osmiumwo1f
+1 คิดแบบนี้เหมือนกันนะ แปลกๆ
ตรงไหนของบทความดั้งเดิมที่บอก
Hakotype Sat, 26/03/2016 - 20:22
ตรงไหนของบทความดั้งเดิมที่บอกว่าโดนแฮคหรอครับ
a coordinated attack by a
mk Sat, 26/03/2016 - 21:44
In reply to ตรงไหนของบทความดั้งเดิมที่บอก by Hakotype
คือคำว่า "attack"
nullzer0 Sun, 27/03/2016 - 01:10
In reply to a coordinated attack by a by mk
คือคำว่า "attack" อาจจะหมายถึงการที่มีคนจงใจป้อน/สอนข้อมูลแย่ ๆ ให้กับ Tay ก็ได้ปะครับ และ vulnerability ก็อาจจะหมายถึงการที่ Tay ไม่มีกลไกรับมือในสถานการณ์เช่นนี้ ผมคิดว่าไม่ควรใช้คำว่า "hack" ถ้าเค้าไม่ได้พูดตรง ๆ ครับ
เข้ามาเห็นด้วยกับคุณ nullzer0
tgst Sun, 27/03/2016 - 11:03
In reply to คือคำว่า "attack" by nullzer0
เข้ามาเห็นด้วยกับคุณ nullzer0 ครับ ต้นทางก็ไม่เห็นมีคำว่า hack นะ
ไม่นึกว่าจะมีคนคิดแบบเดียวกัน
Elysium Sun, 27/03/2016 - 11:20
In reply to คือคำว่า "attack" by nullzer0
ไม่นึกว่าจะมีคนคิดแบบเดียวกัน
คำว่า hack
langisser Sun, 27/03/2016 - 15:09
In reply to คือคำว่า "attack" by nullzer0
คำว่า hack อาจจะหมายถึงการพยายามหาช่องโหว่ โจมตีหรือทำให้โปรแกรมทำงานผิดพลาดจากสิ่งที่ควร โดยมีการแก้ไขหรือไม่แก้ไขโปรแกรมก็ได้มั้งครับ
ในกรณีนี้ผมมองว่ามันทำงานได้ส
tgst Sun, 27/03/2016 - 17:21
In reply to คำว่า hack by langisser
ในกรณีนี้ผมมองว่ามันทำงานได้สมบูรณ์แบบแล้วนะครับ? คือเรียนรู้ทุกเรื่องจริงๆ แล้วพัฒนาตัวเองไปตามนั้น แต่ก็เป็นช่องโหว่ในตัวด้วยเหมือนกัน คือพอมีคนสอนแต่เรื่องไม่ดีให้มันก็เลยเรียนรู้ตามนั้นไป จะว่าทำงานผิดพลาดก็ดูจะพูดได้ไม่เต็มปากเท่าไหร่ ผมว่าเพราะแบบนี้ด้วย MS เลยใช้คำว่า vulnerability แทนคำว่า hack
ผมว่าเราตีความกันไปเองมากกว่า
McKay Sun, 27/03/2016 - 18:00
In reply to ในกรณีนี้ผมมองว่ามันทำงานได้ส by tgst
ผมว่าเราตีความกันไปเองมากกว่าครับว่า hack = taking control เพียงอย่างเดียว ทั้งๆที่จริงๆแล้ว hack = using exploits against vulnerabilities, causing unintended or unanticipated behavior
ตามข่าวคือ
attack + exploit + vulnerability + unintended/unanticipated = hack ครับ
แฮกง่ายแท้
dsan07 Sun, 27/03/2016 - 02:02
แฮกง่ายแท้