งานวิจัยที่ยังไม่ตีพิมพ์ (preprint) ของสถาบันวิทยาศาสตร์แห่งประเทศจีน (Chinese Academy of Science) ที่นำคำถามทางจิตวิทยาที่ใช้ประเมินสภาวะซึมเศร้าและติดเหล้าไปลองถาม AI chatbots ชั้นนำต่างๆ

AI ที่เข้ารับการทดสอบมี Blenderbot ของ Facebook, DiabloGPT ของ Microsoft, DialoFlow ของ Wechat และ Plato ของ Baidu การทดสอบพบว่า AI ทั้งหมดมีคะแนน “ความเห็นอกเห็นใจ” ต่ำ รวมถึงตอบคำถามในแบบประเมินเหมือนคนเป็นซึมเศร้าและติดเหล้า โดย Blender และ Plato ทำคะแนนได้แย่กว่าเพื่อน

แม้ AI เหล่านี้จะไม่มีความรู้สึกจริงๆ และการตอบคำถามก็อิงจากแหล่งข้อมูลที่ฝึกมาเท่านั้น แต่ผลวิจัยนี้ก็ทำให้เกิดความกังวลต่อผลกระทบทางสภาพจิตกับผู้ใช้งาน โดยเฉพาะกับเยาวชน ที่อาจเกิดขึ้นได้ในอนาคต

อย่างไรก็ตาม สิ่งที่ทำให้หลายๆ คนน่าจะร้อง อ๋อ ถึงสาเหตุของปัญหานี้ คือในหน้า 4 ของงานวิจัย เปิดเผยว่าแหล่งข้อมูลที่เหล่า AI ทั้งหมดใช้ในการฝึกตอบคำถาม มาจากการประมวลผลความเห็นบนเว็บไซต์ Reddit ซึ่งขึ้นชื่อว่าเป็นเว็บบอร์ดที่มีสังคมไม่ค่อยเป็นมิตร และมีความ toxic สูง คำตอบของ AI chatbot เหล่านี้จึงออกมาในรูปแบบที่เห็น

นอกจากปริมาณข้อมูลแล้ว คุณภาพของแหล่งข้อมูลที่ใช้ในการฝึกฝน AI น่าจะเป็นอีกประเด็นที่สำคัญ ซึ่งปัญหานี้ก็ไม่ใช่เรื่องใหม่ เพราะตอนปี 2560 ก็มีงานวิจัยที่เปิดเผยว่า AI เรียนรู้พฤติกรรมหยาบคายและเหยียดผิวได้จากผู้ป้อนข้อมูล

ในงานวิจัยไม่มีข้อมูลที่ชี้แจงไว้ว่าทำไมผู้สร้างถึงนิยมใช้ข้อมูลจากเว็บไซต์ Reddit แต่คาดว่าเป็นเพราะ Reddit น่าจะเป็นแหล่งข้อมูลการมีปฏิสัมพันธ์กันของมนุษย์ที่ใหญ่อันดับต้นๆ และสามารถซื้อข้อมูล หรือใช้ข้อมูลส่วนที่เป็นสาธารณะได้ง่าย

ที่มา - CAS via Futurism