รัฐบาลมาเลเซียออกคำสั่งแบนแอปปัญญาประดิษฐ์ Grok มีผลตั้งวันอาทิตย์ที่ผ่านมา เป็นประเทศที่สองต่อจากอินโดนีเซีย ด้วยเหตุผลเดียวกันคือปัญหาการสร้างเนื้อหาและรูปภาพที่ไม่เหมาะสม ซึ่งรวมทั้งภาพผู้หญิงและภาพโป๊เด็ก

หน่วยงานกำกับดูแลของมาเลเซียบอกว่าได้แจ้งเตือนไปยัง X และ xAI แล้วสองครั้งในเดือนนี้ โดยต้องการให้บริษัทเพิ่มระบบป้องกันการสร้างเนื้อหาที่ไม่เหมาะสม รวมถึงเพิ่มกระบวนการตรวจสอบเพื่อให้เป็นไปตามกฎหมายของมาเลเซีย ซึ่ง X ได้ตอบกลับมาทั้งสองครั้ง บอกว่าเลือกใช้วิธีให้ผู้ใช้งานรายงานปัญหาหากพบเนื้อหาไม่เหมาะสม ซึ่งยังไม่เพียงพอกับความต้องการมาเลเซีย

อินโดนีเซียออกคำสั่งแบนแชทบอต Grok เมื่อวานนี้ โดยให้เหตุผลเรื่องความเสี่ยงที่แชทบอต AI สามารถสร้างภาพโป๊ได้ ซึ่งเป็นประเทศแรกที่ออกคำสั่งแบน Grok หลังจากหลายประเทศประกาศดำเนินการสอบสวนในช่วงสัปดาห์ที่ผ่านมา

เมื่อวันก่อน xAI บริษัทผู้พัฒนา Grok บอกว่าได้จำกัดความสามารถการสร้างรูปภาพด้วยแชทบอต ไว้เฉพาะลูกค้าที่สมัครสมาชิก Subscription เท่านั้น ซึ่งเป็นการป้องกันในขั้นหนึ่งเพราะคนที่จ่าย Subscription ต้องให้ข้อมูลระบุตัวตนด้วย

แชทบอตปัญญาประดิษฐ์ Grok ของ xAI ที่เป็นบริษัทของ Elon Musk ถูกวิจารณ์บนแพลตฟอร์ม X หลังมีผู้ใช้งานพบว่า Grok สามารถสร้างภาพโป๊เด็กได้ผ่าน prompt บน X

ผู้ใช้งาน X รายหนึ่งพยายามถามถึงความเหมาะสมและการละเมิดกฎหมายต่อเรื่องที่เกิดขึ้นกับแชทบอต Grok ซึ่ง Grok ก็ตอบข้อความอัตโนมัติ (ไม่ใช่แถลงที่เป็นทางการ) ขอโทษต่อเหตุการณ์ที่เกิดขึ้น และเป็นสิ่งที่ผิดกฎหมายภาพโป๊เด็กของสหรัฐ เนื่องจากระบบไม่สามารถป้องกันการสร้างภาพประเภทดังกล่าวได้ดีพอ ซึ่ง xAI จะตรวจสอบป้องกันไม่ให้เกิดปัญหานี้ (อ่านทั้งหมดที่นี่)