รัฐบาลมาเลเซียออกคำสั่งแบนแอปปัญญาประดิษฐ์ Grok มีผลตั้งวันอาทิตย์ที่ผ่านมา เป็นประเทศที่สองต่อจากอินโดนีเซีย ด้วยเหตุผลเดียวกันคือปัญหาการสร้างเนื้อหาและรูปภาพที่ไม่เหมาะสม ซึ่งรวมทั้งภาพผู้หญิงและภาพโป๊เด็ก

หน่วยงานกำกับดูแลของมาเลเซียบอกว่าได้แจ้งเตือนไปยัง X และ xAI แล้วสองครั้งในเดือนนี้ โดยต้องการให้บริษัทเพิ่มระบบป้องกันการสร้างเนื้อหาที่ไม่เหมาะสม รวมถึงเพิ่มกระบวนการตรวจสอบเพื่อให้เป็นไปตามกฎหมายของมาเลเซีย ซึ่ง X ได้ตอบกลับมาทั้งสองครั้ง บอกว่าเลือกใช้วิธีให้ผู้ใช้งานรายงานปัญหาหากพบเนื้อหาไม่เหมาะสม ซึ่งยังไม่เพียงพอกับความต้องการมาเลเซีย

อินโดนีเซียออกคำสั่งแบนแชทบอต Grok เมื่อวานนี้ โดยให้เหตุผลเรื่องความเสี่ยงที่แชทบอต AI สามารถสร้างภาพโป๊ได้ ซึ่งเป็นประเทศแรกที่ออกคำสั่งแบน Grok หลังจากหลายประเทศประกาศดำเนินการสอบสวนในช่วงสัปดาห์ที่ผ่านมา

เมื่อวันก่อน xAI บริษัทผู้พัฒนา Grok บอกว่าได้จำกัดความสามารถการสร้างรูปภาพด้วยแชทบอต ไว้เฉพาะลูกค้าที่สมัครสมาชิก Subscription เท่านั้น ซึ่งเป็นการป้องกันในขั้นหนึ่งเพราะคนที่จ่าย Subscription ต้องให้ข้อมูลระบุตัวตนด้วย