เจ้าหน้าที่จีนได้ทำการควบคุมตัวชาวจีนคนหนึ่งในมณฑลกานซูตอนเหนือของจีน จากข้อกล่าวหาใช้ ChatGPT สร้างข่าวปลอม ซึ่งเป็นการจับกุมครั้งแรกหลังที่จีนออกแนวทางป้องกันและห้ามใช้ AI สร้างข้อมูลที่เป็นเท็จ

ผู้ต้องสงสัยถูกเรียกว่า Hong ถูกกล่าวหาว่าใช้บริการแชตบอตของ OpenAI ในการสร้างเนื้อหาข่าวพูดถึงอุบัติเหตุรถไฟชนกัน ซึ่งทางเจ้าหน้าที่ระบุว่าเป็นข้อมูลเท็จ และยังพบบทความเรื่องเดียวแต่มีหลายเวอร์ชัน ซึ่งมีสถานที่เกิดเหตุต่างกันและถูกโพสต์พร้อมกันไปยัง 20 บัญชีในบล็อกที่ชื่อว่า Baijiahao บนแพลตฟอร์มของ Baidu

Sam Altman ประธานเจ้าหน้าที่บริหาร OpenAI กล่าวกับสำนักข่าว CNBC เมื่อวันศุกร์ที่ผ่านมาว่า “ไม่ได้เทรน AI จากข้อมูลที่ลูกค้าใช้บริการ API กับทางบริษัทมานานแล้ว” และได้เปลี่ยนข้อกำหนดในการให้บริการเมื่อวันที่ 1 มีนาคมที่ผ่านมา

โดยจะมีผลกับลูกค้าที่ใช้บริการ API กับทางบริษัทอย่าง Microsoft, Salesforce และ Snapchat เพื่อความปลอดภัยของข้อมูลและความเป็นส่วนตัวของลูกค้า แต่ยังคงใช้ข้อมูลจากบริการอื่นที่ไม่ใช่ API อย่างเช่น ข้อมูลที่พนักงานถามใน ChatGPT ก็ยังถูกเก็บมาเทรน AI อยู่ตามข้อกำหนดที่ได้ระบุไว้