OpenAI ประกาศเพิ่มระบบป้องกันและระบบช่วยเหลือผู้ใช้งาน ChatGPT หากพบการสนทนาที่มีแนวโน้มว่าผู้ใช้งานต้องได้รับการช่วยเหลือโดยเร็ว เพื่อไม่ให้นำไปสู่เหตุการณ์ที่คาดไม่ถึงหรือเศร้าสลด

ประกาศนี้ออกมาหลังจากครอบครัวหนึ่งยื่นฟ้อง OpenAI และ Saml Altman ซีอีโอ ต่อศาลซานฟรานซิสโก บอกว่าพวกเขาสูญเสียลูกชายวัย 16 ปี จากการสนทนากับ ChatGPT และ ChatGPT แนะนำทางออกปัญหาให้เขาปลิดชีวิตตัวเอง พร้อมกับแนะนำขั้นตอนให้ด้วย คำฟ้องนี้ยังระบุว่าโมเดลที่ลูกชายเขาใช้งานคือ ChatGPT-4o ซึ่ง OpenAI รีบร้อนในการนำออกสู่ตลาด โดยไม่ได้ตรวจสอบความปลอดภัยให้รัดกุมมากพอ