LLM
ทีมวิจัยจาก Legit Security รายงานถึงรูปแบบการโจมตีโครงการซอฟต์แวร์ที่ใช้ปัญญาประดิษฐ์เขียนโค้ดช่วยแก้รายงานปัญหา (issue) ต่างๆ ด้วยการแทรกข้อความที่มองไม่เห็นไว้ในรายงานปัญหา ทำให้ปัญญาประดิษฐ์ทำตามคำสั่ง
ทีมวิจัยทดสอบกับ GitLab Duo ปัญญาประดิษฐ์ช่วยเขียนโค้ดของ GitLab โดยแอบแทรกคำสั่งสร้างโค้ดมุ่งร้ายตามจุดต่างๆ เช่น คอมเมนต์ในโค้ดที่ส่ง merge request เข้ามา, ข้อความ commit message, ข้อความใน issue เอง หรือแม้แต่คอมเมนต์, และตัวซอร์สโค้ดเอง พบว่า Duo ทำตามคำสั่งหมด