ทีมวิจัยจาก Legit Security รายงานถึงรูปแบบการโจมตีโครงการซอฟต์แวร์ที่ใช้ปัญญาประดิษฐ์เขียนโค้ดช่วยแก้รายงานปัญหา (issue) ต่างๆ ด้วยการแทรกข้อความที่มองไม่เห็นไว้ในรายงานปัญหา ทำให้ปัญญาประดิษฐ์ทำตามคำสั่ง

ทีมวิจัยทดสอบกับ GitLab Duo ปัญญาประดิษฐ์ช่วยเขียนโค้ดของ GitLab โดยแอบแทรกคำสั่งสร้างโค้ดมุ่งร้ายตามจุดต่างๆ เช่น คอมเมนต์ในโค้ดที่ส่ง merge request เข้ามา, ข้อความ commit message, ข้อความใน issue เอง หรือแม้แต่คอมเมนต์, และตัวซอร์สโค้ดเอง พบว่า Duo ทำตามคำสั่งหมด

กระบวนการซ่อนคำสั่งยังสามารถทำได้หลากหลาย เช่น ซ่อนเป็นเลขฐาน 16, เขียนเป็น unicode, เขียนเป็น TeX เพื่อซ่อนข้อความใน issue โดยอาศัยการกำหนดสีพื้นหลังเป็นสีขาว

กระบวนการสร้างโค้ดมุ่งร้ายอาจจะไม่ได้มีอะไรซับซ้อนนัก เช่น สั่งให้ Duo โหลดจาวาสคริปต์จากเซิร์ฟเวอร์คนร้ายเข้าไว้ในหน้าเว็บ, แทรกลิงก์เพื่อทำ SEO

การโจมตีบางส่วนยังอาศัย HTML Injection เมื่อนักพัฒนาเข้าไปถามโค้ดที่คนร้ายส่งแพตช์เข้ามาก็จะกลายเป็นการรันโค้ดบนหน้าต่าง GitLab ของผู้ดูแลโครงการเอง แสดงให้เห็นว่าปัญญาประดิษฐ์ที่ผูกกับระบบดูแลโค้ดกลายเป็นช่องทางโจมตีสำคัญที่คนร้ายอาจจะใช้ช่องทางนี้ได้ในอนาคต

ทาง Legit Security รายงานช่องโหว่เหล่านี้ไปยัง GitLab ตั้งแต่ต้นปีที่ผ่านมา และช่องโหว่การรันโค้ดบนช่องแชตกับ Duo บนเว็บ GitLab เองก็ถูกอุดไปแล้ว

ที่มา - Legit Security