Hyrum Anderson นักวิจัยด้านความปลอดภัยจากบริษัท Endgame โชว์ผลงานวิจัยการใช้ AI สร้างมัลแวร์ที่แอนตี้ไวรัสจับไม่ได้

แนวคิดของเรื่องนี้คือนำโค้ดมัลแวร์เดิมที่เป็นไบนารี มาดัดแปลงเพียงเล็กน้อย (น้อยมากๆ ระดับแก้ไม่กี่ไบต์) โดยให้ AI ทดลองหาวิธีแปลงที่น่าจะหลุดรอดการตรวจจับไปเรื่อยๆ จนกว่าจะได้วิธีการที่ดีที่สุด เช่น เติมเลขศูนย์ เติมไบต์สุ่ม เปลี่ยนชื่อบางเซคชั่นในไฟล์ ฯลฯ

AI ตัวนี้ใช้เวลาเทรน 15 ชั่วโมงกับตัวอย่างโค้ด 100,000 ตัวอย่าง (ไม่ระบุว่าทดสอบกับแอนตี้ไวรัสตัวไหน) ผลคือ AI สามารถสร้างโค้ดมัลแวร์ที่มีโอกาสรอดการตรวจจับได้ถึง 60%

OpenAI กลุ่มวิจัยด้านปัญญาประดิษฐ์ที่หนุนหลังโดย Elon Musk ประกาศเปิดซอร์สซอฟต์แวร์ชื่อ Universe ซึ่งเอาไว้สำหรับเทรน AI ให้รู้จักงานพื้นฐานที่ต้องใช้บ่อยๆ อย่างการเล่นเกม การท่องเว็บ จำนวนกว่า 1,000 ประเภท

การทำงานของ Universe จะผ่านโปรแกรมรีโมทเดสก์ท็อป VNC เพื่อให้ AI ได้เห็นหน้าจอและควบคุมอินพุตแบบเดียวกับมนุษย์ โดยไม่จำเป็นต้องมี API พิเศษหรือเข้าถึงซอร์สโค้ดของโปรแกรมที่ต้องการเทรน

Universe ได้รับการสนับสนุนจากบริษัทเกมจำนวนมาก เช่น EA, Valve, Microsoft อนุญาตให้ AI เข้าถึงการเล่นเกมดังๆ อย่าง GTA V, Portal, Fable, World of Goog, Shovel Knight, Red Alert 2, Alpha Centauri รวมถึงซอฟต์แวร์ที่ไม่ใช่เกมอย่าง Wolfram Mathematica ด้วย