การแข่งขันกันระหว่างผู้ผลิตชิปกราฟิกรุนแรงขึ้นมาในช่วงหลังๆ โดยหลายปีที่ผ่านมา NVIDIA มีชุดซอฟต์แวร์ CUDA ที่ได้รับความนิยมในวงการปัญญาประดิษฐ์อย่างมาก ส่งผลให้ NVIDIA กลายเป็นมาตรฐานในการพัฒนาปัญญาประดิษฐ์เป็นส่วนใหญ่ แต่บริษัทพัฒนาปัญญาประดิษฐ์ก็เริ่มให้ความสนใจกับชิปจากผู้ผลิตอื่นๆ มากขึ้น เช่น OpenAI ประกาศใช้ชิป AMD หรือ Anthropic ประกาศใช้ชิป TPU ก็แสดงให้เห็นว่าตลาดอาจจะต้องการตัวเลือกเพิ่มเติม

เดือนที่ผ่านมาผมได้สัมภาษณ์ Anush Elangovan รองประธานฝ่ายซอฟต์แวร์เอไอของ AMD ถึงการพัฒนาชุดซอฟต์แวร์ ROCm และการแข่งขันในอนาคต

Elangovan ระบุว่า ROCm มีความต่างจาก CUDA ของ NVIDIA และ MLX ของ Apple ที่ตัวซอฟต์แวร์เปิดกว้าง (ตัวแกนกลางใช้สัญญาอนุญาตแบบ MIT) เปิดทางให้นักพัฒนาภายนอกแก้ไขได้ถึงระดับลึก และทำงานร่วมกับนักพัฒนานอกบริษัทเช่น Hugging Face, Red Hat, หรือ Cohere ได้สะดวก ไม่มีข้อจำกัดระดับไลเซนส์ แนวทางนี้ทำให้ AMD ตั้งเป้าว่า ROCm จะไม่เพียงทำให้เทียบเท่ากับ CUDA เท่านั้น แต่ยังจะแซงหน้าไปได้โดยอาศัยความร่วมมือกับชุมชน

แม้ว่าเป้าหมายของ ROCm คือการเทียบเท่าและแซงหน้า CUDA ไป แต่ในการใช้งานตอนนี้เราก็มักพบข้อจำกัดอยู่บ้าง เช่น Ollama โปรแกรมรันปํญญาประดิษฐ์ยอดนิยม ยังคงรองรับ ROCm อย่างจำกัด และการรันปัญญาประดิษฐ์บนชิป AMD จำนวนมากยังต้องรันผ่าน Vulkan อยู่ แถมประสิทธิภาพดีกว่าการรันบน ROCm เกือบสองเท่าตัว แต่ Elangovan ก็ยืนยันว่า AMD กำลังทำให้นักพัฒนาทำงานได้ง่ายขึ้น และพร้อมจะทำงานร่วมกับชุมชนโอเพนซอร์สให้ซอฟต์แวร์ทำงานร่วมกันได้

Elangovan ระบุว่า ROCm7 ประสิทธิภาพในการรันปัญญาประดิษฐ์แบบ LLM สูงขึ้นถึง 3.5 เท่าตัวในบางกรณี เมื่อเทียบกับ ROCm6 และรองรับชนิดข้อมูลใหม่ๆ เช่น FP4 และ FP6 แต่ก็ยังมีจุดที่ปรับปรุงได้อีกมาก โดยเฉพาะการปรับปรุงการรันโมเดลแบบกระจายตัวหลายเครื่อง, การรองรับรูปแบบข้อมูลใหม่ๆ เพิ่มเติม และการปรับปรุงให้เหมาะกับการติดตั้งใช้งานในองค์กร

ชิป AMD Ryzen AI Max+ 395 ได้รับความนิยมในหมู่ผู้ต้องการรันปํญญาประดิษฐ์ด้วยตัวเอง แนวทางนี้ทำให้เป้าหมายหนึ่งของ ROCm คือการทำให้ประสบการณ์การใช้งานเหมือนกันตั้งแต่ชิปผู้ใช้ตามบ้านอย่าง Ryzen ต่อเนื่องไปถึงชิปสำหรับศูนย์ข้อมูลอย่าง AMD Instinct

ที่มา - การสัมภาษณ์ Anush Elangovan ผ่านทางอีเมล