on
ถ้าฝั่ง NVIDIA มี CUDA เป็นซอฟต์แวร์สำหรับใช้จีพียูรันงานประเภทอื่น ฝั่ง AMD ก็มี ROCm เป็นซอฟต์แวร์ลักษณะเดียวกัน
ล่าสุด AMD ออก ROCm เวอร์ชัน 7.0 รองรับจีพียูเซิร์ฟเวอร์รุ่นใหม่ๆ อย่างซีรีส์ MI350X และ MI355X และปรับปรุงประสิทธิภาพของจีพียูรุ่นอื่นๆ ให้รันโมเดลยอดนิยม เช่น DeepSeek R1, Llama 3.3, Llama 3.1 ได้มีประสิทธิภาพขึ้นมาก (ตัวเลขของ AMD บอกว่า MI300X อาจรันได้ดีขึ้น 3.5 เท่า)
ROCm 7.0 ยังมีฟีเจอร์ใหม่ Distributed Inference สำหรับการรัน AI แบบกระจายโหลดไปยังเครื่องในคลัสเตอร์ เพื่อเร่งประสิทธิภาพให้มากขึ้น, รองรับเฟรมเวิร์คด้าน AI เวอร์ชันใหม่ๆ เช่น PyTorch 2.7 and 2.8, TensorFlow 2.19.1, JAX 0.6.x
