ไมโครซอฟท์เปิดตัวชิปเร่งการประมวลผลปัญญาประดิษฐ์ Maia รุ่นที่สาม Maia 300 ตามหลัง Maia 100 ที่เปิดตัวปี 2023 และ Maia 200 ที่เปิดตัวต้นปี 2026 ซึ่งตอนนี้ถูกใช้งานระดับโปรดักชันกับบริการหลายๆ ตัว เช่น Copilot แล้ว

Maia 300 เป็นการอัพเกรดจาก Maia 200 โดยสร้างโทเคนได้มากกว่ากัน 7 เท่าเทียบกับ Maia 200 และประหยัดพลังงานกว่าเดิม โดยนับเป็นโทเคนต่อเมกะวัตต์ จะดีขึ้น 40% เทียบกับการใช้งานจีพียู

ไมโครซอฟท์เรียกสถาปัตยกรรมของ Maia 200 ว่า Software Defined Locally Accessed Dataflow Architecture (SDLA) เริ่มจากการสังเกตวิธีเคลื่อนย้ายข้อมูลในระบบ AI สมัยใหม่ให้มีประสิทธิภาพ แนวทางของ SDLA คือการแยก control path ออกจาก data path แล้วให้ซอฟต์แวร์คอยทำหน้าที่จัดการตำแหน่งของข้อมูลให้มีประสิทธิภาพดีขึ้น

Maia 300 พัฒนาสถาปัตยกรรมนี้ไปอีกขั้น เพื่อตอบโจทย์เรื่อง context ขนาดยาว, โมเดลที่เน้นหนักเรื่องการให้เหตุผล และการรันโมเดลที่เน้นการถอดรหัส (decode-heavy) แนวทางของ Maia 300 คือ

• ใช้ชิปหลายตัวมาต่อกัน (chiplet) ที่มีหน่วยความจำแบบ non-uniform memory access (NUMA) วางอยู่ใกล้ๆ เพื่อให้ข้อมูลอยู่ใกล้หน่วยประมวลผลที่สุด
• ใช้ฟอร์แมตข้อมูลแบบใหม่ MXFP4 ที่ความละเอียดลดลง (low precision) 1ขนาดแคบลง ลดการใช้หน่วยความจำ ลดการย้ายข้อมูล ช่วยให้รันโมเดลขนาดใหญ่ขึ้น มี context ยาวขึ้นได้
• ใช้แรม HBM4 เพิ่มแบนด์วิดท์หน่วยความจำเป็น 18 TB/s หรือ 2.5 เท่า เทียบกับแรม HBM3E ที่ 7.1 TB/s

เมื่อรวมพัฒนาการหลายอย่าง โดยเฉพาะเรื่องการประหยัดพลังงาน ทำให้สามารถอัด Maia ลงในแร็คได้มากกว่าเดิม 2 เท่า (จาก 48 ตัวเป็น 96 ตัว) ภายใต้กำลังไฟขนาด 167 kW เท่าเดิม ผลโดยรวมจึงออกมาว่า Maia 300 ผลิตโทเคนได้มากกว่ากัน 7 เท่าเทียบกับ Maia 200 (นับทั้งแร็ค) และมีประสิทธิภาพต่อวัตต์ดีขึ้น 2.5 เท่า

Maia 300 จะเริ่มใช้งานจริงในปีหน้า 2027

ที่มา - Microsoft, Microsoft