OpenAI เปิดตัวชิปปัญญาประดิษฐ์ Jalapeño ที่ออกแบบร่วมกับ Broadcom และ Celestica เป็นชิปรันโมเดลปัญญาประดิษฐ์ที่ออกแบบมาสำหรับความต้องการของ OpenAI โดยเฉพาะ

การเปิดตัวครั้งนี้ไม่มีข้อมูลประสิทธิภาพรวมของชิปแต่อย่างใด แต่ระบุว่าการวางสถาปัตยกรรมเป็นการให้น้ำหนักระหว่าง พลังประมวลผล, หน่วยความจำ, และเน็ตเวิร์ก ให้ตรงกับการใช้งานของ OpenAI เอง เพื่อให้ดึงประสิทธิภาพสูงสุดขณะที่รันงานจริง

แนวทางการออกแบบชิปเฉพาะทางเพื่อการรันโมเดลเป็นแนวทางที่ชัดเจนขึ้นเรื่อยๆ ในช่วงหลัง เนื่องจากผู้ให้บริการทุกรายต้องการลดต้นทุนการให้บริการโมเดลปัญญาประดิษฐ์ ขณะเดียวกันก็ต้องการเร่งความเร็วการสร้างโทเค็น เช่น NVIDIA อาศัยชิป Groq 3 มาประมวลผลช่วง decode

คาดว่า OpenAI จะเริ่มติดตั้งเซิร์ฟเวอร์ที่ใช้ชิป Jalapeño ภายในสิ้นปีนี้

ที่มา - OpenAI