Moonshot AI ผู้พัฒนาโมเดลปัญญาประดิษฐ์รายสำคัญจากจีนเปิดตัว Kimi K3 ที่มีขนาดใหญ่ถึง 2.8T และมีสเปคดีขึ้นหลายจุด เช่น การรองรับ context ขนาด 1M และรองรับภาพในตัว โดยผลทดสอบแสดงให้เห็นว่าโมเดลนี้ขึ้นเป็นกลุ่มชั้นนำ

ผลทดสอบการเขียนโปรแกรมชุดต่างๆ เช่น DeepSWE, Terminal Bench, SWE Marathon ตัว Kimi K3 แซงหน้า Claude Opus 4.8 ได้ทั้งหมด และเอาชนะ Fable 5 ได้ในบางชุดทดสอบ

สถาปัตยกรรมของ Kimi K3 เป็น Kimi Delta Attention (KDA) และ Attention Residuals (AttnRes) ที่ทีมพัฒนาระบุว่าปรับปรุงการส่งข้อมูลตลอดโมเดลและเพิ่ม expert เป็นจำนวนถึง 896 ตัว โดยระหว่างรันจะใช้งาน 16 ตัว