David Abitbol วิศวกรของธนาคาร Revolut จากอังกฤษ (แต่มีธุรกิจในหลายประเทศ) เปิดเผยบนเวทีงานสัมมนา AI Engineer ว่าย้ายระบบจาก Claude Code มาเป็นการรันโมเดลบนเครื่อง B200 ของตัวเอง (self-hosted) ช่วยลดรายจ่ายลงได้ 90%

Revolut เคยลองใช้โมเดลช่วยเขียนโค้ดมาแล้วหลายท่า เริ่มจาก Gemini ช่วงต้นปี 2025 แล้วย้ายมาใช้ Claude Code ช่วงต้นปี 2026 แต่พบว่าต้นทุนแพงเกินไป บางครั้งอาจทะลุไปเดือนละ 10,000 ดอลลาร์ต่อคน โดยที่ได้ประโยชน์กลับมาไม่เยอะนัก (วิศวกรมี 2,000 คน)

แนวทางล่าสุดของ Revolut คือใช้โมเดลแบบโฮสต์เองบนการ์ด NVIDIA B200 จำนวน 56 ตัว ตอนแรกใช้โมเดล GLM-5.1 ล่าสุดอัพเกรดมาเป็น GLM-5.3 พบว่าต้นทุนอยู่ที่ 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน หรือประมาณ 1/10 ของการใช้ Claude Code หรือ Codex และนอกจากต้นทุนที่ลดลง Revolut ยังเห็นการเปลี่ยนแปลงว่าเวลาที่ใช้เขียนโค้ดลดลง 60%

Abitbol บอกว่าเมื่อค่าโทเคนถูกลงในระดับที่ไม่ต้องกังวลกับการใช้งาน วิศวกรก็ใช้งานได้เต็มที่มากขึ้น เทียบกับแนวทางเดิมที่ต้องจำกัดปริมาณการใช้โทเคนต่อเดือน เปิดโอกาสให้นำโมเดลไปช่วยจัดการเรื่องอื่นๆ ที่เกี่ยวข้อง เช่น ดีบั๊กโค้ด และแก้สถานะ ticket ใน Jira กับ Confluence ให้ด้วย ไม่ต้องเก็บโควต้าโทเคนไปรอใช้กับงานยากๆ หรือเกลี่ยให้ใช้งานพอดีช่วงท้ายไตรมาสอีกต่อไป

Abitbol ยังแนะนำเทคนิคการปรับจูนโมเดลให้มีประสิทธิภาพมากขึ้น ด้วยการเปลี่ยนมาใช้ฟอร์แมต NVFP4 และปรับขนาด context window ให้เล็กลง เขาบอกว่าความเชื่อว่า context window ยิ่งยาวยิ่งดีเป็นเรื่องโกหก ขนาดที่เหมาะสมคือ 256K

เมื่อปรับแต่งเสร็จแล้ว ระบบจีพียูของบริษัทสามารถรันได้ 200 โทเคนต่อวินาที และลดเวลาที่โมเดลตอบโทเคนแรกลงมาเหลือ 3 วินาทีได้สำเร็จ ซึ่งตัวเลขนี้เป็นตัวเลขที่ทดสอบแล้วว่าเหมาะสม (หากใช้งานตอนค่ำๆ คนใช้น้อยๆ อาจได้ถึงเกือบ 800 โทเคนต่อวินาที)

อย่างไรก็ตาม Abitbol บอกว่าโมเดล GLM ไม่สามารถทดแทนโมเดล GPT หรือ Claude ได้ในทุกกรณี เพราะ GLM เป็นโมเดลข้อความอย่างเดียว ให้ทำงาน UI ก็ไม่เหมาะ สิ่งที่ Revolut ทำคือเพิ่มระบบ model router สลับโมเดลตามงานที่เหมาะสมให้อัตโนมัติ

ที่มา - The Register