on
NVIDIA เปิดตัวโมเดลปัญญาประดิษฐ์แบบเปิดในตระกูล Nemotron รุ่นใหม่ ในชื่อ Nemotron 3 Super เป็นโมเดลแบบ 120B-A12B ที่ออกแบบมาเพื่อประสิทธิภาพการรันที่ความเร็วสูงโดยเฉพาะเมื่อใช้ชิป Blackwell เหมาะกับการใช้งานภายในองค์กร
แม้จะเป็นโมเดลขนาดใหญ่พอๆ กับ GPT-OSS-120B และ Qwen3.5-122B-A10B แต่จุดเด่นของ Nemotron 3 Super คือการออกแบบให้รองรับเทคนิคให้ต้นทุนการรันต่ำลง ได้แก่
- ฝึกด้วย NVFP4: เลขเทศนิยมความละเอียดต่ำที่ชิป Blackwell รองรับ การฝึกที่ความละเอียดต่ำแต่ต้นทำให้คงความแม่นยำแม้รันที่ FP4
- Latent MoE: บีบอัดโทเค็นก่อนเลือก Expert ในสถาปัตยกรรม MoE
- Multi-token prediction (MTP): รันทีละหลายๆ โทเค็นโดยไม่ต้องนำโทเค็นเอาท์พุตเป็นอินพุตใหม่ก่อน
- Hybrid Mamba-Transformer: สถาปัตยกรรมแบบ Mamba ที่ประหยัดทรัพยากรกว่า Transformer และถูกนำมาผสมกันหลายโมเดลก่อนหน้านี้ เช่น Granite 4.0
นอกจากการเปิดโมเดลให้ดาวน์โหลดไปใช้งานแล้ว ทาง NVIDIA ยังเปิดเผยชุดข้อมูลที่ใช้ฝึกทั้งหมด ทั้งข้อมูลที่เก็บมาและชุดข้อมูลที่สร้างใหม่จากโมเดล AI อื่นๆ กระบวนการฝึกยังเปิดเผยทั้งกระบวนการ โดยใช้ซอฟต์แวร์ของทาง NVIDIA เอง เช่น NeMo RL, NeMo Evaluator สามารถนำไปปรับแต่งผ่าน Unsloth ได้ทันที และหากต้องการใช้งานก็มีผู้ให้บริการเริ่มให้บริการ API แล้ว เช่น Cloudflare, DeepInfra, Lightning.AI แต่มีเพียง Inference.net เท่านั้นที่รองรับ context windows ล้านโทเค็นเต็ม แลกกับราคาค่อนข้างแพง
ที่มา - NVIDIA
น่าจะไม่มีคนใช้…
tontan Thu, 12/03/2026 - 05:00
น่าจะไม่มีคนใช้ เช่นเดียวกับโมเดล AI อื่น ๆ ของ nvidia เหมือนเป็นแค่ demo ไว้โชว์ขายของ (การ์ด AI) และ nemo framework อย่างห่วย ลงอย่างยาก แม้แต่จะใช้ผ่าน docker ไปตีกับ cuda ภายนอก เก่าไปบ้าง ใหม่เกินไปบ้าง แถม output onnx อย่างยาก เอกสารเก่าปนมั่วในเอกสารปัจจุบัน
ซอฟต์แวร์ AI ของ nvidia อย่างกับนรก ขอยุ่งแค่ cuda ก็พอแล้วไป pytorch jax และ huggingface
ปรับได้จะดีมาก
แต่ถ้าไม่ใช่ NeMo เลย…
lew Thu, 12/03/2026 - 10:04
In reply to น่าจะไม่มีคนใช้… by tontan
แต่ถ้าไม่ใช่ NeMo เลย ใช้แค่ตัว model ตัวนี้ก็น่าจะมี use case น่าใช้งานหรือเปล่าครับ มี dataset เต็มน่าจะช่วยให้ finetune แบบลด overfit ได้ด้วย (คนอื่นที่เห็นทำได้ก็มี AWS Nova เท่านั้น) + รันโมเดลนอก NeMo แล้วอาศัยความได้เปรียบของ NVFP4 ประสิทธิภาพก็น่าจะมีลุ้น
ในทางเอกสารกับหลักการดูดีครั…
tontan Thu, 12/03/2026 - 18:26
In reply to แต่ถ้าไม่ใช่ NeMo เลย… by lew
ในทางเอกสารกับหลักการดูดีครับ แต่เอาจริง ๆ ไม่คุ้มอยู่ดีครับ เพราะโมเดลเป็น Hybrid Mamba-Transformer จะเทรนต้องพึ่ง nemo อยู่ดี ไปใช้ tool อื่นเทรนจะเจอ bug แปลก ๆ ได้และเสียเงินไปเปล่า ๆ ได้ แถมขนาด 120B-A12B ไปใช้พวกสาย GPT ปลอดภัย ชัวร์กว่า และสุดท้ายการรันต้องดูอีกว่าใช้กับ vllm / ollama ได้ไหม ซึ่งที่ผ่านมาโมเดลแปลก ๆ แบบนี้จะเจอปัญหาแปลก ๆ เยอะตามครับ
มันคือ ตัวที่ใน openrouter…
sukoom2001 Thu, 12/03/2026 - 16:44
มันคือ ตัวที่ใน openrouter.ai โผล่มาให้ลองเล่นฟรีวันนี้ใช่ไหมนะ?
https://openrouter.ai/nvidia/nemotron-3-super-120b-a12b:free