Moore Threads เป็นบริษัทผู้ผลิตจีพียูสัญชาติจีน ที่ก่อตั้งในปี 2020 โดย Zhang Jianzhong อดีตผู้จัดการของ NVIDIA China

จีพียูของ Moore Threads เริ่มวางขายในปี 2022 โดยใช้ชื่อแบรนด์ MTT และล่าสุดบริษัทเริ่มออกชุดพัฒนา MUSA SDK (MUSA ย่อมาจาก MT Unified System Architecture) ซึ่งเทียบเคียงได้กับ CUDA SDK ของ NVIDIA

หน้าที่ของ MUSA คือการนำจีพียู MTT ไปรันงาน AI โดยอาศัยรันไทม์ชื่อคุ้นๆ อย่าง MUSA Runtime หรือ muDNN แบบเดียวกับที่มีในจีพียูค่ายตะวันตกอื่นๆ ประเด็นที่น่าสนใจคือ Moore Threads ยังออกเครื่องมือชื่อ MUSIFY tool สำหรับแปลงโค้ดที่เขียนด้วย CUDA มารันบน MUSA ด้วย

Li Guojie นักวิทยาศาสตร์คอมพิวเตอร์ชาวจีน มองว่าจีนต้องพัฒนาเทคโนโลยีซอฟต์แวร์ AI ของตัวเอง แทนที่พึ่งพาเทคโนโลยีจากตะวันตก โดยเฉพาะ CUDA ของ NVIDIA ที่ครองตลาดอยู่ในตอนนี้ แม้ว่าชิป AI จากบริษัทของจีน เช่น Huawei, Hygon และ, Cambricon มีความสามารถใกล้เคียงกับของ NVIDIA

NVIDIA ยืนยันว่าเอนจินฟิสิกส์ PhysX (อ่านว่า ฟิสิกซ์) ไม่สามารถรันบน GeForce RTX ซีรีส์ 50 (Blackwell) ได้แล้ว เนื่องจากแอพพลิเคชันที่รันบน CUDA แบบ 32 บิตจะไม่ซัพพอร์ตบน Blackwell อีกต่อไป (มีผลกับแอพพลิเคชันอื่นๆ ด้วย ไม่ใช่แค่ PhysX อย่างเดียว)

จีพียูรุ่นเก่าตั้งแต่ GeForce RTX ซีรีส์ 40 ลงไปยังรองรับการรันแอพ CUDA แบบ 32 บิต แต่จีพียูใหม่ตั้งแต่ Blackwell เป็นต้นไป (CUDA 12.0 ขึ้นไป) จะไม่สามารถใช้งานได้แล้ว

NVIDIA ออกซอฟต์แวร์​ CUDA เวอร์ชัน 12.8 มีประกาศที่น่าสนใจคือ เตรียมหยุดซัพพอร์ตจีพียูสถาปัตยกรรมเก่าๆ 3 รุ่น ได้แก่

• Maxwell (ออกปี 2014 - GeForce 700, 800M, 900)
• Pascal (ออกปี 2016 - GeForce 1000, Quadro P, Tesla P4)
• Volta (ออกปี 2017 - Tesla V100, Titan V)

ประกาศของ NVIDIA บอกว่าสถาปัตยกรรมทั้งสามรุ่นถือว่า feature-complete แล้ว และจะไม่ถูกปรับปรุงแก้ไขอะไรเพิ่มใน CUDA รุ่นถัดไป ถือเป็นสถาปัตยกรรมที่ล้าสมัย (deprecated) แล้ว แม้ยังซัพพอร์ตอย่างเป็นทางการอยู่ในตอนนี้

ทีมวิศวกรจาก IBM และ Meta รายงานถึงการทดลองเปลี่ยนเคอร์เนลการรัน LLM ใน PyTorch จากเดิมที่ใช้ CUDA เป็นหลัก มาเป็นภาษา Triton ของ OpenAI โดยพบว่าประสิทธิภาพเริ่มใกล้เคียงกับ CUDA

OpenAI เปิดตัวโครงการ Triton มาตั้งแต่ปี 2021 โดยมุ่งจะพัฒนาภาษาที่ทำให้โปรแกรมเมอร์เขียนโปรแกรมโดยตรงบนชิปกราฟิกได้ง่ายขึ้น นอกจากการถอด CUDA แล้วยังต้องเลือกเอนจิน Flash Attention มาแทน cuDNN Flash Attention เพื่อรันโมเดล LLM พบว่า AMD Flash Attention ทำงานได้ครบถ้วนทุกโหมด

Spectral Compute บริษัทด้านปัญญาประดิษฐ์จากสหราชอาณาจักรเปิดตัว SCALE ชุดเครื่องมือคอมไพล์โค้ดจากเดิมที่ใช้ CUDA ไปรันบนชิปตัวอื่นๆ โดยตอนนี้รองรับเฉพาะการ์ดจอของ AMD

SCALE ถูกออกแบบให้เป็นชุดเครื่องมือครบชุด เช่น คำสั่งที่ใช้แทน nvcc ได้ในตัว ทำให้สคริปต์ cmake ในโครงการต่างๆ สามารถรันได้ทันที ตอนนี้มีโครงการที่ทดสอบผ่านแล้วหลายโครงการ เช่น NVIDIA Thrust, llama-cpp, faiss, xgboost, หรือ hashcat

ทางโครงการ SCALE พยายามอิมพลีเมนต์ API ของ CUDA ให้ครบ โดยบางส่วนทำเอง บางส่วนเป็น wrapper ห่อไลบรารี ROCm ของ AMD ให้มีอินเทอร์เฟซเหมือนกับ CUDA

“ราคาคุ้น NVIDIA ทำนิวไฮ”, “หุ้น NVIDIA พุ่ง 200%”, “มูลค่า NVIDIA แซง Apple แล้ว” พาดหัวลักษณะนี้น่าจะเป็นที่ชาชินในช่วง 1-2 ปีที่ผ่านมา หลังกระแส AI บูมมากขึ้น

หลายๆ คนน่าจะรู้อยู่แล้วว่าปัจจัยที่ทำให้ NVIDIA ขึ้นมาสู่ระดับนี้ได้ คือการครองตลาด GPU ที่ถูกนำไปใช้ในการเทรนด์ AI จนถึงขนาดที่ว่า บริษัทไอทีใหญ่ๆ หรือบริษัทวิจัยที่ต้องการ GPU ของ NVIDIA ไปใช้งาน มีแต่เงินอย่างเดียว ก็ใช่ว่าจะได้ของไป แต่ยังต้องรอคิวหลักหลายเดือน จนถึงปีเลยด้วยซ้ำไป

แต่คำถามคืออะไรที่ทำให้การ์ดจอ NVIDIA เข้าไปเป็นตัวเลือกหลัก (และอาจจะตัวเลือกเดียว) ของบริษัทที่ต้องการเทรน AI ทั้งที่คู่แข่ง GPU ใหญ่ๆ อย่าง AMD ก็มี? เป็นเพราะ GPU ของ NVIDIA ดีกว่าอย่างเดียวเหรอ? บทความนี้พาจะไขเหตุผลเบื้องลึกกว่านั้น

Financial Times รายงานว่าบริษัทไอทียักษ์ใหญ่หลายราย เริ่มเข้ามาสนับสนุนซอฟต์แวร์เทรน AI ที่ไม่ต้องพึ่งพา CUDA ของ NVIDIA เพียงอย่างเดียวอีกต่อไป

CUDA ถือเป็นอาวุธลับของ NVIDIA ที่ช่วยให้ครองความยิ่งใหญ่ในโลกชิป AI มายาวนาน เพราะซอฟต์แวร์ยอดนิยมส่วนใหญ่จำเป็นต้องรันบน CUDA อีกที ส่งผลให้ NVIDIA ผูกขาดตลาดชิป AI ไปกลายๆ และกลายเป็นต้นทุนก้อนมหึมาของบริษัทเทคโนโลยีที่ต้องการใช้ชิปลักษณะนี้

กลุ่มบริษัทไอทีที่ประกอบด้วย Intel, Arm, Google, Samsung, Qualcomm, Fujitsu, Imagination, VMware ร่วมกับ Linux Foundation ก่อตั้งกลุ่ม Unified Acceleration (UXL) Foundation พยายามสร้างมาตรฐานเปิดสำหรับชิปเร่งการประมวลผล (accelerator) ที่มีหลากหลายยี่ห้อในท้องตลาด

งานของ UXL จะอิงกับสเปก oneAPI ที่ Intel บุกเบิกมาหลายปีแล้ว เพื่อมาถ่วงดุลกับ CUDA ของ NVIDIA ที่เป็นเจ้าตลาดนี้มายาวนาน และกลายเป็นตัวช่วยรักษาส่วนแบ่งตลาดจีพียูของ NVIDIA เนื่องจากซอฟต์แวร์จำนวนมากในวงการนั้นอิงกับ CUDA (เหมือน Intel ไปเรียกพวกมาช่วยสนับสนุน oneAPI)

ZLUDA โครงการโอเพนซอร์สที่พยายามอิมพลีเมนต์ไลบรารี CUDA ของ NVIDIA ปล่อยเวอร์ชั่นทดสอบที่อาศัยไลบรารี HIP/ROCm ของ AMD เป็นคัวเอนจินเบื้องหลังทำให้สามารถใช้ชิปกราฟิกของ AMD มารันโปรแกรมที่คอมไพล์สำหรับ CUDA ได้

Andrzej Janik ผู้พัฒนา ZLUDA พัฒนาไลบรารีนี้มาแล้วหลายปี แต่ช่วงแรกนั้นทำมาเพื่อซีพียูอินเทล ต่อมาในปี 2022 AMD ติดต่อเขาให้พัฒนาไลบรารีให้รองรับชิปกราฟิกของ AMD หลังจากพัฒนามาเกือนสองปี ทาง AMD ตัดสินในยุติโครงการนี้ ทำให้ Janik ตัดสินใจปล่อยโครงการออกมาเป็นโอเพนซอร์ส

สัปดาห์ที่แล้วอินเทลเปิดตัวชิป Core Ultra และ Xeon รุ่นที่ 5 โดยชูจุดขายด้าน AI เต็มรูปแบบ หลังงานในช่วงถามตอบนักข่าว Pat Gelsinger ก็ออกมาพูดถึง NVIDIA ว่ามีความได้เปรียบจาก CUDA ไม่มากนัก และทั้งอุตสาหกรรมก็กำลังย้ายการพัฒนาไปอยู่บน layer ที่สูงขึ้นเป็นภาษา Python เพื่อให้พอร์ตโมเดลไปมาได้

เขาระบุว่าในตอนนี้หากโมเดลฝึกเสร็จแล้วก็มีทางเลือกในการรันที่ต่างๆ และระบบการรันนั้นก็มักไม่ต้องการ CUDA อีกแล้ว และเขาเชื่อว่าชิปฝั่งรันโมเดลนั้นเป็นตลาดกระแสหลักในอนาคต (where the game will be)

ในข่าว Windows Terminal 1.0 ไมโครซอฟท์ประกาศว่าจะเรนเดอร์กราฟิกของแอพจากลินุกซ์ด้วย GPU ด้วย เบื้องหลังของมันคือสิ่งที่อาจจินตนาการไม่ถึงเมื่อหลายปีก่อนอย่าง DirectX บนลินุกซ์ (ในความหมายนี้คือลินุกซ์ที่ติดตั้งบน Windows Subsystem for Linux 2 หรือ WSL 2)

ไมโครซอฟท์อธิบายว่าพัฒนาเทคนิค GPU paravirtualization (GPU-PV) บนวินโดวส์มาหลายปีแล้ว และใช้งานในโปรแกรมฝั่งวินโดวส์หลายตัว เช่น Windows Defender Application Guard, Windows Sandbox และอีมูเลเตอร์ของ Hololens

NVIDIA ประกาศอัพเดต CUDA Toolkit 10.2 เป็นรุ่นสุดท้ายใน macOS นับเป็นจุดสิ้นสุดความสัมพันธ์ระหว่าง NVIDIA และสินค้าตระกูล Mac หลังจากแอปเปิลหยุดซัพอร์ตไดร์เวอร์ NVIDIA ไปตั้งแต่ macOS 10.14 Mojave

ซอฟต์แวร์จำนวนหนึ่งใช้ CUDA เพื่อเร่งความเร็วประมวลผล เช่น Adobe Premier หรือ After Effect แต่ก็ใช้งานได้ถึง macOS 10.13.6 เท่านั้น

แม้ชิป NVIDIA จะมีประสิทธิภาพสูงกว่า AMD ในช่วงหลัง ๆ แต่ NVIDIA และแอปเปิลก็เคยมีปัญหากันตั้งแต่สมัยชิป GeForce 6800M ตั้งแต่ปี 2007 ที่มีปัญหาความร้อนจนกระทั่งแอปเปิลต้องเปิดให้ซ่อมฟรีเป็นเวลาสองปี และตอนนี้คอมพิวเตอร์แอปเปิลก็ไม่มีชิป NVIDIA เป็นตัวเลือกแล้ว อย่างใน MacBook Pro รุ่น 16" ที่เปิดตัวล่าสุดก็ติดตั้งเป็น AMD Radeon Pro 5300M/5500M เท่านั้น

ที่มา: NVIDIA via Gizmodo

หลังจาก NVIDIA เปิดตัว CUDA 6 ตั้งแต่ปลายปีที่แล้ว วันนี้บริษัทก็เปิด CUDA Toolkit 6.0 รุ่น Release Candidate ให้คนทั่วไปทดสอบแล้ว

จุดเด่นของ CUDA 6 คือ Unified Memory หรือการมองหน่วยความจำของซีพียูกับจีพียูเป็นผืนเดียวกัน เพื่อให้ไม่ต้องคัดลอกข้อมูลข้ามพื้นที่แรมแต่ละส่วนทุกครั้ง ช่วยเพิ่มประสิทธิภาพและปรับกระบวนการพัฒนาให้ง่ายขึ้น

นอกจากนี้ CUDA 6 ยังรองรับการประมวลผลโดยใช้จีพียูสูงสุดถึง 8 ตัวต่อคอมพิวเตอร์หนึ่งเครื่อง ทำให้มีสมรรถนะในการคำนวณได้สูงถึง 9 teraflops ต่อเครื่อง

ผู้สนใจดาวน์โหลดได้ที่ CUDA Toolkit Pre-Production Downloads

NVIDIA เปิดตัวภาษา CUDA 6 สำหรับการเขียนโปรแกรมบน GPU ของตัวเองโดยมีความสามารถสำคัญคือ Unified Memory หรือการมองหน่วยความจำของซีพียูและจีพียูเป็นผืนเดียวกัน ทำให้สามารถพัฒนาซอฟต์แวร์ได้ง่ายขึ้น

การประมวลผลด้วยชิปกราฟิกเคยมีการแข่งขันกันอย่างหนักระหว่างเทคโนโลยี CUDA เป็นเป็นเทคโนโลยีของ NVIDIA และ OpenCL ที่มีผู้ผลิตหลายรายร่วมกัน แต่จนตอนนี้ CUDA ก็ยังรันได้เฉพาะบน x86 จนกระทั่งการเปิดตัวของชุดพัฒนารุ่น 5.5

CUDA 5.5 ในส่วนของ ARM จะใช้ได้เฉพาะรุ่น Ubuntu เท่านั้น โดยมีให้เลือกระหว่างการใช้ชุดพัฒนารุ่น x86 ธรรมดามาคอมไพล์ลง ARM หรือจะใช้ชุดพัฒนาบน Ubuntu สำหรับ ARMv7 ไปพัฒนาบน ARM เลยก็ได้เหมือนกัน

แม้ชุดพัฒนาจะรองรับการใช้งานบน ARM แล้วแต่ Tegra รุ่นที่รองรับ CUDA ก็ยังไม่มีออกมาเป็นทางการ ในแง่หนึ่งแล้ว การที่โลกหันมานิยม ARM มากขึ้นกลับทำให้เทคโนโลยีเฉพาะอย่าง CUDA ได้รับความนิยมน้อยลงแล้วหันไปอยู่กับ OpenCL ที่รองรับอยู่บนชิปจำนวนมากแล้ว

NVIDIA ได้เปิดตัว CARMA (CUDA on ARM development kit) ซึ่งเป็น CUDA เวอร์ชันที่สนับสนุนซีพียู ARM อย่างเป็นทางการ

การเปิดตัว CUDA บน ARM ครั้งนี้ก็สอดคล้องกับข่าวเก่าที่ได้มีการสร้างซูเปอร์คอมพิวเตอร์ด้วยซีพียู ARM ขึ้นเป็นครั้งแรก โดยมีจุดประสงค์เพื่อลดการใช้พลังงานของซูเปอร์คอมพิวเตอร์ในปัจจุบัน

สเปคคร่าวๆ สามารถดูได้ในที่มา ขณะที่รายละเอียดฉบับเต็มยังไม่เป็นที่เปิดเผย ส่วนชุดติดตั้งสำหรับนักพัฒนานั้นจะเปิดให้ดาวน์โหลดได้ในวงจำกัดในช่วงไตรมาสที่ 2 ของปี 2012 สำหรับท่านที่สนใจสามารถติดตามและลงชื่อรอได้ที่นี่

เทคโนโลยีการพัฒนาซอฟต์แวร์บน GPU นั้นทุกวันนี้มีสองค่ายใหญ่คือ CUDA ของ NVIDIA กับ OpenCL ที่ค่ายอื่นๆ เช่น อินเทล และเอเอ็มดี ใช้งานร่วมกัน ความเสียเปรียบอย่างหนึ่งของ CUDA คือมันเป็นเทคโนโลยีปิดของ NVIDIA เองทำให้ผู้ผลิตรายอื่นๆ ไม่สามารถเข้ามาใช้งานร่วมด้วยได้ และทาง NVIDIA ก็เลือกแก้ปัญหาด้วยการเปิดชั้นคอลไพลเลอร์ด้านล่างที่เป็น LLVM ออกมา

NVIDIA ประกาศความร่วมมือกับ Barcelona Supercomputing Center ในสเปน สร้างซูเปอร์คอมพิวเตอร์แนวใหม่ที่ไม่เคยมีใครคิดว่ามันจะเป็นไปได้ นั่นคือสร้างจากซีพียูตระกูล ARM

ซูเปอร์คอมพิวเตอร์เครื่องนี้จะใช้ Tegra 3 ที่เพิ่งเปิดตัวหมาดๆ ร่วมกับ GPU ของ NVIDIA เองเพื่อเร่งประสิทธิภาพในการประมวลผล โดยเขียนโปรแกรมได้ผ่าน CUDA ซึ่งเป็นเทคโนโลยีของ NVIDIA เช่นกัน

จุดเด่นของคอมพิวเตอร์เครื่องนี้คือการลดพลังงานที่ใช้ในซูเปอร์คอมพิวเตอร์ ซึ่งคาดว่าจะลดลงได้ 40% เมื่อเทียบกับซูเปอร์คอมพิวเตอร์ทั่วไป (เป้าหมายของ Barcelona Supercomputing Center คือลดลงให้ได้ 15-30 เท่าของซูเปอร์คอมในปัจจุบัน)