NVIDIA ปล่อยชุดคอมไพเลอร์ CUDA Rust หลังจากใช้ Rust พัฒนาซอฟต์แวร์จำนวนมากมาก่อนหน้านี้ ทำให้เป็นภาษาที่สามหลังจาก C++ และ Python

ก่อนหน้านี้ NVIDIA ใช้ Rust ในโครงการจำนวนมากอยู่แล้ว เช่น ไดรเวอร์ต่างๆ รวมถึงซอฟต์แวร์ระดับองค์กรอย่าง NVIDIA Dynamo ก็เขียนด้วย Rust ขาดแต่ส่วน GPU kernel ที่รันงานบนชิปกราฟิกโดยตรง

สำหรับการเขียนแบบ SIMT หรือ CUDA แบบเดิม จะใช้โปรแกรม cuda-oxide ที่เป็นคอมไพเลอร์ Rust แล้วดักเอาส่วน kernel มาแปลงผ่าน Rust MIR จนได้ LLVM IR

Larry Ellison ซีทีโอของออราเคิล เล่าถึงความพยายามซื้อชิปกราฟิกจาก NVIDIA ว่าเขาต้องไปกินข้าวกับ Elon Musk และ Jensen Huang พร้อมกับขอให้ NVIDIA รับเงินค่าชิปกราฟิกไปอีกเยอะๆ พร้อมกับระบุว่าคำขอร้องได้ผล

ออราเคิลค่อนข้างประสบความสำเร็จจากการให้บริการคลาวด์สำหรับปัญญาประดิษฐ์ หลังจากปีที่ผ่านมาให้บริการคลาวด์กับไมโครซอฟท์

บริษัทคอมพิวเตอร์ gptshop.ai ประกาศขายพีซีสำหรับใช้ในบ้านแต่ใช้ชิป NVIDIA GH200 ซีพียูพร้อมชิปกราฟิกจาก NVIDIA ที่มักใช้งานกันในเซิร์ฟเวอร์เป็นหลัก หลักจากผู้ก่อตั้งบริษัทพบว่าชิปสำหรับผู้ใช้ทั่วไปอย่าง NVIDIA RTX 4090 นั้นไม่พอรันโมเดลปัญญาประดิษฐ์ใหม่ๆ

NVIDIA เปิดตัวโมดูล NVIDIA GH200 Grace Hopper รุ่นต่อไป หลังจากปีนี้วางตลาดรุ่นแรกไปแล้ว ความเปลี่ยนแปลงสำคัญของรุ่นต่อไปคือการใช้แรม HBM3e ทำให้ใส่แรมได้มากขึ้นมาก เครื่องขนาด 2 โมดูล สามารถใส่แรมได้สูงสุด 282GB ซีพียู 144 คอร์ และพลังประมวลผล AI รวม 8 เพตาฟลอบ (ไม่ระบุว่าที่ความละเอียดระดับใด)

NVIDIA เปิดตัวเซิร์ฟเวอร์รุ่นใหม่ NVIDIA DGX GH200 ชูจุดเด่นที่รองรับแรมสูงถึง 144TB เป็นก้าวกระโดดจาก DGX H100 ที่เคยรองรับแรม 640GB ต่อเครื่อง

ภายในตัวเครื่อง ใช้ชิป NVIDIA Grace Hopper Superchip พร้อมแรมแบบ LPDDR5 480GB เซิร์ฟเวอร์แต่ละเครื่องมีซีพียู 8 ชุด และสามารถต่อข้ามเครื่องผ่าน NVLink Switches อีกถึง 256 ซีพียูในแต่ละคลัสเตอร์ ตัวชิปกราฟิกบนแต่ละโมดูลสามารถข้ามไปใช้แรมฝั่งซีพียูด้วยแบนวิดท์ 900GB/s

NVIDIA เปิดตัวสถาปัตยกรรมชิปกราฟิกรุ่นต่อไป ในชื่อ NVIDIA Hopper โดยชิปตัวแรก NVIDIA H100 สำหรับลูกค้าระดับองค์กรเป็นหลัก โดยมีฟีเจอร์ภายในสถาปัตยกรรมหลายอย่าง เช่น