Google Cloud ประกาศบริการ Cloud TPU VMs เข้าสถานะเสถียร general availability (GA)

กูเกิลมีหน่วยประมวลผล TPU (Tensor Processing Unit) ที่ออกแบบเองสำหรับเร่งความเร็ว AI มาตั้งแต่ปี 2017 และเปิดให้คนทั่วไปเช่ารัน-เทรนโมเดล machine learning ผ่าน Google Cloud มาตั้งแต่ปี 2018 ในชื่อบริการ Cloud TPU

แต่ที่ผ่านมา การเช่า TPU ยังเป็นการเช่า VM บนเครื่องอื่นแล้วรีโมทเข้าไปเรียก TPU ผ่านโปรโตคอล gRPC เท่านั้น ผู้ใช้ไม่สามารถเข้าถึงเครื่อง TPU โดยตรงได้ (ดูภาพประกอบ)

เมื่อกลางปี 2021 กูเกิลออกบริการ Cloud TPU VMs ที่สามารถรัน VM บนเครื่อง TPU โดยตรงได้เลย (เหมือนเครื่อง VM ของซีพียูทั่วไป) ทำให้ผู้ใช้เข้าถึง TPU สะดวกขึ้น สามารถกำหนดสภาพแวดล้อมในการพัฒนาและรันโมเดลได้เอง อีกทั้งได้ประสิทธิภาพดีขึ้นด้วย การเทรนโมเดลด้วย Cloud TPU VMs เร็วขึ้นกว่าการรีโมทใช้ TPU แบบเดิม

Cloud TPU VMs แบบใหม่

Cloud TPU แบบเดิม (remote)

ชาร์ทแสดงประสิทธิภาพแบบใหม่ (สีส้ม) กับแบบเดิม (สีฟ้า)

ที่มา - Google