Tensor Processing Unit

Artificial Intelligence

การวัดประสิทธิภาพการฝึกโมเดลปัญญาประดิษฐ์ MLPerf ประกาศผลรอบใหม่ ทำให้ผู้ผลิตรายหลักๆ ก็ออกมาเคลมชัยชนะในมุมของตัวเองกัน

Google Cloud นั้นส่งผลทดสอบของ TPU v4 เข้าร่วม และโชว์ว่าแรงกว่าเซิร์ฟเวอร์ "ที่หาซื้อได้" (available on-prem) อย่างชัดเจน โดยเครื่องที่ Google Cloud ส่งผลทดสอบนั้นสามารถเปิดใช้งานได้จริงผ่านบริการ ML hub

By mk Founder on Tag: Google Cloud, Machine Learning, Cloud Computing, Google, TPU
Google Cloud

Google Cloud ประกาศบริการ Cloud TPU VMs เข้าสถานะเสถียร general availability (GA)

กูเกิลมีหน่วยประมวลผล TPU (Tensor Processing Unit) ที่ออกแบบเองสำหรับเร่งความเร็ว AI มาตั้งแต่ปี 2017 และเปิดให้คนทั่วไปเช่ารัน-เทรนโมเดล machine learning ผ่าน Google Cloud มาตั้งแต่ปี 2018 ในชื่อบริการ Cloud TPU

แต่ที่ผ่านมา การเช่า TPU ยังเป็นการเช่า VM บนเครื่องอื่นแล้วรีโมทเข้าไปเรียก TPU ผ่านโปรโตคอล gRPC เท่านั้น ผู้ใช้ไม่สามารถเข้าถึงเครื่อง TPU โดยตรงได้ (ดูภาพประกอบ)

By lew Founder on Tag: Artificial Intelligence, Machine Learning, GPGPU, Graphcore, TPU
Artificial Intelligence

MLCommons หน่วยงานกลางสำรวจประสิทธิภาพคอมพิวเตอร์ด้าน machine learning และปัญญาประดิษฐ์ออกรายงานเวอร์ชั่น 1.0 โดยมีผู้เข้าร่วมน่าสนใจได้แก่ NVIDIA ที่ส่งเครื่อง DGX-A100 เข้าทดสอบ, อินเทลส่ง Xeon Platinum 8380, กูเกิลส่ง TPUv4 ที่ยังไม่เปิดให้บริการทั่วไป, และ Graphcore สตาร์ตอัพปัญญาประดิษฐ์ส่งเครื่อง IPU-POD เข้าจัดอันดับ

By lew Founder on Tag: Coral, Google, Artificial Intelligence, TPU
Coral

กูเกิลเปิดตัว Edge TPU ชิปประมวลผลปัญญาประดิษฐ์สำหรับอุปกรณ์ขนาดเล็กมาตั้งแต่กลางปีที่แล้ว โดยบอกว่าจะขายทปลายปี 2018 แต่หลังจากเลยกำหนดมาพักใหญ่ ตอนนี้บอร์ดพัฒนา และตัวเร่งแบบ USB-C ก็วางขายแล้วทั้งคู่ ในแบรนด์ Coral

By lew Founder on Tag: PyTorch, Deep Learning, TPU, Google, Facebook
PyTorch

เฟซบุ๊กเปิดตัว PyTorch 1.0 ตั้งแต่เดือนพฤษภาคมที่ผ่านมา โดยตอนนี้ก็ยังเป็นเพียงรุ่นพรีวิวอยู่ อย่างไรก็ตามที่งาน PyTorch Developer Conference เมื่อวานนี้ก็มีการประกาศความก้าวหน้าของโครงการเพิ่มเติม

ฟีเจอร์ที่เพิ่มมาคือการทำงานในโหมด eager ที่ช่วยให้นักพัฒนาสามารถทดลองกับกราฟประมวลผลได้ง่ายขึ้น และมีการปรับปรุงไลบรารี torch.distributed โดยตอนนี้รองรับทั้ง Python และ C++

By lew Founder on Tag: TPU, Google, Google Cloud, Deep Learning, Internet of Things
TPU

กูเกิลเปิดตัวชิป Edge TPU สำหรับการพัฒนาปัญญาประดิษฐ์ในอุปกรณ์ IoT ขนาดเล็กเช่นกล้องวงจรปิด สำหรับการตรวจจับการจราจรโดยไม่ต้องส่งภาพกลับไปยังศูนย์กลาง

สำหรับฝั่งซอฟต์แวร์ Cloud IoT Edge เป็นชุดซอฟต์แวร์ที่สามารถรันได้บน Android Things หรือลินุกซ์อื่นๆ โดยมันมาพร้อมกับ Edge ML รันไทม์สำหรับรัน TensorFlow Lite มันสามารถรันบนซีพียู หรือเร่งความเร็วด้วยกราฟิกหรือ TPU ก็ได้

ตัวชิปจะมาพร้อมกับบอร์ดจาก NXP ให้สั่งได้ภายในเดือนตุลาคมนี้

ที่มา - Google Blog

By mk Founder on Tag: Google, Processor, CPU, Artificial Intelligence, TPU
Google

เก็บตกประกาศข่าวจากงาน Google I/O 2018 กูเกิลเปิดตัวหน่วยประมวลผล Tensor Processing Unit (TPU) รุ่นที่สาม รุ่นอัพเกรดจาก TPU v2 ที่เปิดตัวในช่วงเดือนนี้ของปีที่แล้ว

TPU v3 มีสมรรถนะดีขึ้นกว่า v2 ถึง 8 เท่า และ TPU หนึ่งชุด (64 ตัวเรียกเป็น 1 pod) มีพลังประมวลผลถึง 100 petaFLOPS เพิ่มขึ้นจาก 1 pod ของ TPU v2 ที่ทำได้เพียง 11.5 petaFLOPS tops

อีกประเด็นที่น่าสนใจคือ TPU v3 ใช้ระบบระบายความร้อนด้วยของเหลวด้วย ซึ่งเป็นครั้งแรกที่กูเกิลนำระบบแบบนี้มาใช้งานกับ TPU

By mk Founder on Tag: TPU, Google Cloud, TensorFlow, Google, Machine Learning, Artificial Intelligence
TPU

เมื่อกลางปีที่แล้ว กูเกิลเปิดตัว TPU (Tensor Processing Unit) ชิปสำหรับประมวลผล deep learning รุ่นที่สอง พร้อมจับขึ้นคลาวด์เพื่อให้คนทั่วไปใช้งาน โดยช่วงแรกยังจำกัดเฉพาะนักวิจัยเท่านั้น

เวลาผ่านมาเกือบปี Cloud TPU เปิดบริการรุ่นเบต้าบน Google Cloud Platform (GCP) สักที คนทั่วไปสามารถนำงานด้าน machine learning มาเทรนโมเดลบน Cloud TPU เพื่อเร่งความเร็วให้ได้มากขึ้น (Cloud TPU หนึ่งตัวมีสมรรถนะสูงสุด 180 tflops และแรม 64GB)

By lew Founder on Tag: TPU, Google Cloud, Google, TensorFlow, CPU, Artificial Intelligence
TPU

กูเกิลเปิดตัว TPU (Tensor Processing Unit) ชิปสำหรับประมวลผล deep learning รุ่นที่สอง พัฒนาจากรุ่นแรกที่ใช้เพื่อการคำนวณผลลัพธ์จากเครือข่ายนิวรอนเป็นหลัก รุ่นใหม่นี้จะมีความสามารถในการฝึกเครือข่ายนิวรอน (inference) ได้ด้วย พร้อมกับเปิดบริการ Cloud TPU รุ่น Alpha (ต้องขอเข้าร่วมทดสอบ)

TPU แต่ละชุดจะมีพลังประมวลผล 180 TFLOPS กูเกิลออกแบบระบบเป็นตู้ (pod) แต่ละตู้มี TPU 64 ชุด รวมพลังประมวลผล 11.5 PFLOPS โค้ด TensorFlow สามารถรันบนเซิร์ฟเวอร์ได้โดยเปลี่ยนโค้ดเล็กน้อย

By lew Founder on Tag: TPU, Google, TensorFlow, Artificial Intelligence
TPU

กูเกิลเคยเปิดเผยว่าระบบปัญญาประดิษฐ์ของตัวเองนั้นแม้จะรันด้วย TensorFlow ที่เป็นซอฟต์แวร์โอเพนซอร์ส แต่เบื้องหลังนั้นใข้ชิป Tensor Processing Unit (TPU) โดยระบุว่าการทำชิปด้วยตัวเองคุ้มค่ากว่า แต่ไม่มีรายละเอียดใดเพิ่มเติม ตอนนี้กูเกิลก็ปล่อยรายงานการศึกษาว่าการใช้ TPU นั้นคุ้มค่ากว่าจริงๆ

By mk Founder on Tag: TPU, TensorFlow, Google, Machine Learning, AlphaGo, CPU, Hardware, Processor
TPU

ข่าวน่าสนใจที่กูเกิลแถลงในงาน Google I/O เมื่อวานนี้คือ "หน่วยประมวลผล" ที่บริษัทออกแบบเองเพื่องานด้าน machine learning โดยกูเกิลเรียกมันว่า Tensor Processing Unit (TPU) (ตั้งให้ล้อกับชื่อซอฟต์แวร์ TensorFlow)

TPU เป็นแผงวงจรเฉพาะด้าน application-specific integrated circuit (ASIC) ที่กูเกิลออกแบบขึ้นเอง ขนาดบอร์ด TPU ที่กูเกิลออกแบบ มีขนาดเล็กกว่าสล็อตเสียบฮาร์ดดิสก์ในแร็คปกติ

Subscribe to TPU