Tensor Processing Unit

By mk Founder on Tag: Google, TPU
Google

กูเกิลประกาศข่าวตั้งบริษัทร่วมทุน (joint venture) กับ Blackstone บริษัทจัดการกองทุนรายใหญ่ของโลก (มีทรัพย์สินที่รับบริหารมูลค่า 1.3 ล้านล้านดอลลาร์) เพื่อให้บริการเช่าใช้งาน TPU ของกูเกิลแก่ลูกค้าภายนอก เป็นอีกทางเลือกแทนการเช่าตรงผ่าน Google Cloud แบบเดิม (น่าจะเป็นการเช่าแบบเหมาที่ไม่ได้คิดเครดิตแบบคลาวด์ สำหรับลูกค้ารายใหญ่มากๆ ที่ต้องการวิธีนี้)

บริษัทแห่งใหม่ยังไม่มีชื่อเรียก แต่ Blackstone สัญญาว่าจะใส่เงินลงทุนเบื้องต้นมาให้ 5 พันล้านดอลลาร์ และคาดว่าจะเริ่มให้บริการได้ในปี 2027 โดยระยะแรกจะมีขีดความสามารถ (นับเป็นหน่วยพลังงาน) ระดับ 500 MW แล้วค่อยๆ ขยายเพิ่มในอนาคต

By lew Founder on Tag: Google Cloud, TPU
Google Cloud

กูเกิลเปิดตัวชิป TPU รุ่นที่ 8 แยกเป็น TPU 8t สำหรับฝึกโมเดลปัญญาประดิษฐ์และ TPU 8i สำหรับรัน แม้จะชื่อคล้ายกันแต่ชิปทั้งสองตัวกลับเป็นคอร์คนละแบบ และการเชื่อมต่อภายในต่างกัน

TPU 8t เพิ่ม SparseCore ควบคุมการเข้าถึงหน่วยความจำ ตัวคอร์ MXU สำหรับคูณเมทริกซ์รองรับทศนิยม 4 บิต (FP4) ในตัว เชื่อมต่อระหว่างชิปด้วย Virgo Network ที่เชื่อมชิปได้สูงสุด 134,000 ชิป ที่แบนวิดท์รวม 47 เพตาบิตต่อวินาที รวมพลังประมวลผลสูงสุด 1.6 ล้าน ExaFLOPS ชิปมีความสามารถอ้างหน่วยความจำระหว่างกัน TPUDirect RDMA โดยไม่ต้องผ่านซีพียู รวมถึงส่งข้อมูลจากสตอเรจเข้า TPU โดยตรงเลยก็ได้

Anthropic

Anthropic ประกาศขยายข้อตกลงการใช้งาน TPU รองรับการประมวลผล AI บน Google Cloud โดยบอกว่าเป็นกำลังประมวลผลรวมระดับหลายกิกะวัตต์ และเป็น TPU รุ่นใหม่ที่คาดว่าจะใช้งานได้ในปี 2027 รองรับการพัฒนาโมเดล Claude รุ่นใหม่ ตลอดจนรองรับการใช้งานจากลูกค้าทั่วโลก

อย่างไรก็ตามในข้อตกลงนี้มี Broadcom เป็นผู้ผลิต TPU ให้กับ Google Cloud ซึ่งฝั่ง Broadcom ก็บอกว่ากำลังประมวลผลส่วนบริษัทผลิตชิปให้นั้นอยู่ที่ประมาณ 3.5 กิกะวัตต์

By arjin Writer on Tag: NVIDIA, Google, TPU, GPU
NVIDIA

ข่าวที่ยังไม่ยืนยันเป็นทางการ แต่สร้างผลกระทบพอสมควรเมื่อวานคือการที่ Meta เจรจาซื้อชิป TPU จากกูเกิล เพราะอาจส่งผลกระทบกับ NVIDIA ที่มี Meta เป็นหนึ่งในลูกค้ารายสำคัญ

โดย NVIDIA โพสต์ข้อความใน X ว่าเรายินดีกับความสำเร็จของกูเกิล ที่สร้างความก้าวหน้าด้าน AI และบริษัทก็ยังเป็นผู้จัดหาเทคโนโลยีให้กูเกิลอยู่ นอกจากนี้ยังย้ำว่าเทคโนโลยีของ NVIDIA นำหน้ากว่าในอุตสาหกรรมไปหนึ่งรุ่น เป็นแพลตฟอร์มเดียวที่สามารถรันได้ทุกโมเดล AI ในทุกที่ มีประสิทธิภาพ ความยืดหยุ่นที่มากกว่าชิปแบบ ASIC (หมายถึง TPU) ที่ออกแบบมาทำงานกับเฟรมเวิร์ก AI หรือการทำงานเฉพาะอย่าง

By arjin Writer on Tag: Meta, Rumors, Google, Google Cloud, TPU, Artificial Intelligence
Meta

The Information รายงานจากแหล่งข่าวที่เกี่ยวข้องว่า Meta กำลังเจรจาเพื่อใช้งานชิป TPU ของกูเกิล สำหรับงานประมวลผล AI โดยตามแผนจะนำมาติดตั้งในศูนย์ข้อมูลของ Meta เองภายในปี 2027 ส่วนปีหน้า 2026 อาจเริ่มด้วยการเช่าใช้งานคลาวด์ของกูเกิลโดยตรงก่อน มูลค่าของข้อตกลงนี้อยู่ที่ระดับหลายพันล้านดอลลาร์

ที่ผ่านมาแนวทางของกูเกิลสำหรับ AI คือการพัฒนาชิป TPU แล้วใช้กับศูนย์ข้อมูลของตนเอง ซึ่งไม่ได้ขายชิปนี้ให้กับลูกค้า แต่เปิดให้เช่าใช้งานผ่านคลาวด์ของกูเกิล หากข้อตกลงนี้เกิดขึ้นจริงก็อาจเป็นก้าวสำคัญที่กูเกิลจะเริ่มขายฮาร์ดแวร์

By mk Founder on Tag: Google Cloud, TPU, Google, Cloud Computing
Google Cloud

กูเกิลประกาศเปิดให้บริการเช่าใช้งาน TPU รุ่นที่ 7 โค้ดเนม Ironwood อย่างเป็นทางการ หลังจากเปิดตัวครั้งแรกในเดือนเมษายน 2025 หลังจากนี้จะเข้าสถานะ GA (generally available) ในอีกไม่กี่สัปดาห์ข้างหน้า

By mk Founder on Tag: Google, Research, TPU, Satellite
Google

ทีมวิจัย Google Research เสนอแนวทางแก้ปัญหา "AI ใช้ไฟฟ้าเยอะ" แบบเหนือเมฆ ด้วยการส่งชิป TPU ขึ้นไปบนอวกาศ แล้วใช้พลังงานแสงอาทิตย์แทนซะเลยสิ

โครงการนี้ชื่อว่า Project Suncatcher เป็นหนึ่งในโครงการคิดไกล (moonshot) สไตล์กูเกิล ไอเดียของมันคือยิงดาวเทียมขนาดเล็กที่ใช้พลังงานแสงอาทิตย์ขึ้นไปหลายๆ ดวง แต่ละดวงมีชิป TPU รับหน้าที่ประมวลผล แล้วส่งข้อมูลหากันผ่านแสง optical link

การใช้พลังงานแสงอาทิตย์ในระดับวงโคจร อาจได้พลังงานมากกว่าบนโลกถึง 8 เท่า แถมผลิตพลังงานได้ตลอดเวลา ไม่ต้องมีกลางวัน-กลางคืนเหมือนบนโลก ไม่ต้องใช้แบตเตอรี่

By mk Founder on Tag: Anthropic, Google Cloud, TPU, Cloud Computing, Google
Anthropic

Anthropic ประกาศดีลกับ Google Cloud เช่าโครงสร้างพื้นฐานคลาวด์เพิ่มอีก คิดเป็นมูลค่า "หลายหมื่นล้านดอลลาร์" (tens of billions of dollars) คิดเป็นการใช้พลังงานรวมเกิน 1 กิกะวัตต์ และในจำนวนนี้มีโควต้าการใช้งาน TPU ของกูเกิลสูงสุด 1 ล้านตัวด้วย

ที่ผ่านมา Anthropic ใช้ยุทธศาสตร์ชิปหลายรูปแบบ เช่น จีพียูจาก NVIDIA, TPU จากกูเกิล และชิป Trainium ของ AWS (ทั้ง กูเกิล และ Amazon เข้ามาลงทุนใน Anthropic ตั้งแต่ช่วงแรก)

By arjin Writer on Tag: OpenAI, TPU, Artificial Intelligence, Google, Google Cloud
OpenAI

โฆษกของ OpenAI ออกมาปฏิเสธข่าวที่ออกมาก่อนหน้านี้ว่าบริษัทเตรียมเช่าใช้งานชิป TPU ของกูเกิล เพื่อรองรับความต้องการกำลังประมวลผลที่มีมากขึ้น โดยบอกว่า OpenAI มีการทดสอบใช้ TPU ในระดับห้องปฏิบัติการจริง แต่บริษัทยังไม่มีแผนสเกลการใช้งานที่มากกว่านี้ ซึ่งการทดสอบด้วยชิปประเภทต่าง ๆ เป็นเรื่องปกติอยู่แล้ว

ปัจจุบันชิปที่ OpenAI ใช้สำหรับการประมวลผลหลักมาจาก NVIDIA และ AMD ขณะเดียวกันบริษัทก็กำลังพัฒนาชิปเพื่อใช้งานเอง ซึ่งตอนนี้อยู่ในขั้นตอนการผลิตที่โรงงาน

By mk Founder on Tag: TPU, OpenAI, Google Cloud, Google, Artificial Intelligence
TPU

ข่าวสำคัญของวงการ AI วันนี้คงหนีไม่พ้น The Information รายงานข่าววงในว่า OpenAI ยอมมาเช่าใช้งาน TPU ของคู่แข่ง Google Cloud เพื่อรัน ChatGPT และบริการอื่นๆ ในเครือ เพิ่มเติมจากการใช้ชิปของ NVIDIA เดิม

Reuters รายงานข่าวของตัวเองว่า OpenAI เตรียมเป็นลูกค้า Google Cloud เพื่อรองรับปริมาณการใช้งานที่เพิ่มขึ้น แม้ทั้งสองบริษัทเป็นคู่แข่งในตลาด AI กันอย่างเข้มข้น

By lew Founder on Tag: Google Cloud, TPU, Google
Google Cloud

ที่งาน Google Cloud Next 2025 กูเกิลเปิดตัวชิป TPU Ironwood ชิปปัญญาประดิษฐ์ของกูเกิลเองรุ่นถัดจาก TPU v5p โดยชูประเด็นการเชื่อมต่อระหว่างชิป Inter-Chip Interconnect (ICI) ที่เปิดทางให้สร้างคลัสเตอร์ขนาดใหญ่ระดับเกือบหมื่นชิป

ตัวชิป TPU Ironwood เองมีพลังประมวลผล 4,614 TeraFLOPS แรงกว่า TPU v5p เกินสิบเท่าตัว (ชาร์ตข้าม Trillium ที่ดีกว่า v5e อยู่ 4.7 เท่าตัว) แต่ละชิปมาพร้อมแรม HBM ขนาด 192GB แบนวิดท์ 7.4TB/s ประสิทธิภาพต่อพลังงานดีขึ้นกว่า TPU Trillium สองเท่าตัว

By mk Founder on Tag: Google Cloud, Cloud Computing, TPU, Artificial Intelligence
Google Cloud

Google Cloud โชว์บริการ Hypercompute Cluster การให้เช่า VM ขนาดใหญ่กำลังสูงๆ สำหรับประมวลผล AI เพื่อมาต่อเป็นคลัสเตอร์ขนาดใหญ่ เสมือนเป็นการเช่า "ซูเปอร์คอมพิวเตอร์" ที่รันอยู่บนคลาวด์ของกูเกิลอีกที

By mk Founder on Tag: DeepMind, Semiconductor, TPU, Processor, Google
DeepMind

DeepMind เผยแพร่งานวิจัยของ AlphaChip โมเดลปัญญาประดิษฐ์ช่วยออกแบบวงจรในชิป ซึ่งใช้งานจริงมาเงียบๆ สักระยะหนึ่งแล้วกับชิป TPU สามรุ่นหลังสุด, ซีพียู Google Axion รวมถึงชิปของบริษัทอื่นอย่าง MediaTek Dimensity 5G ด้วย

By arjin Writer on Tag: Apple Intelligence, Apple, TPU, Google, Artificial Intelligence
Apple Intelligence

แอปเปิลเผยแพร่เอกสาร รายละเอียดของโมเดลปัญญาประดิษฐ์ที่พัฒนาขึ้นซึ่งเรียกว่า Apple Intelligence Foundation Language Models (AFM) โดยมีประเด็นน่าสนใจคือเทคโนโลยีที่แอปเปิลเลือกใช้ในการเทรนโมเดล AI เพราะแอปเปิลไม่ได้ใช้จีพียูของ NVIDIA

By arjin Writer on Tag: Google, Semiconductor, TPU
Google

กูเกิลเปิดตัวชิป TPU รุ่นที่ 6 เรียกชื่อว่า Trillium ซึ่งมีการปรับปรุงทั้งประสิทธิภาพการทำงาน และอัตราการสิ้นเปลืองพลังงาน โดย Trillium สามารถประมวลผลได้มากถึง 4.7 เท่า ที่ระดับพีคเมื่อเทียบกับ TPU v5e รุ่นก่อนหน้านี้ มีอัตราการใช้พลังงานที่ดีกว่า 67%

Trillium ได้เพิ่มขนาด HBM สองเท่า เพิ่ม ICI ที่เชื่อมต่อหากันระหว่าง TPU เพิ่มสองเท่า และใช้ตัวเร่งการประมวลผล SparseCore รุ่นที่ 3 จึงมีค่าความหน่วงที่ลดลง รองรับการประมวลผลโมเดลรุ่นใหม่ได้มากกว่า เร็วกว่า ด้วยต้นทุนที่น้อยลง

By arjin Writer on Tag: Google, Google Cloud, CPU, Artificial Intelligence, TPU
Google

กูเกิลเปิดเผยว่าบริษัทได้พัฒนาชิปประมวลผลใหม่ เรียกชื่อว่า Axion เพื่อรองรับงานด้าน AI เป็นหลัก ซึ่งกูเกิลมีแผนการพัฒนาซีพียูส่วนนี้มาหลายปีแล้ว แต่มาเร่งมากขึ้นหลัง ChatGPT เปิดตัวช่วงปลายปี 2022

By lew Founder on Tag: Google, Semiconductor, TPU
Google

กูเกิลเปิดตัวชิป TPU v5p รุ่นใหม่ล่าสุดที่เตรียมจะใช้เร่งความเร็วในการพัฒนา Generative AI โดยเฉพาะ

พลังประมวลผลต่อชิปของ TPU v5p นั้นสูงกว่ารุ่นก่อนหน้ามาก แต่จุดเด่นเป็นพิเศษคือ จำนวนชิปต่อตู้ (pod) นั้นสูงถึง 8,960 ชิป มากกว่าสองเท่าตัวของ TPU v4 และแรมต่อชิปนั้นสูงถึง 95GB เทียบกับ TPU v4 ที่เคยรับแรม 32GB แนวทางนี้ NVIDIA ก็เคยออกการ์ดรุ่นพิเศษเพื่องานกลุ่ม LLM ที่ต้องการแรมปริมาณสูงมาก

By mk Founder on Tag: Google Cloud, TPU, GPU, Artificial Intelligence, Google, Cloud Computing
Google Cloud

Google Cloud เปิดตัวชิปประมวลผลปัญญาประดิษฐ์ Cloud TPU v5e เวอร์ชันใหม่ที่อัพเกรดจาก TPU v4 ซึ่งเริ่มใช้มาตั้งแต่ปี 2020

ตอนนี้ยังมีรายละเอียดของ TPU v5e ออกมาไม่มากนัก แต่มันเป็น TPU เวอร์ชันคัสตอม (ตัวท้าย e) ที่เน้นประสิทธิผลเรื่องต้นทุน (cost-efficiency) กว่า TPU รุ่นปกติ จากตัวเลขของกูเกิลระบุว่ามีประสิทธิภาพต่อดอลลาร์ในการเทรนโมเดล LLM ดีกว่า TPU v4 สูงสุดราว 2 เท่า และประสิทธิภาพต่อดอลลาร์ในการรันโมเดลดีกว่าสูงสุด 2.5 เท่า

TPU

กูเกิลเผยรายละเอียดของซูเปอร์คอมพิวเตอร์ที่ใช้ชิปออกแบบเอง Tensor Processing Unit (TPU) v4 ซึ่งเริ่มใช้ในโปรดักชันมาตั้งแต่ปี 2020 (แต่เพิ่งเผยรายละเอียดปี 2023) ว่าสามารถยกระดับประสิทธิภาพ machine learning ได้เกือบ 10 เท่าจากเครื่อง TPU v3 และสามารถเอาชนะเครื่องที่ใช้จีพียู NVIDIA A100 ได้ด้วย

TPU v4 เปิดตัวต่อสาธารณะเมื่อปี 2021 และทำผลงานเบนช์มาร์คด้าน AI ได้ดี เรื่องใหม่ที่กูเกิลเปิดเผยเพิ่มเติมในรอบนี้คือเครื่อง TPU v4 มีฟีเจอร์สำคัญ 2 ประการ

By mk Founder on Tag: SiFive, RISC-V, TPU, CPU, Google, Artificial Intelligence, Machine Learning
SiFive

SiFive บริษัทผู้ผลิตซีพียู RISC-V ชื่อดัง เปิดเผยว่าซีพียูของตัวเองรุ่น SiFive Intelligence X280 ถูกนำไปใช้ในศูนย์ข้อมูลของกูเกิล เพื่อช่วยเร่งการประมวลผล AI/ML แล้ว

สิ่งที่กูเกิลทำคือนำ X280 ไปรันคู่กับหน่วยประมวลผล Tensor Processing Unit (TPU) ของตัวเอง เพื่อแบ่งเบาภาระงานบางอย่างออกจากหน่วยประมวลผลหลัก

Subscribe to TPU