Cerebras

Cerebras Systems บริษัทผู้พัฒนาชิปประมวลผล AI ที่ก่อตั้งโดยอดีตพนักงาน AMD เปิดตัวชิปรุ่นใหม่ WSE-3 ที่มีจำนวนทรานซิสเตอร์มากถึง 4 ล้านล้านตัว, มีคอร์ประมวลผล AI จำนวน 9 แสนคอร์, แรม SRAM บนชิปขนาดใหญ่ 44GB, สมรรถนะประมวลผล AI 125 petaflops

ชิป Cerebras WSE-3 สามารถนำไปต่อกับหน่วยความจำภายนอกได้สูงสุด 1.3PB รองรับการเทรนโมเดลในอนาคตที่มีขนาดใหญ่กว่า GPT-4 หรือ Gemini ได้ 10 เท่า (โมเดลขนาด 24 ล้านล้านพารามิเตอร์ เก็บในหน่วยความจำผืนเดียวโดยไม่ต้องแบ่งส่วน)

คู่แข่งของ WSE-3 ย่อมเป็นชิป NVIDIA H100 ซึ่งเป็นชิปยอดนิยมของตลาด AI ณ เวลานี้ แนวทางของ Cerebras คือการสร้างชิปขนาดใหญ่กว่าจีพียูมากๆ แล้วใช้ชิปตัวเดียว แทนการนำจีพียูจำนวนมากๆ มาต่อกัน (พื้นที่ของชิป WSE-3 ใหญ่กว่า H100 ถึง 57 เท่า, คอร์เยอะกว่า 52 เท่า)

ชิป WSE-3 จะถูกนำไปใช้ในซูเปอร์คอมพิวเตอร์ Cerebras CS-3 ที่ต่อเชื่อมเป็นคลัสเตอร์ได้สูงสุด 2048 ตัว สามารถเทรนโมเดล Llama 70B เสร็จได้ภายในวันเดียว ตัวเครื่อง CS-3 ยังประหยัดพลังงาน โดยมีประสิทธิภาพเพิ่ม 2 เท่า เมื่อยังใช้พลังงานเท่ากับเครื่องรุ่นก่อน

ที่มา - Cerebras

Hiring! บริษัทที่น่าสนใจ

Carmen Software company cover
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd. company cover
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group company cover
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies company cover
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand company cover
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software company cover
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE company cover
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud company cover
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise company cover
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank company cover
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank company cover
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.) company cover
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd. company cover
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group company cover
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited company cover
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB company cover
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd. company cover
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH company cover
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks company cover
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd. company cover
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech company cover
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd company cover
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai company cover
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand

ตั้งแต่ยุคที่มี sli จนมา crossfire
ผมก็คิดนะว่าทำไมไม่ทำเป็นรุ่นที่รวมกันมาเลย
จนมายุค ai ที่ใช้ gpu เป็นแสน ต่อให้ workstation ai ขนาดเล็กยังใช้อย่างน้อยๆ ก็8 ตัวขึ้นไป ทำไมไม่ทำ ขนาดเวเฟ่อที่ใหญ่ขึ้นไปเลยเพราะยังไงตลาดใหญ่ของกลุ่มนี้ ไม่ใช่คนซื้อตัวสองตัวอยู่แล้วอ่ะนะ ส่วนตลาดรายย่อยก็ดันให้ไปซื้อ RTX แทนไป

แต่คิดๆ ดูอีกแง่ ยิ่งแผ่นใหญ่แบบนี้ yield จะเป็นยังไงนะ… ถ้า mass ได้จริงและราคาสมเหตสมผลคุ้มค่ากว่าซื้อของคู่แข่ง ก็น่าจะทำให้ตลาดบันเทิงได้เลยทีเดียว

ปกติwafer แผ่นนึงมันไม่ได้ใช้ได้ทั้งแผ่นมันหั่นออกเป็นชิ้นเล็กๆมันก็ได้ มีทั้งส่วนที่ดีและไม่ดี เทสไม่ผ่านก็เป็นของเสีย

ถ้าทำchip ใหญ่ๆถ้าเทสไม่ผ่านก็คือทิ้งทั้งแผ่นเลย เปลืองต้นทุนกว่าแน่ๆ

ถ้าออกแบบดีๆ ปิดเฉพาะส่วนที่เสียก็ได้ครับ
รุ่นที่ไม่เสียก็ขายราคาเต็ม
รุ่นที่คอร์ไม่เต็มก็ขายราคาถูกลงมา
เหมือนที่ CPU บางเจ้าเปิดปิดคอร์ได้

ปกติ CPU ทำแบบนั้นไงครับ พวกปิดcore เสีย ก็ขายรุ่นเล็กลง

แต่ถ้าแบบในข่าวนี้คือจำนวน core เยอะมากๆ ไม่งั้นคือต้องผลิตแบบเผื่อ core เสียเยอะๆจะได้yieldแบบลงpackageได้พอดีๆ มองยังไงก็ต้นทุนสูงกว่านะครับ

ทำแค่ไม่กี่ SKU ก็พอครับ ผู้ผลิตจะรู้ดีอยู่แล้วว่าหลังจากเข้าไลน์ผลิตจริงเป็น Mass production ส่วนใหญ่จะเสียกี่ core ทำเป็นกลุ่ม ซอย SKU ไม่เยอะให้ขายได้แบบไม่ต้องทิ้งทั้งแผ่น

ไม่น่าจะเวิคมั้ง มันคำนวนไม่เหมือนกัน แต่ทำให้ผมคิดว่า ถ้า intel amd nvidia บ้าจี้ตาม ต่อไปเราอาจจะมี deskTop ตามบ้านเครื่องเท่าตู้เย็นก็ได้นะแบบนี้ 😅 แต่ได้ความแรงแบบก้าวกระโดด พร้อมราคาก้าวกระโดด😂

ถ้าเอามาใช้งานในฐานะ Co-processor ล่ะก็ ได้

Ubisoft AI จำลองฟิสิกส์ แม้จะไม่ได้แม่นยำมากแต่มันเร็วมาก
NVIDIA AI จำลองมวลของเหลว
Intel AI ทำให้สีของภาพสมจริงยิ่งขึ้น

บน Windows 11 เห็นแว้บ ๆ ว่าเอา NPU มา Upscale ภาพได้ด้วย

แต่ถ้าถามว่าเอามารัน "ทั้งเกม" โดยใช้เป็นชิป General Purpose ได้ไหม มันเป็นไปไม่ได้ตั้งแต่ GPU หรือ Math-coprocessor แล้ว ขนาด SPU ของ CELL เองยังทำงานด้วยตัวเองไม่ได้ ต้องให้ PPU ควบคุม และ DMA เข้าออกอีกที อนึ่งชิปพวกนี้ก็เอาชิป General Purpose มาตัดส่วนที่ไม่จำเป็นออกไปอยู่แล้ว ต่อให้มันทำงานแบบ CPU ได้ก็ไปตันกับคำสั่งที่มันไม่รู้ แล้วจำลอง Instruction เยอะ ๆ จนมันช้าลงไปอยู่ดี หรือบางทีก็เป็นไปไม่ได้เลย

บ้านอยู่ใกช้แหลมฉบัง เห็นชิปมาหลายขนาดแล้ว
ถ้าเอาไปแล่นในอ่าว ชิปนี้เล็กที่สุดเท่าที่เคยเห็นมาเลย ^_^