on
Sam Altman ซีอีโอของ OpenAI พูดคุยกับ Raza Habib ซีอีโอบริษัท Humanloop ถึงแผนการเปิดตัวบริการหรือฟีเจอร์ของบริการใหม่ๆ โดยระบุว่าฟีเจอร์หลายตัวล่าช้าออกไปเพราะปัญหา GPU ไม่เพียงพอที่จะให้บริการ เช่นฟีเจอร์อ่านภาพได้โดยตรงใน GPT-4 (multimodal) ต้องเลื่อนออกไปถึงปี 2024
แผนการเพิ่มฟีเจอร์ GPT-4 ในปีนี้ ได้แก่
- การเร่งความเร็ว GPT-4 และปรับราคาให้ถูกลง
- ขยายขนาด context ให้ใหญ่ขึ้น โดย Altman ระบุว่าน่าจะทำได้ถึงขนาด 100,000-1,000,000 token แต่หากใหญ่กว่านั้นต้องมีงานวิจัยที่ล้ำหน้าไปอีกขั้น
- เปิดให้ finetune โมเดล จากเดิมที่ GPT-3 เคยเปิดให้ลูกค้านำข้อมูลมา finetune ได้แต่ใน GPT-4 ยังไม่เปิด
- รองรับความจำ จากตอนนี้ที่ไคลเอนต์ต้องส่งประวัติการแชตกลับไปยัง OpenAI ทุกรอบ หลังจากนี้จะเปิดให้ OpenAI เป็นคนจำว่าเคยคุยอะไรเอาไว้ก่อนหน้า
ปัญหาชิปไม่เพียงพอ ทำให้ตอนนี้ OpenAI ต้องจำกัดลูกค้าที่ใช้งาน GPT-4 แบบ 32k context ไว้ก่อน และลูกค้าที่ขอซื้อคลัสเตอร์ส่วนตัวก็ถูกจำกัดไปด้วยเช่นกัน
ที่มา - Humanloop
พวก GPU
darkleonic Thu, 01/06/2023 - 13:21
พวก GPU สำหรับงานพวกนี้ถ้าตกรุ่นแล้วมันจะไปไหนต่อครับ เพราะเห็นว่าไม่มีพอร์ทอะไรเลย แบบนี้คงมาขายในตลาดเกมหรือ workstation ไม่ได้แหง
เอาไป ขุด bitcoin ได้มั้ยครับ
mrKaqz Thu, 01/06/2023 - 14:02
In reply to พวก GPU by darkleonic
เอาไป ขุด bitcoin ได้มั้ยครับ
นั่นสิ สงสัยต้องเอาไปรีไซเคิล
nessuchan Thu, 01/06/2023 - 14:33
In reply to พวก GPU by darkleonic
นั่นสิ สงสัยต้องเอาไปรีไซเคิล
ถ้าโชคดี
IDCET Thu, 01/06/2023 - 15:21
In reply to พวก GPU by darkleonic
ถ้าโชคดี คงมีคนซื้อเหมาแล้วชำแหละเอา GPU และ Chip มาทำการ์ดจอราคาถูกมาขาย เหมือนการ์ด GTX10850Ti ปลอมที่ขายตาม Aliexpress หละมั้ง ถ้าดีหน่อยก็ขายตามสเป็คในราคามือสองก็อาจจะเป็นไปได้ ในไต้หวันกับจีนก็มีขายของยำรวมแบบนี้อยู่เรื่อยๆ แต่ไม่ค่อยเป็นที่รู้จักสักเท่าไหร่ และตลาดค่อนข้างเล็กด้วย
จริงๆในตลาด Cloud
sapjunior Thu, 01/06/2023 - 17:20
In reply to พวก GPU by darkleonic
จริงๆในตลาด Cloud มันก็ยังอยู่ให้คนเช่านะครับ อย่าง Tesla K80 ออกมาตั้งแต่ปี2014 ยีงมีให้เช่าใน GCP AWS Azure อยู่เลย.. ถ้าเป็นการ์ดตระกูล Tesla backward compatilibty ค่อนข้างนานมากครับเทียบกับ GeForce
Ps. ใครใช้ colab gpu free เจอ k80 เยอะมาก
ไม่น่าต่างจากตลาดตลาวป่่าว
Kazu Thu, 01/06/2023 - 17:59
In reply to พวก GPU by darkleonic
ไม่น่าต่างจากตลาดตลาวป่่าว ใช้จนหมดอายุขัย
เหมือนการ์ดเหมืองบางรุ่นที่ไม
Fourpoint Thu, 01/06/2023 - 19:11
In reply to พวก GPU by darkleonic
เหมือนการ์ดGPUขุดเหมืองรุ่นพิเศษบางรุ่นที่ไม่มีport video มั๊ง(Nvidia P106-100)
ตอนเหมืองแตกรอบก่อนเห็นคนขายนักเล่นเกมงบน้อยเอามาใช้เสริมกับการ์ดหลักได้ อย่างwin10มันแยกได้ว่าให้การ์ดใบไหนประมวลผลกับแอพไหน แต่displayภาพออกoutputการ์ดหลักได้ (ในทางกลับกันใช้ iGPU ประมวลผลเล่นเวบได้แต่เราต่อdisplayจากการ์ดจอแยกแทนได้)
ฝากบอก Sam Altman ผมขาย R9
whitebigbird Thu, 01/06/2023 - 14:06
ฝากบอก Sam Altman ผมขาย R9 280 ต่อถูกๆ แต่ยังไม่ได้เช็คนะ