Tags:
Topics: 
Node Thumbnail

Sam Altman ซีอีโอของ OpenAI พูดคุยกับ Raza Habib ซีอีโอบริษัท Humanloop ถึงแผนการเปิดตัวบริการหรือฟีเจอร์ของบริการใหม่ๆ โดยระบุว่าฟีเจอร์หลายตัวล่าช้าออกไปเพราะปัญหา GPU ไม่เพียงพอที่จะให้บริการ เช่นฟีเจอร์อ่านภาพได้โดยตรงใน GPT-4 (multimodal) ต้องเลื่อนออกไปถึงปี 2024

แผนการเพิ่มฟีเจอร์ GPT-4 ในปีนี้ ได้แก่

  • การเร่งความเร็ว GPT-4 และปรับราคาให้ถูกลง
  • ขยายขนาด context ให้ใหญ่ขึ้น โดย Altman ระบุว่าน่าจะทำได้ถึงขนาด 100,000-1,000,000 token แต่หากใหญ่กว่านั้นต้องมีงานวิจัยที่ล้ำหน้าไปอีกขั้น
  • เปิดให้ finetune โมเดล จากเดิมที่ GPT-3 เคยเปิดให้ลูกค้านำข้อมูลมา finetune ได้แต่ใน GPT-4 ยังไม่เปิด
  • รองรับความจำ จากตอนนี้ที่ไคลเอนต์ต้องส่งประวัติการแชตกลับไปยัง OpenAI ทุกรอบ หลังจากนี้จะเปิดให้ OpenAI เป็นคนจำว่าเคยคุยอะไรเอาไว้ก่อนหน้า

ปัญหาชิปไม่เพียงพอ ทำให้ตอนนี้ OpenAI ต้องจำกัดลูกค้าที่ใช้งาน GPT-4 แบบ 32k context ไว้ก่อน และลูกค้าที่ขอซื้อคลัสเตอร์ส่วนตัวก็ถูกจำกัดไปด้วยเช่นกัน

ที่มา - Humanloop

Get latest news from Blognone

Comments

By: darkleonic
ContributorAndroidWindowsIn Love
on 1 June 2023 - 13:21 #1285971
darkleonic's picture

พวก GPU สำหรับงานพวกนี้ถ้าตกรุ่นแล้วมันจะไปไหนต่อครับ เพราะเห็นว่าไม่มีพอร์ทอะไรเลย แบบนี้คงมาขายในตลาดเกมหรือ workstation ไม่ได้แหง


I need healing.

By: mrKaqz
ContributorAndroidBlackberry
on 1 June 2023 - 14:02 #1285973 Reply to:1285971

เอาไป ขุด bitcoin ได้มั้ยครับ

By: nessuchan
iPhoneAndroidWindows
on 1 June 2023 - 14:33 #1285978 Reply to:1285971
nessuchan's picture

นั่นสิ สงสัยต้องเอาไปรีไซเคิล

By: IDCET
Contributor
on 1 June 2023 - 15:21 #1285981 Reply to:1285971

ถ้าโชคดี คงมีคนซื้อเหมาแล้วชำแหละเอา GPU และ Chip มาทำการ์ดจอราคาถูกมาขาย เหมือนการ์ด GTX10850Ti ปลอมที่ขายตาม Aliexpress หละมั้ง ถ้าดีหน่อยก็ขายตามสเป็คในราคามือสองก็อาจจะเป็นไปได้ ในไต้หวันกับจีนก็มีขายของยำรวมแบบนี้อยู่เรื่อยๆ แต่ไม่ค่อยเป็นที่รู้จักสักเท่าไหร่ และตลาดค่อนข้างเล็กด้วย


ความล้มเหลว คือจุดเริ่มต้นสู่ความหายนะ มีผลกระทบมากกว่าแค่เสียเงิน เวลา อนาคต และทรัพยากรที่เสียไป - จงอย่าล้มเหลว

By: sapjunior
AndroidUbuntuWindows
on 1 June 2023 - 17:20 #1285987 Reply to:1285971

จริงๆในตลาด Cloud มันก็ยังอยู่ให้คนเช่านะครับ อย่าง Tesla K80 ออกมาตั้งแต่ปี2014 ยีงมีให้เช่าใน GCP AWS Azure อยู่เลย.. ถ้าเป็นการ์ดตระกูล Tesla backward compatilibty ค่อนข้างนานมากครับเทียบกับ GeForce

Ps. ใครใช้ colab gpu free เจอ k80 เยอะมาก

By: Kazu
iPhoneWindows PhoneAndroidUbuntu
on 1 June 2023 - 17:59 #1285991 Reply to:1285971

ไม่น่าต่างจากตลาดตลาวป่่าว ใช้จนหมดอายุขัย

By: Fourpoint
Windows PhoneAndroidSymbian
on 1 June 2023 - 19:11 #1285996 Reply to:1285971

เหมือนการ์ดGPUขุดเหมืองรุ่นพิเศษบางรุ่นที่ไม่มีport video มั๊ง(Nvidia P106-100)

ตอนเหมืองแตกรอบก่อนเห็นคนขายนักเล่นเกมงบน้อยเอามาใช้เสริมกับการ์ดหลักได้ อย่างwin10มันแยกได้ว่าให้การ์ดใบไหนประมวลผลกับแอพไหน แต่displayภาพออกoutputการ์ดหลักได้ (ในทางกลับกันใช้ iGPU ประมวลผลเล่นเวบได้แต่เราต่อdisplayจากการ์ดจอแยกแทนได้)

By: whitebigbird
Contributor
on 1 June 2023 - 14:06 #1285974
whitebigbird's picture

ฝากบอก Sam Altman ผมขาย R9 280 ต่อถูกๆ แต่ยังไม่ได้เช็คนะ