Tags:
Node Thumbnail

กูเกิลประกาศขยายความสามารถปัญญาประดิษฐ์ Gemini ให้กับผู้ใช้งานที่มากขึ้น โดยลูกค้า Workspace Business, Enterprise และ Frontline จะสามารถใช้งาน Gemini ได้ทันทีตั้งแต่วันนี้เป็นต้นไป จากเดิมที่บัญชีองค์กรต้องซื้อแพ็คเกจใช้ Gemini เพิ่มต่างหาก แต่ตอนนี้กูเกิลเพิ่มให้ลูกค้าเลยโดยไม่คิดเงินเพิ่ม

ลูกค้า Workspace สามารถใช้งาน Gemini ได้โดยยังอยู่ในระบบป้องกันความปลอดภัยข้อมูลขององค์กร ตลอดจนเงื่อนไขกฎระเบียบที่องค์กรกำหนดไว้ ไม่มีการนำข้อมูลองค์กรมาใช้เทรนเพื่อปรับปรุง Gemini เพิ่มเติม

Tags:
Node Thumbnail

Sam Altman ซีอีโอและหนึ่งในผู้ร่วมก่อตั้ง OpenAI โพสต์เนื้อหาลงบล็อกส่วนตัว พูดถึงความก้าวหน้าของการพัฒนาปัญญาประดิษฐ์หรือ AI สิ่งที่เขาคาดว่าโลกจะได้เห็นในอนาคตไม่นานจากนี้ รวมถึงผลกระทบต่อผู้คนที่เกิดขึ้น

โพสต์นี้มีหัวข้อว่ายุคสมัยแห่งปัญญา (The Intelligence Age) ซึ่งต้องการนำเสนอว่า AI ไม่ใช่กระแสทางเทคโนโลยี แต่เป็นสิ่งที่เข้ามาเปลี่ยนการใช้ชีวิตผู้คนได้อย่างถาวร

ตัวอย่างประเด็นที่ Altman พูดถึงเช่น

Tags:
Node Thumbnail

Amazon เปิดตัวเครื่องมือใหม่สำหรับการสร้างโฆษณาบน Amazon Ads ที่ใช้ Generative AI พัฒนาต่อจากเครื่องมือสร้างรูปฉากหลังที่ออกมาก่อนหน้านี้ โดยคราวนี้สามารถสร้างวิดีโอสั้นเพื่อใช้ในการโฆษณา

อินพุทที่ต้องใช้คือรูปภาพสินค้าหนึ่งรูป จากนั้น AI จะสร้างวิดีโอสั้นที่ดึงจุดเด่นของสินค้าประกอบเป็นเรื่องราวในหลายรูปแบบ หลายฉากหลัง ให้เลือกเพื่อนำไปใช้งานต่อได้ นอกจากนี้ Amazon ยังเพิ่มเครื่องมือสร้างรูปภาพแบบ Live ที่ทำให้วัตถุดูมีชีวิตชีวาขึ้นอีกด้วย

Tags:
Node Thumbnail

การศึกษาของมหาวิทยาลัยแคลิฟอร์เนีย เมอร์เซด พบว่าในสถานการณ์จำลองที่ชี้เป็นชี้ตาย ราว 2 ใน 3 ของผู้เข้าร่วมยอมเชื่อ AI เมื่อเห็นไม่ตรงกัน แสดงให้เห็นถึงความไว้วางใจในปัญญาประดิษฐ์มากเกินไป แม้มีการชี้แจงชัด ๆ ว่า AI มีความสามารถจำกัดและอาจให้คำแนะนำที่ผิดพลาดได้

การศึกษานี้ทดลองโดยผู้เข้าร่วมต้องควบคุมโดรนติดอาวุธในสถานการณ์จำลอง จำภาพเป้าหมาย 8 ภาพที่มีสัญลักษณ์กำกับว่าเป็นฝ่ายเดียวกันหรือศัตรูซึ่งแสดงผลขึ้นอย่างรวดเร็ว

จากนั้นหน้าจอจะแสดงเป้าหมายหนึ่งภาพโดยไม่มีสัญลักษณ์กำกับ ผู้เข้าร่วมเลือกว่าเป้าหมายนี้เป็นมิตรหรือศัตรู จะยิงขีปนาวุธหรือถอนตัว หลังตัดสินใจแล้วหุ่นยนต์จะให้ความเห็นและมีโอกาสว่าจะเปลี่ยนใจหรือไม่

Tags:
Node Thumbnail

ก่อนหน้านี้มีข่าวว่า LoveForm บริษัทด้านการออกแบบผลิตภัณฑ์ของ Jonathan Ive อดีตหัวหน้าทีมออกแบบของ Apple กำลังร่วมมือกับ OpenAI เพื่อพัฒนาฮาร์ดแวร์ AI ซึ่งอยู่ในขั้นตอนการพัฒนาและขอรับเงินจากนักลงทุน ล่าสุด Ive ยืนยันเรื่องนี้เองแล้ว

โดย The New York Times ได้สัมภาษณ์พิเศษ Ive ที่สำนักงานของ LoveForm ในซานฟรานซิสโก ซึ่งเขาพูดถึงโครงการพัฒนาฮาร์ดแวร์ AI ร่วมกับ Sam Altman ซีอีโอ OpenAI ซึ่งผ่านการพูดคุยร่วมกับ Brian Chesky ซีอีโอ Airbnb และกลุ่มนักลงทุนอีกหลายราย เงินลงทุนนั้นอาจสูงถึง 1 พันล้านดอลลาร์ในปีนี้ รวมทั้งอาจมี Masayoshi Son ซีอีโอ SoftBank ร่วมลงทุนด้วย

Tags:
Node Thumbnail

ผู้อ่าน Blognone ทราบกันอยู่แล้วว่าปัญญาประดิษฐ์นั้นต้องการกำลังประมวลผลที่มหาศาล โดยเฉพาะการประมวลผลในศูนย์ข้อมูล ทำให้ความต้องการพลังงานไฟฟ้าก็มีจำนวนมากตามด้วย เรื่องนี้ช่วยย้ำว่าศูนย์ข้อมูลขนาดใหญ่ ยังต้องการไฟฟ้าอีกมาก มากจนต้องขอโรงไฟฟ้านิวเคลียร์อีกหนึ่งแห่งเลย

ไมโครซอฟท์ประกาศลงนามข้อตกลงซื้อไฟฟ้าเป็นระยะเวลา 20 ปี จากบริษัทผู้ผลิตไฟฟ้า Constellation ซึ่งทาง Constellation ไม่ได้สร้างโรงไฟฟ้าใหม่ขึ้นมา แต่ใช้การกลับมาเปิดโรงไฟฟ้านิวเคลียร์ TMI-Unit 1 บนเกาะทรีไมล์ ซึ่งโรงไฟฟ้านี้ได้ปิดทำการไปในปี 2019 เนื่องจากความต้องการไฟฟ้านิวเคลียร์ที่ลดลง เพราะราคาแพงกว่าโรงไฟฟ้าแหล่งพลังงานอื่น

Tags:
Node Thumbnail

NVIDIA เปิดตัว NVIDIA AI Aerial ชุดประมวลผลทั้งซอฟต์แวร์และฮาร์ดแวร์ สำหรับงานออกแบบ ทดสอบ เทรนข้อมูล และดีพลอย ปัญญาประดิษฐ์สำหรับเครือข่ายโทรศัพท์มือถือ (AI-RAN) เพื่อรองรับเครือข่ายไร้สายในยุคปัญญาประดิษฐ์

แพลตฟอร์ม NVIDIA AI Aerial พัฒนาขึ้นมาสำหรับผู้ให้บริการเครือข่ายโทรศัพท์มือถือ สามารถออกแบบโครงข่ายให้รองรับความต้องการใช้งานเครือข่ายที่หลากหลายมากขึ้น เช่น หุ่นยนต์ในงานการผลิต, งานหุ่นยนต์คอมพิวเตอร์วิทัศน์, หุ่นยนต์ในการเกษตร, งานขนส่งสินค้า, GenAI รองทั้งรองรับเครือข่าย 5G, 6G ในอนาคต

NVIDIA AI Aerial มีพาร์ตเนอร์ที่ร่วมการทดสอบและนำไปใช้งาน ซึ่งมีทั้งบริษัทด้านโทรคมนาคมรายใหญ่เช่น Nokia, Ericsson, T-Mobile, Softbank และ Fujitsu

Tags:
Node Thumbnail

YouTube จัดงาน Made by YouTube เมื่อคืนที่ผ่านมา โดยประกาศฟีเจอร์ด้าน AI ชุดใหญ่สำหรับครีเอเตอร์ดังนี้

  • Veo AI ที่เปิดตัวใน Google I/O จะถูกนำมาเสริมฟีเจอร์ Dream Screen ที่ใช้ AI สร้างพื้นหลังหรือภาพนิ่งบน YouTube Shorts
  • แท็บ Inspiration บน YouTube Studio จะได้ Gen AI มาช่วยทั้งแนะนำชื่อคลิป, ภาพ thumbnail, โครงร่างวิดีโอ ไปจนถึงไอเดียต่างๆ ในคลิป
  • Communities ฟีเจอร์ใหม่สำหรับครีเอเตอร์ที่จะเปิดพื้นที่บนแชนแนลตัวเองให้กลายเป็นเหมือนกรุ๊ปบนโซเชียลมีเดีย ให้ผู้ติดตามและครีเอเตอร์โพสต์เรื่องต่างๆ ได้
  • Communities Hub เครื่องมือจัดการ Communities โดยจะมี AI มาช่วยเช่น การสร้าง reply หรือคอมเมนท์
Tags:
Node Thumbnail

แอปเปิลให้รายละเอียดเพิ่มเติม ของแผนการรองรับฟีเจอร์ปัญญาประดิษฐ์ Apple Intelligence เพิ่มเติมในภาษาอื่น ซึ่งแอปเปิลให้ข้อมูลก่อนหน้านี้คือ ภาษาอังกฤษแบบอเมริกัน จะได้ใช้งานช่วงเดือนตุลาคมใน iOS 18.1, iPadOS 18.1 และ macOS Sequoia 15.1 ส่วนภาษาอังกฤษแบบออสเตรเลีย, แคนาดา, นิวซีแลนด์, แอฟริกาใต้ และสหราชอาณาจักร ได้ใช้งานในเดือนธันวาคม

Tags:
Node Thumbnail

Google ประกาศว่าเตรียมแปะป้ายกำกับ AI ในผลการค้นหา กับรูปที่ถูกสร้างหรือถูกปรับแต่งด้วย AI กับภาพที่มี metadata ฝังตามมาตรฐานกลางของ C2PA

การแสดงผลนี้จะอยู่ในส่วน About this Image ทั้งบน Search, Google Lense และ Circle to Search ไปจนถึงโฆษณาด้วย

Google บอกด้วยว่ากำลังหาทางนำมาตรฐาน C2PA ไปใช้กับ YouTube อยู่ และจะมีอัพเดตเพิ่มเติมให้ภายในปีนี้

ที่มา - Google

Tags:
Node Thumbnail

Slack ประกาศเพิ่มความสามารถ Agent เป็นตัวดำเนินการที่ทำงานบน AI ซึ่งเชื่อมต่อกับแอพพลิเคชันต่าง ๆ ทั้งของ Salesforce และแอปภายนอก โดยมีทั้ง Agentforce แชทบอต AI ของ Salesforce, รองรับการดีพลอยแชทบอตจากภายนอกเช่น Adobe Express, Anthropic, Cohere หรือ Perplexity และช่องทางเชื่อมต่อกับ Salesforce CRM เพื่อซิงก์ข้อมูลหากันในทีม

นอกจากนี้ Slack ยังเพิ่มความสามารถ AI ให้กับฟีเจอร์เดิม ได้แก่ Huddle notes, ระบบ Automation, ระบบค้นหาใน Workspace นอกจากนี้ยังมีเทมเพลตเพิ่มเติมสำหรับเพิ่ม Task ต่าง ๆ ได้ง่ายและรวดเร็วขึ้น

Tags:
Node Thumbnail

OpenAI ประกาศเปลี่ยนแปลงในฝ่ายของคณะกรรมการด้านความปลอดภัยหรือ Safety and Security Committee ที่ตั้งขึ้นมาเมื่อเดือนพฤษภาคม เพื่อดูแลตรวจสอบให้คำแนะนำเกี่ยวกับความปลอดภัย ของโครงการต่าง ๆ ใน OpenAI โดยเปลี่ยนสถานะให้เป็นคณะกรรมการอิสระ ที่คอยประเมินและให้ความเห็นกับบอร์ดของ OpenAI อีกครั้ง

คณะกรรมการอิสระด้านความปลอดภัยนี้มี Zico Kolter ผู้อำนวยการฝ่าย Machine Learning ที่ Carnegie Mellon University เป็นประธานกรรมการ และมีกรรมการได้แก่ Adam D’Angelo ผู้ก่อตั้ง Quora และซีอีโอ, Paul Nakasone อดีตนายพลกองทัพสหรัฐ และอดีตหัวหน้า NSA, Nicole Seligman อดีตรองประธานฝ่ายบริหารที่ Sony

Tags:
Node Thumbnail

Meta ประกาศเตรียมนำข้อมูลโพสสาธารณะของผู้ใช้ในสหราชอาณาจักรบนแพลตฟอร์มมาฝึกปัญญาประดิษฐ์ หลังจากได้พูดคุยกับสำนักงานกรรมการข้อมูลส่วนบุคคล (Information Commissioner’s Office - ICO) แล้ว ICO มองว่าการใช้งานรูปแบบนี้เป็นการใช้งานตามกฎหมาย (legitimate interests)

ผู้ใช้ในสหราชอาณาจักรจะเริ่มได้รับแจ้งเตือนว่าทาง Meta จะนำข้อมูลไปใช้ เริ่มต้นตั้งแต่สัปดาห์หน้าพร้อมกับลิงก์ไปยังฟอร์มเพื่อขอปฎิเสธไม่ให้ใช้ข้อมูล โพสจากผู้ใช้อายุต่ำกว่า 18 ปีจะไม่ถูกนำมาใช้งานเสมอ

Tags:
Node Thumbnail

หลังจาก OpenAI เปิดตัว o1 โมเดลปัญญาประดิษฐ์ที่มีความสามารถคิดอย่างเป็นเหตุเป็นผลตามลำดับขั้น ซึ่งเหมาะสำหรับใช้ตอบคำถามวิทยาศาสตร์-คณิตศาสตร์ OpenAI ก็เผยแพร่ System Card เพื่อรายงานผลการประเมินความเสี่ยงของโมเดลปัญญาประดิษฐ์นี้ด้วย

ผลการประเมินภาพรวมความเสี่ยงของโมเดล o1 อยู่ที่ระดับปานกลาง (Medium) จาก 4 ระดับ Low-Medium-High-Critical ซึ่งสูงที่สุดในทุกโมเดลที่ OpenAI เคยเผยแพร่ออกมา หัวข้อที่ o1 ถูกจัดระดับความเสี่ยงปานกลางได้แก่ การโน้มน้าวความคิด (Persuasion) และ CBRN (สามารถสร้างสูตรเคมี, ชีววิทยา, รังสีวิทยา และนิวเคลียร์)

Tags:
Node Thumbnail

Meta อัปเดตแนวทางแสดงป้ายกำกับคอนเทนต์ที่สร้างจาก AI บน Facebook และ Instagram อีกครั้ง โดยป้ายกำกับ "AI info" จะถูกแสดงเฉพาะคอนเทนต์ที่สร้างขึ้นจาก AI หรือมีข้อมูลกำกับตามมาตรฐานที่ตรวจจับได้ หรือผู้ใช้งานระบุเองว่าสร้างจาก AI กรณีคอนเทนต์นั้นถูกแก้ไขหรือปรับแต่งด้วยเครื่องมือ AI ป้ายกำกับ AI info จะย้ายไปอยู่ในเมนูของโพสต์นั้น ซึ่งต้องกดไปดูเพิ่มเติม

Tags:
Node Thumbnail

Salesforce เปิดตัว Agentforce ชุดเครื่องมือสร้างเอเจนต์ปัญญาประดิษฐ์ ที่สามารถทำตัวเป็นพนักงานเสมือน ช่วยเหลือในการทำงานบางประเภทได้ ทั้งงานวิเคราะห์ข้อมูล ตัดสินใจ ตอบคำถามลูกค้า ประเมินหรือให้คำแนะนำฝ่ายขาย ปรับปรุงแคมเปญการตลาด ฯลฯ ซึ่งองค์กรสามารถสร้าง ปรับแต่ง และดีพลอยเอเจนต์ได้ตามลักษณะงานที่ต้องการ

Salesforce ให้ข้อมูลการสำรวจจากองค์กร พบว่าเวลาของพนักงาน 41% เป็นงานที่มีความซ้ำและสร้างผลกระทบน้อย ซึ่งพนักงานกลุ่มนี้ 65% ก็เชื่อว่า Generative AI สามารถช่วยลดเวลางานที่ทำซ้ำของพวกเขาได้ เพื่อให้โฟกัสกับงานเชิงกลยุทธ์ได้มากขึ้น

Tags:
Node Thumbnail

กูเกิลเริ่มทยอยปล่อย Gemini Live บริการแชทบอทโต้ตอบด้วยเสียงแบบเรียลไทม์ ให้กับผู้ใช้ Android ทั่วไป หลังปล่อยให้ผู้สมัครแพ็กเกจเสียเงิน Gemini Advanced ตั้งแต่เดือนที่แล้ว

ประกาศของกูเกิลระบุแค่ว่ายังรองรับเฉพาะภาษาอังกฤษ และต้องใช้ผ่านแแอพ Gemini บน Android เท่านั้น แต่ไม่ได้ให้รายละเอียดว่าผู้ใช้แบบฟรีได้จะใช้งานโมเดล Gemini 1.5 Pro ที่เก่งกว่าเวอร์ชันฟรีด้วยหรือไม่

ที่มา - 9to5google

Tags:
Node Thumbnail

Mistral AI เปิดตัวโมเดล Pixtral 12B ซึ่งเป็นโมเดลข้อมูลผสมผสานตัวแรกของบริษัท พัฒนาต่อยอดจากโมเดลตัวหนังสือ Nemo 12B เป็นโมเดลขนาดพารามิเตอร์ 12B ขนาดของไฟล์ประมาณ 24GB

Pixtral 12B สามารถทำงานได้เหมือนโมเดลข้อมูลผสมผสานอื่น เช่น การจำแนกรายละเอียดในภาพ หรือการนับวัตถุในภาพ เป็นต้น

ดูรายละเอียดเพิ่มเติมได้ที่ GitHub หรือ Hugging Face ภายใต้สัญญา Apache 2.0

Tags:
Node Thumbnail

กูเกิลประกาศเพิ่มความสามารถใหม่ให้ NotebookLM แอปจดบันทึกที่ทำงานด้วย Gemini 1.5 ซึ่งปัจจุบันสามารถใช้งานในไทยได้ด้วย โดยฟีเจอร์ใหม่มีชื่อว่า Audio Overview

ถ้าอธิบายแบบให้เห็นภาพง่ายที่สุด Audio Overview จะทำการแปลงเนื้อหาในเอกสารของผู้ใช้งาน ให้เป็นรายการพอดคาสต์ที่มีผู้ดำเนินรายการสองคน ... โดยจะสร้างเสียงขึ้นเป็นสองผู้ดำเนินรายการด้วย AI แล้วทั้งคู่จะสนทนาบนเนื้อหาต้นฉบับ สรุป และเชื่อมต่อข้อมูลต่าง ๆ ในนั้น ผู้ใช้งานยังสามารถดาวน์โหลดไฟล์เสียงนี้ออกมาได้ด้วย

การใช้งานทำได้โดยเปิด Notebook แล้วเลือก Generate เพื่อสร้างเสียง Audio Overview

Tags:
Node Thumbnail

Adobe เป็นบริการรายล่าสุดที่เปิดตัวเครื่องมือปัญญาประดิษฐ์สร้างวิดีโอจากอินพุทข้อความ (Text-to-Video) ในชื่อ Adobe Firefly Video Model ซึ่งมาเสริมกับบริการ AI ก่อนหน้านี้ทั้งการสร้างรูปภาพ งานออกแบบ และไฟล์เวกเตอร์ ให้กับลูกค้า Creative Cloud, Experience Cloud และ Adobe Express

Adobe Firefly Video Model รองรับการสร้างคลิปวิดีโอสั้นจากอินพุทแบบข้อความ ที่สามารถกำหนดรายละเอียดเช่น มุมกล้อง การถ่ายภาพ การซูม เพื่อปรับแต่งให้ได้วิดีโอตามต้องการ นอกจากนี้ยังรองรับการสร้างวิดีโอเคลื่อนไหว ทั้งเพื่อการใช้สร้างวิดีโอแบบ B-Roll หรือการทำให้วัตถุในภาพขยับได้แบบสั้น ๆ สามารถนำไปปรับใช้ในงานอนิเมชัน ใส่เอฟเฟกต์ หรือทำวิดีโอแทรกในฟุตเทจที่ต้องการ

Tags:
Node Thumbnail

Audible แพลตฟอร์มหนังสือเสียงรายใหญ่ที่สุดในโลก เปิดฟีเจอร์ใหม่ให้นักพากย์หนังสือ (narrator) นำเสียงของตัวเองไปฝึก AI สร้างเสียงอ่านหนังสือเล่มต่อๆ ไปโดยไม่ต้องอ่านเอง แต่เจ้าของเสียงยังคงควบคุมการรับงานได้

Tags:
Node Thumbnail

ESPN ถูกวิจารณ์หลังจากบทความสรุปการแข่งขันฟุตบอลหญิงระหว่าง San Diego และ North Carolina ไม่พูดถึง Alex Morgan นักเตะหญิงมืออาชีพที่เล่นนัดนี้เป็นเกมสุดท้ายเลย

Alex Morgan ลงเล่นในเกมนี้ 15 นาที และเป็นผู้เตะลูกโทษ แต่สรุปเกมของ ESPN Generative AI Services บอกเพียงว่าเกมจบที่คะแนนเท่าใด ใครทำประตูบ้าง โดยไม่ได้พูดถึงความสำคัญของเกมนี้ว่าเป็นเกมสุดท้ายของ Alex Morgan นักฟุตบอลหญิงที่เคยได้เหรียญทองโอลิมปิกเลย

ESPN เพิ่งเปิดตัวบริการสรุปการแข่งขันนี้เมื่อสัปดาห์ที่ผ่านมา โดยระบุว่าทุกบทความจะยังคงมีบรรณาธิการเป็นมนุษย์คอยตรวจสอบบทสรุปอยู่ ตอนนี้ยังคงใช้กับฟุตบอล Premier Lacrosse League (PLL) และ National Women’s Soccer League (NWSL) เท่านั้น

Tags:
Node Thumbnail

แอปเปิลประกาศแผนอัปเดตฟีเจอร์ปัญญาประดิษฐ์ Apple Intelligence ให้กับผู้ใช้งาน iPhone, iPad และ Mac โดยจะอัปเดตในระบบปฏิบัติการตั้งแต่เดือนตุลาคมเป็นต้นไปใน iOS 18.1, iPadOS 18.1 และ macOS Sequoia 15.1 โดยจะทยอยเพิ่มความสามารถในอัปเดตถัดไป

Apple Intelligence จะเริ่มต้นรองรับการใช้งานเฉพาะภาษาอังกฤษแบบอเมริกัน จากนั้นจะเพิ่มเติมรองรับภาษาอังกฤษแบบออสเตรเลีย, แคนาดา, นิวซีแลนด์, แอฟริกาใต้ และสหราชอาณาจักร ในเดือนธันวาคม ส่วนแผนการรองรับภาษาอื่นจะมีเพิ่มเติมในปีหน้า ได้แก่ ภาษาจีน, ภาษาฝรั่งเศส, ภาษาญี่ปุ่น และภาษาสเปน

Tags:
Node Thumbnail

The Wall Street Journal อ้างแหล่งข่าวที่เกี่ยวข้องบอกว่า xAI บริษัทปัญญาประดิษฐ์ของ Elon Musk มีการหารือกับ Tesla เพื่อเปิดให้ Tesla เข้าถึงเทคโนโลยีปัญญาประดิษฐ์และทรัพยากรบริษัท แลกกับส่วนแบ่งรายได้จากฝั่ง Tesla ซึ่งอาจมองว่าเป็นกรณีความขัดแย้งทางผลประโยชน์ของ Musk คล้ายข่าวโยกจีพียูหรือดึงตัวพนักงานก่อนหน้านี้

รายงานบอกว่าภายใต้ข้อตกลงนี้ Tesla จะนำโมเดลของ xAI มาใช้กับระบบช่วยขับรถยนต์อัตโนมัติ ฟีเจอร์เสริมอย่างระบบสั่งงานด้วยเสียง ไปจนถึงมีส่วนร่วมในการพัฒนาหุ่นยนต์ Optimus

Tags:
Node Thumbnail

ทีมวิศวกรจาก IBM และ Meta รายงานถึงการทดลองเปลี่ยนเคอร์เนลการรัน LLM ใน PyTorch จากเดิมที่ใช้ CUDA เป็นหลัก มาเป็นภาษา Triton ของ OpenAI โดยพบว่าประสิทธิภาพเริ่มใกล้เคียงกับ CUDA

OpenAI เปิดตัวโครงการ Triton มาตั้งแต่ปี 2021 โดยมุ่งจะพัฒนาภาษาที่ทำให้โปรแกรมเมอร์เขียนโปรแกรมโดยตรงบนชิปกราฟิกได้ง่ายขึ้น นอกจากการถอด CUDA แล้วยังต้องเลือกเอนจิน Flash Attention มาแทน cuDNN Flash Attention เพื่อรันโมเดล LLM พบว่า AMD Flash Attention ทำงานได้ครบถ้วนทุกโหมด

Pages