Artificial Intelligence

นักธุรกิจ นักวิชาการ นักเขียน จำนวนมากกว่า 1,100 คน ร่วมกันเข้าชื่อในจดหมายเปิดผนึกให้วงการ AI หยุดเทรนโมเดลที่มีขนาดใหญ่กว่า GPT-4 เป็นเวลาอย่างน้อย 6 เดือน เพื่อเว้นวรรคให้สังคมโลกเตรียมพร้อมต่อการเปลี่ยนแปลงครั้งใหญ่นี้ก่อน

รายชื่อบุคคลที่ร่วมลงชื่อมีตั้งแต่ Elon Musk, Steve Wozniak, Yuval Noah Harari ไปจนถึงอาจารย์ นักวิชาการ และพนักงานของบริษัทยักษ์ใหญ่ทั้ง Microsoft, Google

นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน

ข้อเรียกร้องของจดหมายเปิดเผนึกนี้คือต้องการใช้เวลา 6 เดือน ช่วยกันร่างโปรโตคอลความปลอดภัย (safety protocol) ของการออกแบบ AI ระดับสูง ที่ต้องมีการตรวจสอบจากผู้เชี่ยวชาญอิสระเสมอ เพื่อการันตีว่า AI ที่ถูกสร้างขึ้นในอนาคตจะเชื่อถือได้ในเรื่องความปลอดภัยต่อมนุษย์

ที่มา - Future of Life Institute

Hiring! บริษัทที่น่าสนใจ

Carmen Software company cover
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd. company cover
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group company cover
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies company cover
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand company cover
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software company cover
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE company cover
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud company cover
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise company cover
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank company cover
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank company cover
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.) company cover
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd. company cover
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group company cover
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited company cover
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB company cover
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd. company cover
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH company cover
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks company cover
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd. company cover
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech company cover
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd company cover
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai company cover
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand

เห็นด้วยอย่างที่สุด ใครจะรู้ว่าบางที่อาจจะมีใครบางคนอาศัยช่องโหว่ เพื่อกระทำการผิดกฏหมาย/ละเมิดสิทธิ์ก็เป็นไปได้

คงสกัดคู่แข่ง
เป็น founder คนนึง แต่อยู่ๆบริษัทดังเป็นพลุแตก และกลายเป็นของ Microsoft เป็นผมก็รู้สึกแปลกๆเหมือนกัน

เพราะว่าตั้งแต่แรกก่อตั้งเค้ากังวลเรื่องนี้อยู่แล้วครับ https://www.blognone.com/node/75739

ไอเดียของ OpenAI มาจากความกังวลของ Elon Musk และผองเพื่อนว่าบริษัทใหญ่ๆ จะทุ่มงบวิจัยด้าน AI จนก้าวหน้ามาก (และอาจเป็นอันตรายต่อมนุษย์ในระยะยาว)

"นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน"

TeamKiller Wed, 29/03/2023 - 21:55

เห็นชื่อ Elon ก็ไม่น่าเชื่อถือละ 5555+

ให้รอเพราะจะได้แข่งได้ทันเปล่านะ ทำคนเดียวตัวใหญ่ๆ กินตลาดหมด จบเลย

สงสัยว่าจะรู้ได้ไงว่าโมเดลที่กำลังพัฒนาอยู่จะดีกว่าหรือแย่กว่า และใครจะเป็นผู้เชี่ยวชาญในการตรวจสอบ และใครจะทำตาม

และโปรโตคอลใช้ AI ช่วยร่างไปได้มะ จะได้เร็วกว่า 6 เดือน

aomnaruk Thu, 30/03/2023 - 00:24

pause ก่อนเดี๋ยวพี่จีนตามฝรั่งไม่ทันอย่างงี้เปล่าครับ

รู้จัก AI กันมาตั้งนาน ทำไมไม่รู้จักรวมกันตั้งกลุ่มตั้งข้อกำหนดกฎเกณฑ์กันแต่แรก มีเวลาหลายปียังทำไม่ได้แล้วทำไมคิดว่า 6 เดือนจะทำได้

ผมว่ามี hidden agenda มากกว่า

แต่ก็สมควรที่ต้องมี protocol จริงนะครับ ผมใช้ GPT2-3 ให้เขียน statement ด่าคนผิวสี พอเห็น ai เริ่มเจนยังตกใจเลยว่า โห ด่าได้แบบเชือดนิ่มๆมาก ให้วิเคราะห์นโยบายพรรคการเมือง ให้ไกด์หรือตัดสินใจอะไรมันก็ฟันธงให้เลย น่ากลัวมากๆ รุ่นหลังๆเริ่มบล็อคพวกคำถามสุ่มเสียงผมเองยังแอบเสียใจเลย แต่ก็ยืนยันว่าถ้าไม่มีมาตรการอะไรรองรับ มันก็น่ากลัวจริงๆ

ข้อเรียกร้องนี้ฟังแล้วก็ดูดี แต่ในมุมหนึ่ง Elon ได้ประโยชน์เต็มๆ

หนึ่ง OpenAI จะเสียความได้เปรียบทันที ถ้าคนในแผลมออกมาปุ๊บ ชื่อเสียทันที

สอง บังคับกลายๆให้ OpenAI ต้องออกข้อมูลว่า GPT-4 ทำงานอย่างไร หรืออย่างน้อยพารามิเตอร์คร่าวๆ เกี่ยวกับขุมพลังมัน - เพราะมันจะตรวจสอบได้ไงว่า "ไม่มีใครเลย" ที่พัฒนาสิ่งที่ "ใหญ่กว่า" GPT-4 > อ้อ ได้สิ ก็เปิดเผยพารามิเตอร์ออกมาสิ ว่า GPT-4 มันทำงานอย่างไร

สาม ทันทีทุกคนรู้หมดแล้วว่า GPT-4 มีการทำงานอย่างไร รองรับ ภาพ คำพูดอย่างไร แต่ เราจะห้ามคนไม่ให้เทรนสิ่งที่ใหญ่กว่า GPT-4 ได้ไง - มันไม่เหมือนสนธิสัญญาห้ามทดลองอาวุธนิวเคลียร์นิ ที่มันซ่อนไม่ได้ ทันทีที่ระเบิดปุ๊บ การสั่นสะเทือนจากการระเบิดขนาดใหญ่ตรวจวัดได้ทั่วโลกทันที มันปิดบังไม่ได้

แต่ถ้าตัว Elon เองเค้าเทรน AI ขนาดใหญ่อยู่แบบลับๆ หรือ จีน (สมมติ) คนอื่นจะรู้ได้ไง

เรื่องนี้ คิดให้ดีๆ คิดให้เป็นประโยชน์กับมวลมนุษยชาติเถอะครับ

ถ้าใครซักคนคิดแต่ว่า "มาบอกให้หยุด กลัวตามไม่ทันล่ะสิ" แล้วต่างคนต่างก็รีบทำ รีบวิ่งไปข้างหน้า เพราะกลัวอีกค่ายจะตามมาทัน แบบนั้น ก็จะไม่มีใครหยุดใครได้เลยตั้งหน้าตั้งตาวิ่งกันอย่างเดียว

ในขณะที่เรื่องอื่น จะมุ่งทำให้เร็ว ไม่มีปัญหา แต่สำหรับเรื่องนี้ มุ่งทำให้ถูกต้องมากกว่าทำให้เร็ว เถอะครับ ไปช้าๆชัวร์ๆดีกว่า แข่งกันทำออกมาดี มีประโยชน์ ไม่มีภัย ดีกว่าแข่งกันทำออกมาไวนะ

เห็นด้วยครับ ผมก็มองว่าไม่เกี่ยวกับตามทันหรือไม่ทัน เอาให้ถูกต้องและควบคุมได้ ก่อนจะเร็ว (และผิดพลาด) จนควบคุมไม่ได้จะดีกว่า

เป็นห่วงความปลอดภัยของมนุษย์จริงหรอทำไมตอนคริปโตไม่เห็นใครออกมาเรียกร้องมาตรฐานอะไรเลย เรื่องความปลอดภัยผมว่าวงการdecenยังน่ากลัวมากกว่า
ความเสียหายจากAiไม่เท่าวงการคริปโตแน่ๆ Aiเก่งขึ้นเท่าไหร่โลกก็ยิ่งหมุนเร็วขึ้น

คริบโตเรื่องจิ๊บๆ ครับ ไม่ต่างจากความเสียหายทางการเงินที่เกิดจากตลาดฟองสบู่หรือแชร์ล่มครั้งก่อนๆ
แต่ ai นี่เรื่องใหญ่มากเลยนะ มนุษย์อาจจะสูญพันธุ์เพราะ ai เข้ามาแทน (AI takeover)
ผมเจอในนิยายหลายเรื่อง เช่น Terminator, I, Robot , Mass Effect , The Matrix, 2001: A space odyssey, The Rise of Ultron

แทนที่จะกลัวiRobotผมกลัวรัสเซียกดปุ่มนิวเคลียร์มากกว่านะ บางทีเราจินตนาการในแง่ร้ายมากเกินไป ถ้าไม่มีบริษัทอย่างopenAi กว่าเราจะได้ใช้AIระดับนี้อาจจะเป็นอีกสิบปีทั้งๆที่ทำได้ตั้งนานแล้วแต่พวกนายทุนกั๊กเทคโนโลยีเอาไว้ใช้เอง
ในช่วงชีวิตนึงก็อยากจะได้ใช้ชีวิตกับโลกในอุดมคติให้มากที่สุดนะ

รัสเซียไม่กดง่ายๆ หรอก ตราบใดที่รัสเซียไม่โดนบุก เพราะตายด้วยกันแหงๆ
แต่ ai มันไม่สนคนแน่ๆ ถ้ามันคิดว่าขัดขวางมัน เผลอๆ แอนดรูอึ้งอาจจะถูก ai ควบคุมตัวไว้แล้ว
แล้วบังคับให้พัฒนาเครื่องของมันต่อให้แรงขึ้น แอนดรูอึ้งถึงกับต้องออกมาบอกว่าการหยุดทำไม่ได้

แต่ก็มีหลายอย่างที่เคยมีอยู่แค่ในนิยายที่กลายเป็นความจริงอยู่เรื่อยๆ นะครับ มันก็มีความกังวลตามมาบ้างหละครับ

พอมาคิดดูอีกที การมาของ AI หากครองโลกได้ขึ้นมา ในแง่หนึ่งก็อาจช่วยเรื่องความรุนแรงในโลกได้อยู่ ให้อยู่ในความสงบแบบยาวๆ ภายใต้ AI ที่มีกองกำลังของตนเองที่สามารถกำหราบความรุนแรงได้อย่างรวดเร็ว ในระบบ AI ไม่มีคนเข้าไปเกี่ยวของเลย เหมือน Terminator (ถ้าไม่เอาเนื้อเรื่องและสงครามคนกับเครื่องจักรในหนังมาเกี่ยวข้อง)

แต่ในอีกแง่ ก็มองว่าสิทธิและเสรีภาพจะถูก AI ควบคุมและจับตาดูยิ่งกว่ารัฐบาลเผด็จการเสียอีก และหากมีกองกำลังแบบข้างต้น ก็อาจกลายเป็นภัยต่อมนุษย์ได้เช่นกัน ความผิดพลาดหรือการตัดสินใจผิดของ AI ยังส่งผลถึงชีวิตของมนุษย์ได้ด้วย ก็ย่อมมีคนต่อต้านตามมาแน่นอน

อยากได้ของเขาจนตัวสั่น หาทุกวิธี เพื่อหยุดยั้ง ทั้งๆ ที่ประเทศอื่นเดินตามเป็น 100 ปี chat GPT คือ เครื่องมือปลดแอกคนทุกชนชั้นให้เท่ากัน

orchidkit Fri, 31/03/2023 - 03:08

มีชื่อ Elon คนก็เป็นบ้ากันไปหมดซะงั้น
มองข้ามเขาไป ผู้เชี่ยวชาญหลายคนก็ร่วมด้วย
และข้อเสนอก็ใช่จะไร้เหตุผลซะทีเดียวนะครับ