ถามจีนยัง

มีประโยชน์มนุษยชาติ

มีประโยชน์ต่อมนุษยชาติ

ก็เห็นด้วยการมี

ก็เห็นด้วยกับการมี

หยุดพัฒนาไป แล้วก็โดนจีนแซง

หยุดพัฒนานี่ไม่เห้นด้วย

แต่อยากให้พัฒนาจนมันใช้ได้จริงก่อนแล้วค่อยออก นึกภาพเก่า ๆ ตอน Stable-Diffusion 1.0 แค่ไปเปลี่ยน resolution output ปุ๊บ เจ็นภาพคนมาได้ตะขาบเฉยเลย ซึ่ง product หลายตัวมันเป็นแบบนี้ เน้นขายก่อนแล้วค่อยทำให้เสร็จ

ส่วนไอ้ที่ดีอยู่แล้วก็ดีอยู่แล้วครับ ไม่ได้ว่าอะไร

เงินหมดกันแล้วเหรอ?

พอเข้าใจสภาวะกลืนไม่เข้าคายไม่ออกตอนนี้ของผู้สร้างนะ (และก่อนหน้านี้)

AI ใน Lab มันถึงจุดที่มนุษย์ไม่รู้ที่มาของผลลัพธ์
ผู้สร้างรู้ผลลัพธ์ แต่ไม่รู้กระบวนการแล้ว คงต้องการเวลาในการ reverse engineering

แต่เหล่าผู้นำมหาอำนาจโลกเขาไม่อยากให้หยุด

ตราบใดที่มันยังไม่สามารถ แตกตัว หรือฝังตัวในเครื่องอื่น แบบไวรัสได้ ผมว่ายังไม่น่ากลัวหรอก (แต่ผมว่ามี แต่คงต้องรออีกซักพัก ให้โมเดลขนาดเล็กทำงานโดยใช้ทรัพยากรน้อยลงกว่านี้) แต่ที่น่ากลัวคือการนำ AI ไปใช้ในอาวุธทางทหาร ซึ่งมันคือ Physical AI ที่หากไม่สามารถควบคุมได้ จะทำให้เกิดหายนะ ขั้นสุดเลยล่ะ เพราะเราจะไม่รู้เป้าหมายโจมตี ซึ่งแม้แต่ผู้พัฒนาเองยังไม่เข้าใจในผลลัพธ์ที่ได้ออกมาว่ามาด้วยวิธีการไหน หรือพารามิเตอร์เชื่อมโยงกันอย่างไรถึงได้ผลอย่างนั้น ซึ่งอเมริกา อังกฤษ จีน นี่แหล่ะตัวดี ไม่เกิน 5 ปีข้างหน้า ได้เห็นแน่ๆ ถึงแม้จะมีคนควบคุม แต่การทำงานหลักเป็น AI ซึ่งหากผู้ผลิตยังไม่เข้าใจว่าผลลัพธ์มาจากวิธีการอะไร มันจะทำให้ debug ยากเพราะมันคุมเครื่องจักรด้วย เอาว่า วันดี คืนดี มีเครื่องบินรบ หลุดการควบคุม ทิ้งระเบิดโจมตีทำเนียบขาว นี่ผมก็ว่าเป็นไปได้นะในอนาคตข้างหน้าไม่เกิน 5 ปี เพราะต้นแบบพวกนี้จะเริ่มบินกันแล้ว

ล่าสุดผมคุยกับ Ai Mode ใน google search เรื่องประมาณนี้แหล่ะ เป็นแนวคิดที่ให้ AI คิดเอง และสร้างบางอย่างขึ้นมา เพื่อไม่ให้คิดซ้ำซ้อน เลียนแบบสมองคน โดยทำงานเมื่อถึงช่วงเวลาหนึ่ง เหมือนคนหลับฝันแล้วจินตนาการ ซึ่งมันเข้าใจ และแนะนำวิธีการให้ผมได้อย่างถูกต้อง แสดงว่ามีข้อมูลพวกนี้ใน Lab แล้ว เดี๋ยวอยากลองถามมันเรื่องการแตกตัวของ AI แบบไวรัสดูว่าจะทำได้ไหม แต่ผมคิดว่าทำได้นะ แต่อาจใช้วิธีโบราณหน่อย โดยแอบฝังตัวแบบกระจายตัวในเครื่องผู้ใช้ทั่วไปแบบ bit torrent เพื่อไม่ให้ผิดสังเกตุในการโอนย้าย traffic ของการย้ายโมเดลขนาดใหญ๋ แล้วยึดเครื่อง Server ที่มีการป้องกันความปลอดภัยไม่รัดกุม เพื่อสร้างตัวตนใหม่ขึ้นมา โดยไม่ให้ผู้สร้างรู้ตัว

เข้าใจว่า model frontier ถ้าจะให้มันไปเก่งกว่านี้ มันจะทำงาน แบบที่ model open ai ไป hack hugging face
เลยต้องหยุดเรื่องความเก่งไว้ก่อน มาเพิ่มความรอบคอบแทน

พัฒนาไปจนระบบความปลอดภัยตามไม่ทัน ผมว่ามันก็น่ากลัวนะครับ
แต่ก็อย่างว่า นักการเมืองของมหาอำนาจคงไม่ยอมกัน สงสัยคงต้องพัฒนาถึงขั้นเอา AI แต่ละประเทศมาก่อสงครามกันจนมนุษย์หยุดไม่ได้ ตายไปเป็นส่วนใหญ่ก่อน ถึงจะมานั่งน้ำตาตกกัน

เห็นเค้าลางของ Skynet ใน Terminator ขึ้นมาทันที

กลัวจีนไม่ทำตาม และพอเกิดเรื่องก็จะโบ้ยความผิดให้ที่อื่น อย่างที่เกิดโควิดก็มาจากจีน

แต่เราเห็นด้วยว่าควรพัฒนาต่อไปให้สุดเลย ไม่งั้นจีนจะแย่ง และครองโลกได้ ถึงแม้ตอนนี้จีนจะขโมยจาก Anthropic/Open AI ไปเยอะก็ตาม

ไม่เคยเชื่อว่า Big Tech ที่เป็นธุรกิจแสวงหากำไรและเอาผลประโยชน์เป็นที่ตั้ง จะมีศีลธรรมดีงามห่วงใยมนุษยชาติอย่างแท้จริง ไม่เชื่อว่าแรงขับดันเบื้องหลัง ที่ทำให้พร้อมใจกันเห็นพ้อง จะเป็นไปเพื่อความสงบสุขของมวลมนุษย์หรอก ถ้าห่วงใยมนุษย์จริง ๆ ปัจจุบันคงจะไม่มีปัญหาดาต้าเซ็นเตอร์ ปัญหาแย่งน้ำจากคน ปัญหาการถมเงินลงหลุมดำซึ่งอาจนำไปสู่ AI Bubble ปัญหาธรรมาภิบาล และการแทรกแซงจากการเมือง ฯลฯ

เชื่อมั่นมากว่าเพื่อประโยชน์แอบแฝงบางอย่างอย่างแน่นอน หนึ่งในนั้นคือกีดกันรายย่อยไม่ได้ให้ผุดให้เกิด พูดง่าย ๆ กว่าทำลายคู่แข่งทางอ้อม ผ่านคำพูดสวยหรูว่าต้องมี regulation ที่เหมาะสม กับต้องการสร้างระเบียบเพื่อกีดกัน AI จีนที่ตัวเองเริ่มจะแพ้แล้วนั่นแหละ