on
Geoffrey Hinton และ John Hopfield เป็นนักวิทยาศาสตร์ที่ได้รางวัลโนเบลสาขาฟิสิกส์ประจำปี 2024 จากผลงานวิจัยด้าน machine learning
John Hopfield ปัจจุบันอายุ 91 ปีแล้ว เขาจบปริญญาเอกสาขาฟิสิกส์จาก Cornell University และเป็นผู้บุกเบิกงานวิจัยด้าน neural network และคิดค้น Hopfield network เครือข่ายนิวรอนแบบชั้นเดียว ที่นิวรอนแต่ละตัวเชื่อมกับนิวรอนตัวอื่น
Geoffrey Hinton ปัจจุบันอายุ 76 ปี เขาเป็นที่รู้จักในนาม Godfather of AI โดยเฉพาะเรื่อง deep learning นอกจากงานวิชาการแล้ว เขาทำงานอยู่กับกูเกิลระหว่างปี 2013-2023 และเพิ่งลาออกเมื่อปี 2023 เพื่อให้พูดเรื่องอันตรายจาก AI ได้อย่างเต็มที่ ตัวอย่างลูกศิษย์ที่มีชื่อเสียงของเขาได้แก่ Yann LeCun (Meta/Facebook) และ Ilya Sutskever (OpenAI/Safe Superintelligence)
ที่มา - Noble Prize, BBC
BREAKING NEWSThe Royal Swedish Academy of Sciences has decided to award the 2024 #NobelPrize in Physics to John J. Hopfield and Geoffrey E. Hinton “for foundational discoveries and inventions that enable machine learning with artificial neural networks.” pic.twitter.com/94LT8opG79
— The Nobel Prize (@NobelPrize) October 8, 2024
เยี่ยม เหมาะสมอยู่น่ะ
Yess24Hrs Tue, 08/10/2024 - 21:14
เยี่ยม เหมาะสมอยู่น่ะ
อืมมม สงสัยว่าทำไมจัดให้
Jonathan_Job Tue, 08/10/2024 - 23:33
อืมมม สงสัยว่าทำไมจัดให้ Machine Learning ไปอยู่ในสาขา Physics
หรือว่าเป็นเพราะสาขาของ Nobel มีแค่ Physics, Chemistry, Physiology or Medicine, Literature, Peace, Economic Sciences ?
นั่นสินะผมว่ามันมีสาขาคอมพิวเ
Jirawat Wed, 09/10/2024 - 01:44
In reply to อืมมม สงสัยว่าทำไมจัดให้ by Jonathan_Job
นั่นสินะผมว่ามันมีสาขาคอมพิวเตอร์ไหมนะ แต่ก้ยินดีด้วย(ถ้า ai ก่อสงครามเดึ๋ยวค่อยว่ากันใหม่)
ใช่ครับ
mk Wed, 09/10/2024 - 07:44
In reply to อืมมม สงสัยว่าทำไมจัดให้ by Jonathan_Job
ใช่ครับ
น่าจะเรียงเป็น Hopfield แล้ว
tontpong Fri, 11/10/2024 - 07:24
In reply to อืมมม สงสัยว่าทำไมจัดให้ by Jonathan_Job
น่าจะเรียงเป็น Hopfield แล้ว Hinton ปะนะ ?
neural network (nn) แรกเริ่มอิงตาม anatomy ของระบบประสาทในสมอง (biology/physiology) .. ก็เห็นเป็น node , มี link เชื่อม , และอนุมานว่าข้อมูลจากแต่ละ link จะมีความสำคัญ (weight) ไม่เท่ากัน
ยังไม่มีเรื่องความจำ (memory) , ก็จาก anatomy มันมองไม่เห็น มัน static นิ่งๆ .. ซึ่งถ้าข้อมูลวิ่งทางเดียว (feedforward) มันก็พอใช้งานได้ , แต่ถ้าข้อมูลมีวิ่งวนกลับ เกิดเป็น network ที่มี feedback/cycle/recurrent อันนี้จะยุ่งละ (อิงแบบตรงไปตรงมาจากโครงสร้างเดิมก็คือ ตอนวนกลับมานี่ weight มันน่าจะต้องเปลี่ยน , แต่ว่าจะเปลี่ยนยังไงละ 😶)
ในทางจิตวิทยา คือความจำก่อให้เกิดการเรียนรู้แหละ , แต่มันถอด mechanism มาเป็น computational model ยาก .. ทว่า Hopfield ดูไปศึกษามา , ก็รับจบด้วยการประยุกต์เอา statistical mechanics (น่าจะเป็นในส่วนของ magnetism model) จากโลกของ physics มาปรับใช้จนเกิดเป็น computational associative memory ได้ ทำให้ network มีความ dynamics และช่วยคลี่คลายการใช้ recurrent nn (rnn) ให้เป็นไปได้ง่ายขึ้น
https://www.sciencealert.com/nobel-prize-in-physics-how-hopfield-and-hintons-ai-changed-our-world
https://en.wikipedia.org/wiki/Hopfield_network
Hinton ก็ต่อยอดจาก Hopfield
tontpong Fri, 11/10/2024 - 08:33
In reply to น่าจะเรียงเป็น Hopfield แล้ว by tontpong
Hinton ก็ต่อยอดจาก Hopfield ด้วยการเอา Boltzmann distribution จาก statistical mechanics มาใช้ , ได้เป็น Boltzmann machines
แล้วอันนี้ก็กลายเป็นจุดเริ่มความนิยมของ machine learning แบบ energy-based model (ebm) .. ซึ่งประยุกต์เอาองค์ความรู้ทางด้าน physics มาใช้ , และนิยมใช้กันกับ gen ai ที่สามารถ generate/expand pattern ใหม่ออกมา (ของ Hopfield , ส่วนมากยังอิงกับการ detect/recognise pattern)
https://en.m.wikipedia.org/wiki/Boltzmann_machine
https://en.m.wikipedia.org/wiki/Energy-based_model
ลองแหย่ chatgpt แบบแทบไม่
tontpong Fri, 11/10/2024 - 21:24
In reply to Hinton ก็ต่อยอดจาก Hopfield by tontpong
ลองแหย่ chatgpt แบบแทบไม่ hint ไม่มี context
, แทบจะมีแค่ชื่อให้ match แต่ก็ยังตรงเข้าเรื่องได้เลยแหะ .. แต่ก็ไล่ทักถามเพิ่ม อีกพักนึงเลย , ถึงจะโผล่คำว่า backpropagation
https://chatgpt.com/share/6709315f-035c-800b-ae56-7c8598528e75
เยี่ยมครับ
btoy Wed, 09/10/2024 - 09:22
เยี่ยมครับ