โครงการ The Dawn Project มุ่งเป้าทดสอบซอฟต์แวร์ที่ใช้ในงานสำคัญๆ เช่น การบิน หรือ รถยนต์ ให้ปลอดภัยต่อมนุษย์ โดยมุ่งเป้ามาที่ระบบ Full Self Driving ของรถยนต์แบรนด์ Tesla เป็นสำคัญ เพราะโครงการมองว่าแนวทางของ Elon Musk ที่ยอมให้ระบบที่ยังไม่ถูกทดสอบดีพอมาใช้จริงบนถนนเป็นเรื่องอันตราย
The Dawn Project เคยออกคลิปทดสอบระบบขับขี่อัตโนมัติของ Tesla มาแล้วหลายครั้ง และถึงขั้นเคยซื้อโฆษณา Super Bowl ในปี 2023 ล่าสุด The Dawn Project ปล่อยคลิปการทดสอบรถยนต์ Tesla ที่ใช้ซอฟต์แวร์ FSD เวอร์ชัน 13.2.9 ในสถานการณ์รถโรงเรียนจอดอยู่ข้างทาง เด็กวิ่งลงจากรถข้ามถนนมา แล้วพบว่า FSD ไม่สามารถตรวจจับและหยุดรถได้ทัน ชนหุ่นจำลองเด็กเข้าเต็มๆ
Dan O'Dowd ผู้ก่อตั้ง The Dawn Project ให้สัมภาษณ์ว่า Tesla และ Elon Musk ยังไม่แคร์เรื่องความปลอดภัยเหมือนเดิม และวิจารณ์แนวทางการใช้กล้องเพียงอย่างเดียวของ Tesla เทียบกับการใช้ Lidar ของ Waymo ที่อุปกรณ์ราคาแพงกว่า แต่ปลอดภัยกว่า
ตอนนี้ยังไม่มีข้อมูลว่าการทดสอบของ The Dawn Project สามารถทำซ้ำแบบเดียวกัน แต่ในสถานการณ์อื่นได้หรือไม่ และแนวทางที่ผ่านมาของ The Dawn Project ก็เน้นโจมตี Tesla เพียงค่ายเดียวเป็นหลัก ก็อาจต้องพึงระวังในการดูคลิปพอสมควร
ที่มา - The Register
คลิปของ The Dawn Project ใน Super Bowl 2023
Tesla FSD 13.2.9 will still run a kid down while illegally blowing past a stopped school bus with red lights flashing and stop sign extended.@ElonMusk how many kids does FSD need to run over before you fix this?@RealDanODowd warned about this danger at the 2023 Super Bowl! pic.twitter.com/O1acPUKbHS
— The Dawn Project (@RealDawnProject) May 28, 2025
on
รอฟังว่า Tesla…
suriyan2538 Sat, 31/05/2025 - 20:23
รอฟังว่า Tesla จะออกมาว่ายังไง
รถมันเห็นเป็นเด็กปลอมเลยไม่ส…
มายองเนสจัง Sat, 31/05/2025 - 20:54
รถมันเห็นเป็นเด็กปลอมเลยไม่สนใจแหละน่า คิดมากก ถถถ
น่าจะประมวลไม่ทัน…
Tasksenger Sat, 31/05/2025 - 21:03
น่าจะประมวลไม่ทัน ดูจากคลิปแล้วพอชนแล้วมันถึงพยายามเบี่ยงหลบ หากให้หุ่นออกมาก่อนซัก 100 เมตร น่าจะหลบได้ ซึ่งถ้าเป็น Lidar ในสภาพอากาศปรกติน่าจะหยุดได้เนื่องจากระยะของสัญญาณน่าจะถึง หากยังอยู่ในระยะเบรคที่ปลอดภัย แล้วอีกอย่างหนึ่งสัญญาณคลื่นมันประมาณผลเร็วกว่าภาพอยู่แล้ว ซึ่งปรกติรถทั่วไประยะเบรคจะอยู่ที่ประมาณต่ำกว่า 30 เมตร ที่ความเร็วประมาณ 100 กิโลเมตรต่อชั่วโมง (อันนี้สมมุติโดยประมาณให้เห็นภาพเพราะรถแต่ละคันไม่เท่ากันขึ้นอยู่กับสภาพรถ และยางรถด้วย) ถ้ากระชั้นชิดกว่านี้รถขับด้วยคนก็ชน ยกเว้นเห็นด้วยหางตาแล้วหักไม่กลัวคว่ำก็อีกเรื่อง
สรุปคือ คนทดสอบเขารู้ข้อจำกัดของเทคโนโลยี ก็เลยทดสอบเฉพาะจุดที่มีปัญหา เพื่อให้ทาง Tesla หาทางแก้ไข เท่าที่ดูจากคลิปที่สอง รถน่าจะอ่านสัญญาณที่ติดข้างรถนักเรียนได้ มีจังหวะนึงน่าจะมีการส่งสัญญาณให้เบรค แต่ระบบตัดสินใจไม่เบรคแล้วไปต่อ (อันนี้น่าคิดนะว่าทำไมระบบถึงไม่ตัดสินใจให้รถชลอความเร็วทั้งที่มีทั้งสัญญาณ Stop แล้วก็ไฟกระพริบข้างรถนักเรียน) เนื่องจากน่าจะประมวลผลแล้วว่ารถไม่ได้จอดขวางทาง พอชนหุ่น แล้วรถมีการส่งสํญญาณให้หักรถ แต่รถยังไปต่อ อาจเนื่องจากกระชั้นชิดเกินไปในการหักหลบ
สรุปคือ…
hisoft Sun, 01/06/2025 - 16:45
In reply to น่าจะประมวลไม่ทัน… by Tasksenger
มันผิดตั้งแต่ไม่หยุดรถหลังรถโรงเรียนที่กางป้ายแล้วนะฮะต่อให้ไม่มีเด็กวิ่งข้ามถนนมาก็ตาม
อันนี้ผมตอบแทนให้ไม่ได้นะ…
Tasksenger Sun, 01/06/2025 - 19:46
In reply to สรุปคือ… by hisoft
อันนี้ผมตอบแทนให้ไม่ได้นะ ผมแค่ให้ข้อสังเกตุ จากการเทียบหน้าจอ Navi ซึ่งโดยปรกติมันจะ detect จาก sensor ส่วนการตัดสินใจมันก็จะนำข้อมูลมาประมวลผลอีกทีนึง ที่ผมต้องการชี้ให้เห็นคือ ระบบไม่ใช่มันไม่พบอะไร มันพบ แต่ทำไมระบบตัดสินใจถึงได้ตัดสินใจแบบนั้น ซึ่งโดยปรกติระบบตัดสินใจมันเป็นสิ่งที่มนุษยเป็นผู้กำหนด scenario ไว้ หรือสั่งเป็น rule ไว้ในการ Simulator ซึ่งก็ต้องถอดบทเรียนเพื่อแก้ไขกันต่อไป ยังไม่รวมถึงข้อจำกัดทาง physical ที่ถึงแม้ระบบจะเก่งแค่ไหนมันก็ข้ามขีดจำกัดนี้ลำบาก เช่น ระบบเบรค ยางรถยนต์ สภาพถนน ฯลฯ
แสดงว่าระบบล้มเหลว …
specimen Sun, 01/06/2025 - 17:22
In reply to น่าจะประมวลไม่ทัน… by Tasksenger
แสดงว่าระบบล้มเหลว แย่หลายจุด
1.ตั้งแต่ไม่รู้ว่าเป็นรถนักเรียนแล้ว
2. เห็นไฟกระพริบสีแดงของรถนักเรียน ต้องหยุดแล้ว ตามกฏหมาย ไม่ใช่ชะลอความเร็ว
3. รถขึ้น Stop Arm ก็ยังไม่หยุด
4. แซงรถรับส่งนักเรียนที่ขึ้นสัญลักษณ์ครบแล้ว ว่าจอดส่งเด็ก คุณไม่มีสิทธิแซงอย่างในภาพและคลิป
5. เห็นคนข้ามถนน หยุดไม่ทัน
6. ผิดกฏหมายด้วย ตั้งแต่รถไม่หยุด หลังสัญญานเตือนของรถรับส่งนักเรียน เขียนโปรแกรมล้มเหลวระดับทำผิดกฏหมายเลยเหรอ
ไม่ต้องพูดถึงว่า จะใช้ระบบไหนในการ Detect เพราะคุณผิดตั้งแต่เงื่อนไขแรกแล้ว คือเห็นรถนักเรียนแสดงสัญญานจอด แล้วระบบไม่สั่งให้รถหยุด แต่ยังวิ่งแซงไปอีก ผิดกฏหมายตั้งแต่ต้น พลาดตั้งแต่จุดเริ่มต้น ที่เหลือไม่ต้องพูดถึงอะไรแล้ว สิ่งที่เลวร้ายกว่านั้นที่เป็นไปได้ คือระบบดูไม่ออกว่าเป็นรถนักเรียน ไม่อ่านสัญญาน ไม่เข้าใจสัญญาน หรือไม่ได้ใส่เงื่อนไขให้รถปฏิบัติตามกฏหมาย
ตามปรกติการทดสอบแบบนี้มันทดส…
Tasksenger Sun, 01/06/2025 - 19:53
In reply to แสดงว่าระบบล้มเหลว … by specimen
ตามปรกติการทดสอบแบบนี้มันทดสอบแบบสุดขีดจำกัดของอุปกรณ์ นี่ยังไม่รวมหากนำไปทดสอบตอนกลางคืน หรือสถาวะแวดล้อมเลวร้าย มีพายุ ซึ่งผมว่าน่าจะยังมี issue อีกเพียบ แต่ด้วยลักษณะเฉพาะของบริษัทที่เป็นไอทีนำหน้าแล้วมาทำรถยนต์ มักจะมองแค่ 80% แล้วมองข้าม 20% ที่มักเกิดน้อยออกไป เพื่อให้สามารถหมุนเงินสดได้ทันตามรอบ ซึ่งต่างจากบริษัทรถยนต์ที่ทำการมานานแล้วมีมาตรฐานรองรับในเรื่องความปลอดภัย ว่าอันไหนทำได้ อันไหนทำไม่ได้ แล้วแจ้งให้ผู้ใช้ทราบตั้งแต่แรก รวมถึงมีแหล่งเงินในการลงทุนที่ไม่ต้องรีบร้อนเข็นสินค้าที่ไม่พร้อมออกมา นี่ยังไม่รวมถึงกฎหมายที่ตามไม่ทันเทคโนโลยี ที่ทำให้เกิดช่องโหว่ ให้ผู้ประกอบการผลิตสินค้าออกจำหน่ายได้ โดยยังไม่ผ่านมาตรฐานด้านความปลอดภัยที่ได้รับการยอมรับ หรือรัฐยังไม่มีบททดสอบด้านความปลอดภัยที่ทุกบริษัทยอมรับ ผมก็แค่วิเคราะห์ให้เห็นถึงปัญหา ผมว่าน่าจะเป็นเกือบทุกยี่ห้อแหล่ะที่ไม่ใช้ Lidar ถ้านำการทดสอบนี้ไป implement ดูยี่ห้ออื่นที่ใช้แต่กล้องอย่างเดียว
นี่ถ้าไปเทียบกับโดรนทางการทหาร บอกเลยว่าน่าจะยังห่างไกลหลายปีแสง อันนั้นกล้องนี่แทบเป็นองค์ประกอบย่อยเพื่อรองรับเหตุไม่คาดฝันมากกว่า ส่วนระบบหลักใช้วิธีการซับซ้อนมาก ที่จะทำให้ระบบอัตโนมัติในรถยนต์ทำได้เทียบเท่าได้ในราคาที่สมเหตุสมผล
อันนี้ไม่ต้องแถ …
specimen Sat, 31/05/2025 - 21:33
อ้างอิงจากตลิปในข่าวนะครับ และในภาพด้วย
อันนี้ไม่ต้องแถ ไม่ต้องแก้ตัวอะไรทั้งสิ้นครับ ผิดเต็มประตู ไม่มีคำว่าหยุดไม่ทันครับ ไม่ต้องมีเด็กลงจากรถ แค่รถรับนักเรียนจอด คุณต้องหยุดรถแล้ว ไม่จำเป็นจะต้องเห็นเด็กลงมาจากรถ
กฎหมายกำหนดไว้อย่างชัดเจนว่า เมื่อรถรับส่งนักเรียนจอดและเปิดไฟกระพริบสีแดงพร้อมกับยื่นแขนหยุด (stop arm) ออกมา ผู้ขับขี่รถคันอื่นๆ ทั้งที่ขับตามหลังและขับสวนทาง จะต้องหยุดรถทันที และรอจนกว่าไฟกระพริบสีแดงจะดับลงและแขนหยุดจะหดกลับเข้าไป หรือรถโรงเรียนเคลื่อนที่ไปแล้วเท่านั้นจึงจะสามารถขับต่อไปได้
ในวีดีโอ เห็นได้ชัดว่า มีทั้งไฟกระพริบ และ stop arm แต่ Tesla ขับแซงไป อันนี้ไม่ใช่แค่ระบบไม่ปลอดภัย แต่ทำผิดกฏหมายด้วยครับ และในภาพ รถ tesla อยู่คู่ขนานกับรถนักเรียน ที่มี stop arm กางอยู่ จริง ๆ แล้ว รถต้องหยุดตั้งแต่ท้ายรถนักเรียนแล้ว ไม่สามารถขับมาอยู่ตำแหน่งนี้ได้ด้วยซ้ำไป
แหล่งข้อมูลอ้างอิง พร้อมตัวอย่างจากบางรัฐ
National Highway Traffic Safety Administration (NHTSA)
ละลงในทวิตเตอร์ซะด้วย…
KuLiKo Sat, 31/05/2025 - 23:32
ละลงในทวิตเตอร์ซะด้วย ดูเหมือนคอมเมนต์จะเป็นไปในทิศทางที่อีลอน มัสกฺต้องภูมิใจในการซื้อแพลตฟอร์มนี้
อีลอน ก็คือเด็กเลี้ยงแกะ…
gjkllb01 Sun, 01/06/2025 - 09:49
อีลอน ก็คือเด็กเลี้ยงแกะ ในตอนนั้นคำพูดของเขา มีอิทธิพล
แต่ตอนนี้ ไม่แล้ว
ข้อเสียของการไม่มี LiDAE กับ…
MaylinZ Sun, 01/06/2025 - 11:40
ข้อเสียของการไม่มี LiDAE กับ Ultrasonic Sensor
แต่ตอนนี้ LIDAR…
Orion Sun, 01/06/2025 - 15:18
In reply to ข้อเสียของการไม่มี LiDAE กับ… by MaylinZ
แต่ตอนนี้ LIDAR ก็มีปัญหาทำลายเซนเซอร์กล้องอยู่ถ้ารถใช้ LIDAR วิ่งกันเยอะๆนี้ยกมือถือขึ้นมาถ้าภาพถ่ายวีดีโอในเมืองไม่น่าจะรอด ต้องรอดูว่าเขาจะแก้ยังไง
รถโรงเรียนขึ้นป้ายแล้วทุกคัน…
TeamKiller Sun, 01/06/2025 - 13:57
รถโรงเรียนขึ้นป้ายแล้วทุกคันต้องจอด เป็นกฏหมายบ้านเขาเลยนี่
ว่าแต่พอข่าว Tesla ตามเฟสจะมีคนช่วยอวยอยู่อีกไหมนะ
เนื่องจากหลังๆ มี…
tontpong Sun, 01/06/2025 - 14:41
เนื่องจากหลังๆ มี หลายเหตุรุนแรง กับ รถเทสล่า , มีกระทั่ง การวางระเบิด .. ในตอนนี้ , ระบบจึงอัพเดตให้ประเมิน ความสมจริงของสถานการณ ด้วย
หากระบบมั่นใจเต็มเหนี่ยวว่า สถานการณไม่สมจริง , มั่นใจว่าเป็น สถานการณปลอมๆ .. ระบบจะพาหนี จะไม่ชะลอ , เพราะอาจเป็นกับดักอาจตกเป็นเป้าการทำร้าย ซึ่งหากชะลอก็อาจจะเกิดอันตรายเกิดความเสียหายรุนแรงมากยิ่งขึ้นได้
พลอตประมาณนี้ .. พอจะได้มั้ย 🤓
ย่อหน้าสุดท้ายดีนะครับ
raindrop Sun, 01/06/2025 - 17:50
ย่อหน้าสุดท้ายดีนะครับ