Tesla

โครงการ The Dawn Project มุ่งเป้าทดสอบซอฟต์แวร์ที่ใช้ในงานสำคัญๆ เช่น การบิน หรือ รถยนต์ ให้ปลอดภัยต่อมนุษย์ โดยมุ่งเป้ามาที่ระบบ Full Self Driving ของรถยนต์แบรนด์ Tesla เป็นสำคัญ เพราะโครงการมองว่าแนวทางของ Elon Musk ที่ยอมให้ระบบที่ยังไม่ถูกทดสอบดีพอมาใช้จริงบนถนนเป็นเรื่องอันตราย

The Dawn Project เคยออกคลิปทดสอบระบบขับขี่อัตโนมัติของ Tesla มาแล้วหลายครั้ง และถึงขั้นเคยซื้อโฆษณา Super Bowl ในปี 2023 ล่าสุด The Dawn Project ปล่อยคลิปการทดสอบรถยนต์ Tesla ที่ใช้ซอฟต์แวร์ FSD เวอร์ชัน 13.2.9 ในสถานการณ์รถโรงเรียนจอดอยู่ข้างทาง เด็กวิ่งลงจากรถข้ามถนนมา แล้วพบว่า FSD ไม่สามารถตรวจจับและหยุดรถได้ทัน ชนหุ่นจำลองเด็กเข้าเต็มๆ

Dan O'Dowd ผู้ก่อตั้ง The Dawn Project ให้สัมภาษณ์ว่า Tesla และ Elon Musk ยังไม่แคร์เรื่องความปลอดภัยเหมือนเดิม และวิจารณ์แนวทางการใช้กล้องเพียงอย่างเดียวของ Tesla เทียบกับการใช้ Lidar ของ Waymo ที่อุปกรณ์ราคาแพงกว่า แต่ปลอดภัยกว่า

ตอนนี้ยังไม่มีข้อมูลว่าการทดสอบของ The Dawn Project สามารถทำซ้ำแบบเดียวกัน แต่ในสถานการณ์อื่นได้หรือไม่ และแนวทางที่ผ่านมาของ The Dawn Project ก็เน้นโจมตี Tesla เพียงค่ายเดียวเป็นหลัก ก็อาจต้องพึงระวังในการดูคลิปพอสมควร

ที่มา - The Register

คลิปของ The Dawn Project ใน Super Bowl 2023

Hiring! บริษัทที่น่าสนใจ

Carmen Software company cover
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd. company cover
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group company cover
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies company cover
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand company cover
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software company cover
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE company cover
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud company cover
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise company cover
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank company cover
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank company cover
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.) company cover
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd. company cover
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group company cover
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited company cover
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB company cover
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd. company cover
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH company cover
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks company cover
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd. company cover
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech company cover
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd company cover
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai company cover
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand

น่าจะประมวลไม่ทัน ดูจากคลิปแล้วพอชนแล้วมันถึงพยายามเบี่ยงหลบ หากให้หุ่นออกมาก่อนซัก 100 เมตร น่าจะหลบได้ ซึ่งถ้าเป็น Lidar ในสภาพอากาศปรกติน่าจะหยุดได้เนื่องจากระยะของสัญญาณน่าจะถึง หากยังอยู่ในระยะเบรคที่ปลอดภัย แล้วอีกอย่างหนึ่งสัญญาณคลื่นมันประมาณผลเร็วกว่าภาพอยู่แล้ว ซึ่งปรกติรถทั่วไประยะเบรคจะอยู่ที่ประมาณต่ำกว่า 30 เมตร ที่ความเร็วประมาณ 100 กิโลเมตรต่อชั่วโมง (อันนี้สมมุติโดยประมาณให้เห็นภาพเพราะรถแต่ละคันไม่เท่ากันขึ้นอยู่กับสภาพรถ และยางรถด้วย) ถ้ากระชั้นชิดกว่านี้รถขับด้วยคนก็ชน ยกเว้นเห็นด้วยหางตาแล้วหักไม่กลัวคว่ำก็อีกเรื่อง

สรุปคือ คนทดสอบเขารู้ข้อจำกัดของเทคโนโลยี ก็เลยทดสอบเฉพาะจุดที่มีปัญหา เพื่อให้ทาง Tesla หาทางแก้ไข เท่าที่ดูจากคลิปที่สอง รถน่าจะอ่านสัญญาณที่ติดข้างรถนักเรียนได้ มีจังหวะนึงน่าจะมีการส่งสัญญาณให้เบรค แต่ระบบตัดสินใจไม่เบรคแล้วไปต่อ (อันนี้น่าคิดนะว่าทำไมระบบถึงไม่ตัดสินใจให้รถชลอความเร็วทั้งที่มีทั้งสัญญาณ Stop แล้วก็ไฟกระพริบข้างรถนักเรียน) เนื่องจากน่าจะประมวลผลแล้วว่ารถไม่ได้จอดขวางทาง พอชนหุ่น แล้วรถมีการส่งสํญญาณให้หักรถ แต่รถยังไปต่อ อาจเนื่องจากกระชั้นชิดเกินไปในการหักหลบ

สรุปคือ คนทดสอบเขารู้ข้อจำกัดของเทคโนโลยี ก็เลยทดสอบเฉพาะจุดที่มีปัญหา เพื่อให้ทาง Tesla หาทางแก้ไข รถน่าจะอ่านสัญญาณที่ติดข้างรถนักเรียนได้ เนื่องจากน่าจะประมวลผลแล้วว่ารถไม่ได้จอดขวางทาง

มันผิดตั้งแต่ไม่หยุดรถหลังรถโรงเรียนที่กางป้ายแล้วนะฮะต่อให้ไม่มีเด็กวิ่งข้ามถนนมาก็ตาม

อันนี้ผมตอบแทนให้ไม่ได้นะ ผมแค่ให้ข้อสังเกตุ จากการเทียบหน้าจอ Navi ซึ่งโดยปรกติมันจะ detect จาก sensor ส่วนการตัดสินใจมันก็จะนำข้อมูลมาประมวลผลอีกทีนึง ที่ผมต้องการชี้ให้เห็นคือ ระบบไม่ใช่มันไม่พบอะไร มันพบ แต่ทำไมระบบตัดสินใจถึงได้ตัดสินใจแบบนั้น ซึ่งโดยปรกติระบบตัดสินใจมันเป็นสิ่งที่มนุษยเป็นผู้กำหนด scenario ไว้ หรือสั่งเป็น rule ไว้ในการ Simulator ซึ่งก็ต้องถอดบทเรียนเพื่อแก้ไขกันต่อไป ยังไม่รวมถึงข้อจำกัดทาง physical ที่ถึงแม้ระบบจะเก่งแค่ไหนมันก็ข้ามขีดจำกัดนี้ลำบาก เช่น ระบบเบรค ยางรถยนต์ สภาพถนน ฯลฯ

แสดงว่าระบบล้มเหลว แย่หลายจุด

1.ตั้งแต่ไม่รู้ว่าเป็นรถนักเรียนแล้ว
2. เห็นไฟกระพริบสีแดงของรถนักเรียน ต้องหยุดแล้ว ตามกฏหมาย ไม่ใช่ชะลอความเร็ว
3. รถขึ้น Stop Arm ก็ยังไม่หยุด
4. แซงรถรับส่งนักเรียนที่ขึ้นสัญลักษณ์ครบแล้ว ว่าจอดส่งเด็ก คุณไม่มีสิทธิแซงอย่างในภาพและคลิป
5. เห็นคนข้ามถนน หยุดไม่ทัน
6. ผิดกฏหมายด้วย ตั้งแต่รถไม่หยุด หลังสัญญานเตือนของรถรับส่งนักเรียน เขียนโปรแกรมล้มเหลวระดับทำผิดกฏหมายเลยเหรอ

ไม่ต้องพูดถึงว่า จะใช้ระบบไหนในการ Detect เพราะคุณผิดตั้งแต่เงื่อนไขแรกแล้ว คือเห็นรถนักเรียนแสดงสัญญานจอด แล้วระบบไม่สั่งให้รถหยุด แต่ยังวิ่งแซงไปอีก ผิดกฏหมายตั้งแต่ต้น พลาดตั้งแต่จุดเริ่มต้น ที่เหลือไม่ต้องพูดถึงอะไรแล้ว สิ่งที่เลวร้ายกว่านั้นที่เป็นไปได้ คือระบบดูไม่ออกว่าเป็นรถนักเรียน ไม่อ่านสัญญาน ไม่เข้าใจสัญญาน หรือไม่ได้ใส่เงื่อนไขให้รถปฏิบัติตามกฏหมาย

ตามปรกติการทดสอบแบบนี้มันทดสอบแบบสุดขีดจำกัดของอุปกรณ์ นี่ยังไม่รวมหากนำไปทดสอบตอนกลางคืน หรือสถาวะแวดล้อมเลวร้าย มีพายุ ซึ่งผมว่าน่าจะยังมี issue อีกเพียบ แต่ด้วยลักษณะเฉพาะของบริษัทที่เป็นไอทีนำหน้าแล้วมาทำรถยนต์ มักจะมองแค่ 80% แล้วมองข้าม 20% ที่มักเกิดน้อยออกไป เพื่อให้สามารถหมุนเงินสดได้ทันตามรอบ ซึ่งต่างจากบริษัทรถยนต์ที่ทำการมานานแล้วมีมาตรฐานรองรับในเรื่องความปลอดภัย ว่าอันไหนทำได้ อันไหนทำไม่ได้ แล้วแจ้งให้ผู้ใช้ทราบตั้งแต่แรก รวมถึงมีแหล่งเงินในการลงทุนที่ไม่ต้องรีบร้อนเข็นสินค้าที่ไม่พร้อมออกมา นี่ยังไม่รวมถึงกฎหมายที่ตามไม่ทันเทคโนโลยี ที่ทำให้เกิดช่องโหว่ ให้ผู้ประกอบการผลิตสินค้าออกจำหน่ายได้ โดยยังไม่ผ่านมาตรฐานด้านความปลอดภัยที่ได้รับการยอมรับ หรือรัฐยังไม่มีบททดสอบด้านความปลอดภัยที่ทุกบริษัทยอมรับ ผมก็แค่วิเคราะห์ให้เห็นถึงปัญหา ผมว่าน่าจะเป็นเกือบทุกยี่ห้อแหล่ะที่ไม่ใช้ Lidar ถ้านำการทดสอบนี้ไป implement ดูยี่ห้ออื่นที่ใช้แต่กล้องอย่างเดียว

นี่ถ้าไปเทียบกับโดรนทางการทหาร บอกเลยว่าน่าจะยังห่างไกลหลายปีแสง อันนั้นกล้องนี่แทบเป็นองค์ประกอบย่อยเพื่อรองรับเหตุไม่คาดฝันมากกว่า ส่วนระบบหลักใช้วิธีการซับซ้อนมาก ที่จะทำให้ระบบอัตโนมัติในรถยนต์ทำได้เทียบเท่าได้ในราคาที่สมเหตุสมผล

อ้างอิงจากตลิปในข่าวนะครับ และในภาพด้วย

อันนี้ไม่ต้องแถ ไม่ต้องแก้ตัวอะไรทั้งสิ้นครับ ผิดเต็มประตู ไม่มีคำว่าหยุดไม่ทันครับ ไม่ต้องมีเด็กลงจากรถ แค่รถรับนักเรียนจอด คุณต้องหยุดรถแล้ว ไม่จำเป็นจะต้องเห็นเด็กลงมาจากรถ

กฎหมายกำหนดไว้อย่างชัดเจนว่า เมื่อรถรับส่งนักเรียนจอดและเปิดไฟกระพริบสีแดงพร้อมกับยื่นแขนหยุด (stop arm) ออกมา ผู้ขับขี่รถคันอื่นๆ ทั้งที่ขับตามหลังและขับสวนทาง จะต้องหยุดรถทันที และรอจนกว่าไฟกระพริบสีแดงจะดับลงและแขนหยุดจะหดกลับเข้าไป หรือรถโรงเรียนเคลื่อนที่ไปแล้วเท่านั้นจึงจะสามารถขับต่อไปได้

ในวีดีโอ เห็นได้ชัดว่า มีทั้งไฟกระพริบ และ stop arm แต่ Tesla ขับแซงไป อันนี้ไม่ใช่แค่ระบบไม่ปลอดภัย แต่ทำผิดกฏหมายด้วยครับ และในภาพ รถ tesla อยู่คู่ขนานกับรถนักเรียน ที่มี stop arm กางอยู่ จริง ๆ แล้ว รถต้องหยุดตั้งแต่ท้ายรถนักเรียนแล้ว ไม่สามารถขับมาอยู่ตำแหน่งนี้ได้ด้วยซ้ำไป

แหล่งข้อมูลอ้างอิง พร้อมตัวอย่างจากบางรัฐ

National Highway Traffic Safety Administration (NHTSA)

“In every state, it is illegal for you to pass a school bus while the stop-arm is extended and the red lights are flashing.”

แต่ตอนนี้ LIDAR ก็มีปัญหาทำลายเซนเซอร์กล้องอยู่ถ้ารถใช้ LIDAR วิ่งกันเยอะๆนี้ยกมือถือขึ้นมาถ้าภาพถ่ายวีดีโอในเมืองไม่น่าจะรอด ต้องรอดูว่าเขาจะแก้ยังไง

เนื่องจากหลังๆ มี หลายเหตุรุนแรง กับ รถเทสล่า , มีกระทั่ง การวางระเบิด .. ในตอนนี้ , ระบบจึงอัพเดตให้ประเมิน ความสมจริงของสถานการณ ด้วย

หากระบบมั่นใจเต็มเหนี่ยวว่า สถานการณไม่สมจริง , มั่นใจว่าเป็น สถานการณปลอมๆ .. ระบบจะพาหนี จะไม่ชะลอ , เพราะอาจเป็นกับดักอาจตกเป็นเป้าการทำร้าย ซึ่งหากชะลอก็อาจจะเกิดอันตรายเกิดความเสียหายรุนแรงมากยิ่งขึ้นได้

พลอตประมาณนี้ .. พอจะได้มั้ย 🤓