Mercedes-Benz

ประเด็นเรื่องศีลธรรมของรถไร้คนขับ ที่ต้องเลือกช่วยชีวิตระหว่างผู้โดยสารบนรถและคนเดินถนนถูกหยิบยกขึ้นมาพูดถึงและทำวิจัยอยู่เนืองๆ ถึงความสามารถในการตัดสินใจของเครื่องจักรและ AI ล่าสุดผู้บริหารของ Mercedes-Benz ยกประเด็นนี้ขึ้นมาอีกครั้ง โดยระบุว่ารถไร้คนขับของเบนซ์นั้น จะเลือกช่วยผู้โดยสารเป็นหลักก่อน

Christoph von Hugo ผู้บริหารที่ดูแลด้านระบบความปลอดภัยและระบบช่วยขับขี่ระบุว่า รถไร้คนขับจะเลือกช่วยผู้โดยสารในรถเป็นอันดับแรก (first priority) ก่อนคนเดินถนน หากเกิดอุบัติเหตุในกรณีที่มีตัวเลือกเพียง 2 ตัวเลือกและมีการเสียชีวิตแน่ๆ (เช่น หักรถหลบ เพื่อช่วยคนเดินถนน หรือขับชนไปเลยเพื่อป้องกันผู้โดยสารในรถ) แต่ก็ไม่ใช่ว่ารถยนต์จะขับพุ่งชนกลุ่มนักเรียนด้วยความเต็มใจนัก

von Hugo มีการพูดถึงปัญหาโลกแตกอย่าง Trolley Problem ด้วย ซึ่งเป็นปัญหาทางสองแพร่งเชิงศีลธรรมคลาสสิคจากสถานการณ์สมมติที่ว่า มีรถรางบรรทุกถ่านหิน กำลังไหลไปบนรางด้วยความเร็ว รางข้างหน้ามีคน 5 คน และอีกเส้นมีคนงาน 1 คน รถรางหยุดไม่ได้ แต่สามารถสลับรางได้ หากเราสามารถควบคุมการสับรางได้ จะเลือกช่วยชีวิต 1 คนหรือ 5 คน

ปัญหาคล้ายๆ กันนี้เคยถูกหยิบยกขึ้นมาทำวิจัยในกรณีของรถไร้คนขับด้วย ว่าจะช่วยชีวิตคนส่วนใหญ่ แต่คนขับเสียชีวิต หรือช่วยคนขับแต่ต้องชนคนส่วนใหญ่ ซึ่งล้วนแล้วแต่ส่งผลต่อความน่าเชื่อของรถไร้คนขับทั้งสิ้น

ที่มา - Fotune

Screen Shot 2559-10-17 at 13.09.46

Hiring! บริษัทที่น่าสนใจ

Carmen Software company cover
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd. company cover
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime company cover
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group company cover
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies company cover
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand company cover
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software company cover
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE company cover
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud company cover
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise company cover
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank company cover
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank company cover
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.) company cover
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd. company cover
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group company cover
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited company cover
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd. company cover
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV company cover
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB company cover
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd. company cover
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH company cover
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks company cover
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd. company cover
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech company cover
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd company cover
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand company cover
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai company cover
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand

กรณีรถรางที่ยกมามันยังดูเหมือนมีเวลาไตร่ตรองในการตัดสินใจนานพอสมควร แต่สถานการณ์จริงถ้าเป็นอุบัติเหตุทางรถยนต์มันจะใช้เวลาในการตัดสินใจในเสี้ยววินาที ซึ่งผมว่ามันเทียบเทียบกันตรงๆ ไม่ได้

แต่ปกติผู้ผลิตหรือคนที่ทำ AI ก็คงบอกว่าตัวเองลงโปรแกรมไว้ให้ทำตามหลักจราจรไว้ตั้งแต่ต้นหล่ะครับ(ยกเว้นว่าบั๊กหรือทำงานผิดพลาดนะครับ)

เหลือว่าตามความเป็นจริงจะยังไงต่อ

ตอนซื้อจะต้องลง license agreement ก่อนด้วยไหมนะ ว่าระบบใช้ ระบบการตัดสินใจเพื่อปกป้องเจ้าของรถ
หากเกิดความเสียหายอื่นที่เป็น ทรัพสินแล้วโดนฟ้องร้องทีหลัง ระบบไม่เกี่ยวท่านจะต้องจ่ายเงินเอง

menu_dot Mon, 17/10/2016 - 14:07

คือ สร้างให้ไม่ไปทำความเดือดร้อนให้ใคร ไม่ชนกับอะไรก่อน ไม่ใช่มานั่งเลือกว่าจะรักษาชีวิตใคร
เป้าหมายการทำงานผู้บริหาร

ประเด็นที่ถกกันอยู่นี้คือในกรณีที่ใช้วิธีการอื่นใดไม่ได้แล้วไงครับ สถาณการณ์บังคับทำให้มีตัวเลือกแค่นี้จริงๆ
ถ้านึกไม่ออกก็ลองจิตนาการเหตุเครื่องบินกำลังจะตก(ต้องตกแน่ๆ) ยังไงคนขับก็ต้องตัดสินใดว่าจะควบคุมให้เครื่องบินไปตกในจุดไหน ซึ่งมันไม่ใช่เวลาที่จะมาคิดว่าจะทำยังไงไม่ให้เดือนร้อนใคร ไม่ชนกับอะไรก่อน

ผมคิดว่าน่าจะเรียงตามนี้นะ

  1. ขับตามกฎจราจร
  2. ถ้ามีเหตไม่คาดฝันให้หลบในพื้นที่ถนน
  3. ถ้าหลบในพื้นที่ถนนไม่พ้นให้หาพื้นที่หลบนอกถนนที่ไม่ชนคนข้างถนน
  4. ถ้าหาไม่ได้ให้ชนโดยลดความเสียหายให้ได้มากกที่สุด
    ผมไม่เชื่อว่าคอมจะเข้าใจสถานะการณ์แบบ Trolley Problem ได้ เพราะในกรณีฉุกเฉินจริงๆมันน่าจะมีปัจจัยอื่นเยอะจนมันอาจไม่ใช่ปัญหา Trolley Problem

"ลดความเสียหายให้ได้มากกที่สุด" เวลา AI จะตัดสินใจก็ต้องผ่านการถ่วง weight ซึ่งตามข่าวมีหมายความว่าชีวิตผู้โดยสาร weight มากกว่าแน่ๆ และจะทำให้ไม่เป็น Trolley Problem สินะครับ

Eddz Mon, 17/10/2016 - 14:24

คนซื้อรถ ก็เหมือนซื้อความปลอดภัยที่ให้กับตนเองก่อน และผู้ร่วมทางทีหลังอยู่แล้ว ในกรณีเลือกได้ 1 ชีวิต

ผมคิดว่า ถ้าเกิดเหตุอย่างที่ว่า บริษัทผู้ผลิต และ ฝ่ายผู้เสียชีวิตต้องเข้าสู่กระบวนการพิสูจน์ความผิด เพื่อหาข้อสรุปว่าใครเป็นฝ่ายผิดครับ

ผมคิดฝังคนเดินถนน ท่าทำตามกฏ 100% >ก็ต้องไม่เร็วเกินกำหนด>ถ้าไม่เร็วเกินก็ต้องเบรกทัน>ถึงเบรถไม่ทันหักหลบ รถที่ได้มาตราฐานทดสอบการชน>ผู้โดยสารก็ไม่เป็นอะไรมาก
(หวังว่ารถคงเลิกได้เอง ว่าจะเอามุมไหนเข้าชน ที่จะไม่เป็นอันตรายมาก)

มันถึงเกิดขึ้นจากระบบได้ยากไงครับ เพราะต้องทำตามกฏที่ตั้งไว้
มันจะมีก็คืออยู่ ๆ คนกระโดดลงมาบนถนน ด้วยเหตุบางอย่างที่ระบบไม่ได้คาดไว้ไงครับ

และถ้าแกล้งจนเกิดเหตุฉุกเฉินแบบที่ไม่มีทางรักษาชีวิตคนแกล้งไว้ได้ เช่น กระโดดตัดหน้ารถพอดีเป๊ะ ก็สมน้ำหน้ากันไป

ทำไมผมนึกถึงตำรวจจราจรเมืองไทยนะ เคยเห็นมากับตาตัวเองเลยว่ายืนหลบอยู่หลังต้นไม้กันอยู่2คน พอรถที่อยู่ช่องจราจรซ้ายมาก็โผล่พรวดออกมาซะงั้น ผมไม่ได้อยู่ช่องจราจรซ้ายสุดยังตกใจเลย

ประเด็นนี้คงตอบให้ถูกต้อง 100% ไม่ได้ แต่ผมเห็นด้วยนะครับ ถ้าคำว่า "ไม่สามารถหลีกเลี่ยงได้" นั้นคือหลีกเลี่ยงไม่ได้จริง ๆ เหมือนผมซื้อรถยนต์มาขับ ที่จ่ายแพงกว่ารถจักรยานยนต์ เพราะคิดว่าหากเกิดอุบัติเหตุ ก็ยังมีเหล็กหุ้มเราอีกที (อุปมา) ฉะนั้น รถที่ดีก็ควรจะต้องป้องกันคนขับ เมื่อไม่มีทางเลี่ยงใดใดได้แล้วจริง ๆ

จริงๆแล้วผมว่ามันถูกอธิบายผิดหรือเปล่า มันก็เลยเป็นประเด็น
นี่ผมเดานะ

คือถ้ายกในกรณี การขับรถโดยทั่วไป เราถูกสอนกันอยู่แล้วนะว่า ถ้ามีอะไรตัดหน้า ในกรณีที่ไม่ได้มองทางข้างๆ ถ้าเบรคไม่อยู่ให้ชน อย่าหักหลบ เพราะมันอาจจะก่อให้เกิดอุบัติเหตุที่ใหญ่กว่าเช่นหักหลบไปเลนข้างชนกับรถในเลนอื่น หรือว่าลงคลองอะไรก็ว่าไป

ซึ่งในกรณีของรถ ai ในกรณีนี้ย่อมตัดสินใจได้ดีกว่าคนด้วยซ้ำ เพราะ เอาสิเจอของข้างหน้าเบรคไม่อยู่สัญชาติญาณร้อยทั้งร้อยเราหักหลบเอง แต่รถมีเซนเซอร์ในการที่จะรู้ว่าการหักหลบฉุกเฉินมันปลอดภัยกว่าการชนหรือไม่

ซื้อรถมาคันเป็นล้าน ปกป้องตัวเองสิคร้าบบ
งั้นเราจะยอมจ่ายเพื่อถุงลม 6 ใบ, ระบบ Lane Daparture, Smart City Break ฯลฯ ไปทำไม

ผมว่าค่ายรถยนต์คิดทางออกเรื่องนี้ไว้นานแล้วนะครับ แต่ข่าวนี้มุ่งเน้นแต่เรื่องศีลธรรมซึ่งไม่มีวันหาข้อสรุปได้หรอก

คือเมื่อสัก 10 กว่าปีก่อนน่ะ ก็ไม่มีบริษัทรถยนต์เจ้าไหนสนใจหรอกว่าถ้าเจ้าของรถขับรถไปชนคนเดินถนนเข้า คนเดินถนนจะต้องเจ็บหนักแค่ไหน

วิศวกรรถทุกยี่ห้อคิดแต่ว่าต้องเอาคนในรถปลอดภัยไว้ก่อน เพิ่งจะมามีช่วงหลังปี 2000 ที่ยุโรปประกาศว่าต่อไปนี้รถที่ขายในยุโรปจะต้องคำนึงถึงคนที่โดนชนด้วย ซึ่งนับจากนั้นมา ค่ายรถยนต์ก็เริ่มผลิตรถที่พอชนแล้วจะทำให้คนโดนชนบาดเจ็บน้อยที่สุด

อย่างไรก็ตามรถทุกยี่ห้อที่ผลิตก่อนกับหลังปี 2000 จะเห็นพัฒนาการด้านคะแนนความปลอดภัยของคนเดินถนนพุ่งขึ้นเลย แม้จะไม่ถึงกับปลอดภัย 100% แต่ก็ดีขึ้นมาก และผมเชื่อว่าเขาก็ยังพัฒนากันอย่างต่อเนื่อง

มันเป็นไปไม่ได้อยู่แล้วครับที่ผู้ผลิตรถจะบอกให้คนซื้อรถคันเป็นล้านยอมสละชีวิตตนเองก่อนเพื่อส่วนรวม ทางออกสำหรับเรื่องนี้มันไม่ใช่ว่าจะต้องเลือกใคร แต่จะรักษาทุกคนไว้ได้อย่างไรตะหาก

ตัดสินใจง่ายๆ ถ้าไม่เน้นความปลอดภัยของผู้โดยสาร ก็คงไม่ซื้อครับ
ถ้าอยากลดการบาดเจ็บของคนภายนอกที่ถูกชน นอกเหนือจากการเบรก จะเพิ่มอุปกรณ์เสริมความปลอดภัยบริเวณหน้ารถก็เพิ่มไปครับ แต่ไม่ใช่ด้วยการให้ผู้โดยสารตายแทน

เผื่อใครต้องการทดสอบว่า (ใจตัวเอง) อยากให้รถไร้คนขับตัดสินใจอย่างไร ลองไปทำแบบทดสอบ Moral Machine ของสถาบันเทคโนโลยีแมสซาชูเซตส์ (MIT) ดูนะครับ :)
หรือจะไปแสดงความคิดเห็นในสถานการณ์ต่าง ๆ ก็ได้
อันนี้ผลลัพธ์ของผมครับ

waroonh Tue, 18/10/2016 - 07:20

กด auto pilot
ชนคนตาย
คนขับ ควรได้รับโทษทางกฏหมายมั้ย?

โดยหลักทางวิศวกรรมยานยนต์แล้ว คนขับคือ first priority เสมอครับ

อย่างการจัดอบรมขับขี่ภายในบริษัทรถยนต์ ก็บอกว่า ถ้าเลี่ยงไม่ได้ก็ต้องชน เบรกแล้ว บีบแตรแล้ว ไม่ได้ ต้องยอมชน ในกรณีที่มีสัตว์ตัดหน้า แต่ในกรณีคนแล้ว ก็ต้องพิจารณาเป็นรายๆไป ถ้าเลี่ยงไม่ได้ก็ต้องชนอยู่ดี

ในกรณีรถยนต์ไร้คนขับ ก็เช่นเดียวกัน ตัวรถมีหน้าที่รักษาความปลอดภัยให้ผู้โดยสาร ก็ต้องให้ผู้โดยสารมีความปลอดภัยสูงสุดก่อนครับ แต่ถ้าเลี่ยงได้ ก็ควรจะเลี่ยงนั่นแหละ

งั้นจำกัดความเร็วไม่ให้เร็วถึงระดับที่ชนแล้วผู้โดยสารตาย พอเกิดเหตุฉุกเฉินก็เลือกชีวิตคนเดินถนนสำคัญกว่าแล้ววัดฝีมือระบบดูดซับแรงกระแทกของรถไปเลย

ถ้าจะวิ่งเร็วได้ต่อเมื่ออยู่บนทางด่วนที่น่าจะป้องกันไม่ให้มีคนเดินถนนอยู่ข้างนอกแน่ๆ

เป็นเรื่องที่ตัดสินใจยาก
ถ้าเราไม่ทำอะไร ปล่อยไปตามกรรม รถจะไปชนคน 5 คนตาย
แต่ถ้าเรายืนมือเข้าไปช่วยคน 5 คน แล้วต้องเลือกที่จะฆ่าคน 1 คน คนที่ไม่ผิดไม่รู้เรื่องไม่ข้องเกี่ยว แค่ถูกคุณตัดสินว่ามีค่าน้อยกว่าและต้องตาย

thanyadol Tue, 18/10/2016 - 16:08

ยังเหลือ กรณีรถพยาบาลผ่าไฟแดงแยกตรงข้าม มาอีกนะ ดราม่าชาวไทย

ถ้าต้องเลือกช่วยชีวิตแม่หรือเมียรัก ช่วยได้แค่ชีวิตเดียว คุณจะเลือกช่วยใครหละครับ
คำตอบที่ถูกต้องจริงๆมันไม่มี แต่สิ่งที่ต้องทำมันมี ซวยมนุษย์โลกเลย
คำตอบอาจจะเป็นการเปลี่ยนวิธีเดินทางไปเลย