Tags:
Node Thumbnail

มีเหตุเรื่องข้อมูลส่วนตัวอีกครั้ง คราวนี้เป็น Amazon Echo Dot เว็บไซต์ KIRO-7 รายงานว่า Amazon Echo Dot บันทึกเสียงการสนทนาของผู้ใช้งานรายหนึ่งคือ Danielle และสามีของเธอ และส่งข้อมูลเสียงไปยังโทรศัพท์ของเพื่อนร่วมงานของสามี โดยเป็นเบอร์โทรศัพท์ที่อยู่ในลิสต์รายชื่อผู้ติดต่อ

คนที่รับข้อมูลโทรมาบอก Danielle ว่า ถอดปลั๊กอุปกรณ์ Alexa เดี๋ยวนี้ เพราะคุณกำลังโดนแฮก ซึ่งคนที่แจ้งข่าวก็ส่งข้อความเสียงสนทนาที่เขาได้รับกลับมาให้ Danielle ฟัง ปรากฏว่าเป็นเสียงสนทนาระหว่างเธอและสามีจริงๆ

Danielle แจ้งเรื่องนี้ไปยัง Amazon วิศวกรรับทราบเรื่องและกำลังสอบสวน และขอโทษขอโพยยกใหญ่ต่อความผิดพลาดครั้งนี้

Amazon ชี้แจงกับเว็บไซต์ Ars Technica ว่า นี่เป็นความผิดพลาดที่มีโอกาสเกิดขึ้นยากมาก ซึ่งปกติ Echo จะเริ่มการทำงานเมื่อได้ยินเสียงเรียก Alexa จากนั้นการสนทนาในเวลาต่อมาก็ถูกได้ยินว่าเป็น "ส่งข้อความ" ถึงจุดนี้ Alexa จะถามว่า ส่งให้ใคร และเมื่อถึงจุดนั้นบทสนทนาเบื้องหลังจะถูกตีความว่าเป็นชื่อในรายชื่อผู้ติดต่อของผู้ใช้ และครั้งนี้ก็ไม่ได้บอกรายละเอียดว่าความผิดพลาดเกิดขึ้นได้อย่างไร

No Description
ภาพจาก Shutterstoc โดย Zapp2Photo

ที่มา - KIRO-7 และ Ars Technica

Get latest news from Blognone

Comments

By: Iamz
AndroidWindows
on 25 May 2018 - 17:12 #1051582

ปกติมันทุกคำสั่งที่ Echo ตีความมันจะไปโผล่ใน Alexa app ถ้ามีลงไว้น่าจะไปดูย้อนหลังได้ว่าเป็นตามที่ Amazon ว่าจริงรึเปล่า

By: Be1con
ContributorWindows PhoneWindowsIn Love
on 25 May 2018 - 17:52 #1051602
Be1con's picture

xdb9 => ปกติ


Coder | Designer | Thinker | Blogger

By: sunnywalker
WriterAndroid
on 25 May 2018 - 18:26 #1051619 Reply to:1051602

ขอบคุณค่ะ

By: Patchan
iPhone
on 25 May 2018 - 18:25 #1051618

Skynet!

By: akira on 25 May 2018 - 21:47 #1051662

สรุปคือ AI ตีความผิด ตั้งแต่ลอง Train AI มา ลอง 10 ครั้งจะมีสัก 1 ครั้งที่ตีความผิด ต้องไปปรับ Keyword เพิ่ม เพราะบางทีมันมีบางประโยค ไปคล้ายกับคำสั่งอื่น ยิ่งสั่งด้วยเสียงต้องผ่าน AI อย่างน้อย 2 ชั้นมีโอกาสพลาดได้

By: Bluetus
iPhone
on 26 May 2018 - 01:08 #1051690
Bluetus's picture

น่ากลัวต่อเนื่อง

By: foizy
AndroidUbuntuWindows
on 26 May 2018 - 01:14 #1051692

มีความลักลั่นย้อนแย้งที่
ไม่รู้ว่ารูปประโยคชี้นำความตั้งใจให้ส่งข้อความ ในลำดับที่พอเหมาะพอเจาะพอดีกัน

เช่นบทสนทนา มีคำที่เป็นลำดับว่า ส่งข้อความ -> ไปหา -> เบอร์ -> ด้วยนะ
แล้วจากบทสนทนา กลายเป็นการบันทึกไปโดยปริยาย

แต่การใช้สมาร์ทดีไวซ์ทั้งหลายนี้มันก็เหมือนเปิดประตูให้เค้าฟัง+ตีความทุกอย่างอยู่แล้วนะ
ถ้าตีความแล้วได้คำสั่งมันก็ต้องทำ และเราก็คงต้องระวังไม่ให้นำตัวเองไปสู่บทสนทนานั้นเองอยู่ดี เพราะการใช้งานแบบ Personal Assistant บางอย่างเราน่าจะมีความปราถนาให้ระบบ รู้เรื่องและจัดการได้โดยไม่ต้องถามย้ำคิดย้ำทำ

ผมว่าประเด็นที่อาจจะพลาดหรือขาดไปคือ Audible Alert ว่ากำลังทำอะไรอยู่ หรือเครื่องกำลังจะทำอะไร

ในอีกมุม บทสนทนาที่ได้รับก็เปิดเผยเพื่อความบริสุทธิ์ของเครื่องไม่ได้ เพราะเป็น Privacy ของผู้ใช้ซะงั้นไป

By: langisser
In Love
on 26 May 2018 - 08:55 #1051711 Reply to:1051692

เพราะในคำโฆษณาและวิธีการใข้งานไม่ได้บอกว่า "หากคุณคุยเล่นๆมันก็จะตีความเป็นคำสั่ง" มั้งครับ มีแต่บอกว่าฉลาดแบนั่นแบบนี้ ทำตามได้ทุกคำสั่ง(ก็จริงของเค้านะ) ผมเดานะครับเพราะไม่ได้ใช้งาน

ดังผมก็คิดว่าเรื่องพวกนี้ผู้ผลิตต้องรับผิดชอบ และหาทางป้องกัน

By: foizy
AndroidUbuntuWindows
on 27 May 2018 - 17:32 #1051877 Reply to:1051711

มันมีเส้นแบ่งระหว่างความสะดวกตรงนี้แหละครับ

กับอุปกรณ์ที่ฟังด้วยหูตลอดเวลา มันไม่มี Face Recognition ที่บอกว่าคำพูดนี้เราตั้งใจคุยกับ Alexa โดยตรง (หรือแค่ Mention ถึง)

จริงๆคิดซะว่ามันคือคนตาบอดที่ทำงานได้ทุกอย่างก็ได้ เราอาจจะต้องสั่งด้วยคำสั่งที่ชัด(เคลียร์ในวัตถุประสงค์) และกระชับกว่านี้

---- แต่ก็ใช่แหล่ะว่าต้องแก้ไข และรับผิดชอบประมาณนึง

แต่เอาจริงๆเราควรมี Awareness ในระดับที่ว่า มี "อีกหนึ่งคน" อยู่ในระยะการสนทนานะ 555