เว็บไซต์ The Economist ในเกาหลีใต้รายงานว่า Samsung Electronics เกิดเหตุข้อมูลรั่วไหล 3 ครั้งหลังพนักงานนำข้อมูลสำคัญไปถาม ChatGPT แม้บริษัทจะอนุญาตให้พนักงานใช้งาน ChatGPT ในเรื่องทั่วๆ ไปได้ก็ตาม เหตุการณ์ที่พนักงานถูกลงโทษได้แก่
- พนักงานส่งข้อความแสดงความผิดพลาดของโปรแกรมเข้าไปใน ChatGPT เพื่อให้ ChatGPT ช่วยแก้ปัญหาแต่ก็ทำให้ข้อมูลพื้นที่การผลิตถูกส่งไปยัง OpenAI ด้วย
- พนักงานเขียนโปรแกรมเกี่ยวกับอัตราการผลิตสำเร็จ (yield) ของโรงงานผลิต ทำให้ข้อมูลรั่วไหลไปยัง OpenAI
- พนักงานนำบันทึกประชุมแปลงเป็นข้อความ แล้วนำข้อความใส่ ChatGPT เพื่อทำบันทึกสรุปการประชุม
หลังเกิดเหตุทั้งสามครั้ง ทางบริษัทแจ้งพนักงานให้ระมัดระวังในการใช้งาน และหากมีเหตุอีกก็อาจจะบล็อคไม่ให้ใช้งาน ChatGPT อีกเลย
บริษัทขนาดใหญ่มักกลัวการใช้งาน ChatGPT เนื่องจากลัวว่าข้อมูลจะถูกนำไปฝึกปัญญาประดิษฐ์รุ่นต่อไปจนทำให้ข้อมูลรั่วออกไปภายนอก โดย OpenAI เองมีคำเตือนมาตลอดว่าอย่าใส่ข้อมูลสำคัญในช่องแชตของ ChatGPT ขณะที่การให้บริการผ่าน API นั้นทาง OpenAI สัญญาว่าจะไม่นำข้อมูลไปใช้งานอื่นต่อ
ที่มา - Economist.co.kr

on
อยู่ดีๆ ก็มีคนมาช่วยเทรน
KuLiKo Wed, 05/04/2023 - 20:38
อยู่ดีๆ ก็มีคนมาช่วยเทรน
network นี่ตรวจถึง Input ที่
TeamKiller Wed, 05/04/2023 - 21:35
ทีมไอทีนี่ตรวจถึง Input ที่ user ป้อนเข้าคอมเลยปะเนี่ยถึงรู้
เดาว่า Samsung
mr_tawan Wed, 05/04/2023 - 21:45
In reply to network นี่ตรวจถึง Input ที่ by TeamKiller
เดาว่า Samsung ใช้บริการแบบเสียตังค์ขององค์กร เลยสามารถเข้าไปเช็คได้ 55
DLP ?
sariarty Thu, 06/04/2023 - 09:15
In reply to network นี่ตรวจถึง Input ที่ by TeamKiller
DLP ?
เคยได้ยิน
TeamKiller Thu, 06/04/2023 - 13:01
In reply to DLP ? by sariarty
เคยได้ยิน แต่ไม่แน่ใจมันทำงานยังไง ไม่เคยเห็นของจริง
บริษัทใหญ่ๆ
lew Thu, 06/04/2023 - 11:03
In reply to network นี่ตรวจถึง Input ที่ by TeamKiller
บริษัทใหญ่ๆ นี่คอมในบริษัทบังคับออกเน็ตผ่าน gateway ของตัวเอง แถมทำ mitm เช็คข้อมูลเข้าออกทุกอย่างครับ พวกนี้ copy ไฟล์อะไรเข้าออกเครื่องตอนไหนยังมี log ส่งเซิร์ฟเวอร์เลย เรียกรวมๆ ว่า DLP ล่ะ
ผมแอบสงสัยถ้าข้อมูลมันหลากหลา
TeamKiller Thu, 06/04/2023 - 13:00
In reply to บริษัทใหญ่ๆ by lew
ผมแอบสงสัยถ้าข้อมูลมันหลากหลายมากๆ มากๆ ไอทีจะรู้ได้ไงว่าส่งอะไรสำคัญออกไปนะครับ นั่งเฝ้าทั้งวันคงไม่น่าจะไหว หรือเขาทำ pattern ข้อมูลที่ custom มาเฉพาะบริษัทอยู่แล้วเอาใส่ในระบบให้ตรวจได้งี้
มันตั้ง rules หรือให้ ai
iamfalan Fri, 07/04/2023 - 01:49
In reply to ผมแอบสงสัยถ้าข้อมูลมันหลากหลา by TeamKiller
มันตั้ง rules หรือให้ ai check ให้ครับ
แบบง่ายๆ อย่าง ms365 ยังเช็คได้ว่ามีการส่ง sensitive content ไปทาง email หรือเปล่า มันก็ scan หาสิ่งที่น่าจะเป็นเลขบัตรประชาชน อะไรแบบนั้นครับ
ChatGPT หรือ AZ OpenAI มี
VirtualPrivateUser Wed, 05/04/2023 - 22:39
ChatGPT หรือ AZ OpenAI มี sole-tenant ขายแล้วเหรอครับนี่
เนื่องจากลัว เนื่องจากกลัว
Mediumrare Thu, 06/04/2023 - 01:32
เนื่องจากกลัว
Google: ...
mrBrightside Fri, 07/04/2023 - 10:01
Google: ...
ขณะที่การให้บริการผ่าน API
tomyum Fri, 07/04/2023 - 18:30