on
หลังจากแอปเปิลใส่โมเดล NeuralHash ไว้ใน iOS ก่อนที่จะเปิดใช้งานฟีเจอร์ตรวจสอบภาพโป๊เด็กก่อนอัพโหลดขึ้น iCloud Photos และมีนักพัฒนาไปพบโมเดลจนแปลงกลับออกมาเป็นฟอร์แมต ONNX เพื่อรันบนพีซี ตอนนี้ Anish Athalye นักวิจัยจาก MIT CSAIL ก็แสดงโค้ดสาธิตการสร้างภาพหลอกเพื่อแปลงภาพใดๆ ให้ค่าแฮชตรงกับภาพเป้าหมาย
โมเดลปัญญาประดิษฐ์ทุกวันนี้มักเป็นฟังก์ชั่นสำหรับหารูปแบบในอินพุตสร้างเอาต์พุดตามความต้องการ เช่น การจัดหมวดหมู่ภาพหรือการแปลงเสียงเป็นคำพูด แม้จะทำงานในกรณีทั่วไปได้ดี แต่ก็มีงานวิจัยแสดงให้เห็นว่าโมเดลปัญญาประดิษฐ์ที่ฝึกมามักมีช่องโหว่ ทำให้ผู้ที่ต้องการเอาต์พุตบางอย่างสามารถออกแบบอินพุตอย่างเจาะจงเพื่อให้ได้เอาต์พุตตามต้องการ
ตอนนี้ยังไม่มีการยืนยันจากแอปเปิลว่าฟังก์ชั่น NeuralHash ที่มีผู้แกะออกมาจาก iOS นี้เป็นเวอร์ชั่นเดียวกับที่แอปเปิลจะใช้ตรวจสอบภาพโป๊เด็กตามที่ประกาศออกมาหรือไม่ นอกจากนี้แอปเปิลยังระบุว่าจะเข้ารหัสฐานข้อมูลค่าแฮชในโทรศัพท์ กระบวนการแกะฐานข้อมูลค่าแฮชจริงจึงอาจจะยุ่งยากพอสมควร
ที่มา - GitHub: anishathalye/neural-hash-collider
ภาพแมวด้านซ้ายถูกปรับเพื่อให้มีค่าแฮช "59a34eabe31910abfb06f308" ตรงกับภาพหมาทางด้านขวา
Fail
IDCET Thu, 19/08/2021 - 10:53
Fail ตั้งแต่ยังไม่ได้เปิดใช้งานเลย Apple จะดันทุรังต่ออีกไหมเนี่ย ภาพลักษณ์ตอนนี้ก็พังไปส่วนหนึ่งแล้วนะ
งั้นภาพแฟนใครๆ ก็อาจจะถูก
Perl Thu, 19/08/2021 - 11:05
งั้นภาพแฟนใครๆ ก็อาจจะถูก Apple ดูได้
ถ้า Hash "บังเอิญ" ชนกัน
เพิ่มภาระงานให้ processor
nununu Thu, 19/08/2021 - 11:14
เพิ่มภาระงานให้ processor มากขึ้น ขั้นตอนเยอะขึ้น ใช้เวลามากขึ้น กินแบตมากข้นไปอีก
แอบเข้าถึงข้อมูลจากฝั่ง Cloud
syberain Thu, 19/08/2021 - 12:28
In reply to เพิ่มภาระงานให้ processor by nununu
แอบเข้าถึงข้อมูลจากฝั่ง Cloud ครับ
มือถือประมวลผลเอง คงโดนฟ้องให้ออกแพชลบ
บน Cloud ทำทุกเจ้าครับ
darkleonic Thu, 19/08/2021 - 12:38
In reply to แอบเข้าถึงข้อมูลจากฝั่ง Cloud by syberain
บน Cloud ทำทุกเจ้าครับ ที่เขาด่าๆ กันในข่าวคือบุกมาแสกนในเครื่องก่อนอัพขึ้น Cloud ครับ
เอ่ม
ZeaBiscuit Thu, 19/08/2021 - 12:46
In reply to แอบเข้าถึงข้อมูลจากฝั่ง Cloud by syberain
เอ่ม พี่ได้อ่านข่าวก่อนๆมั่งไหมครับเนี่ย ?
(ถ้าอันนี้เป็นอันที่ใช้จริงแล
xyz123 Thu, 19/08/2021 - 11:18
(ถ้าอันนี้เป็นอันที่ใช้จริงแล้ว) กรณีนี้หลอกทำให้ hash ชนกันง่ายไปไหมเนี่ย เอาจริงๆก็ยังไม่เคยลองศึกษา algorithm ตัวนี้ แต่ถ้าจะหยิบมาใช้จริงๆ ก็ต้องมั่นใจเรื่องพวกนี้ด้วยไหมนะ Apple ได้ลงทุน research อันนี้ไหม หรือ เชื่อใจ algorithm นี้ตั้งแต่แรกเลย
กิน resource โหด ขนาด i7
PandaBaka Thu, 19/08/2021 - 12:03
กิน resource โหด ขนาด i7-5930K ใช้เวลา 2.5นาที แถมผลลัพธ์ออกมาห่วยยังจะดื้อใช้ให้ได้อีกแน่ะ สภาพนี้แยกแยะคน Asia ไม่ได้แหง
มองว่าลูกค้าทุกคนอาจเป็นอาชญา
schanon Thu, 19/08/2021 - 12:28
มองว่าลูกค้าทุกคนอาจเป็นอาชญากรเลยต้องตรวจสอบก็ว่าทุเรศมากแล้ว ยังมาใช้พลังงานและอุปกรณ์ของลูกค้าเพื่อการตรวจสอบที่ว่าอีก กูเกิลขายข้อมูลลูกค้าจริง ยังน่าเคารพกว่า เพราะแลกกับการใช้บริการต่าง ๆ ฟรี แต่ไม่ใช่ชูเรื่อง privacy จ่ายแพงกว่า แถมโดนล้วงข้อมูลฟรี เพราะอาจเป็นอาชญากร ไอโฟนเครื่องนี้คงเครื่องสุดท้าย
FYI
waroonh Thu, 19/08/2021 - 12:43
FYI
ในซาอุดิอาระเบีย ถ้ามีหลักฐานสนับสนุน อาหรับสปริง โทษคือ ตัดหัวประจานกลางสี่แยก
อ่ะ เอารูป ... ที่เข้าข่าย ไปใส่ web แล้ว ซ่อนไว้มุมๆ ให้โผล่มา 1px
แล้วเอาไปใส่ web ยอดนิยมซัก web หนึ่ง ให้โดนกันทั้งประเทศ
จะประหาร หมดประเทศเลยมั้ย ? มีรูป ต้องห้ามในเครื่อง มีหลักฐานส่งทางการแล้วด้วย ไม่รู้ตัวด้วยว่า load รูปมา
ภาพบนเบราว์เซอร์มันไม่ได้ซิงก
lew Thu, 19/08/2021 - 13:54
In reply to FYI by waroonh
ภาพบนเบราว์เซอร์มันไม่ได้ซิงก์ขึ้น iCloud ครับ
แล้วเดียวก็มีคนสร้างฐานข้อมูล
peakna Thu, 19/08/2021 - 16:28
แล้วเดียวก็มีคนสร้างฐานข้อมูลค่าแฮชหลอกสักพันล้านๆให้ทวีคูณตัวเองเพื่อไว้หลอกและเปลี่ยนค่าไปเลื่อยๆ
แล้วเดียวก็มีคนสร้างฐานข้อมูล
peakna Thu, 19/08/2021 - 16:29
ขอโทษครับกดซ้ำ