Tags:
Node Thumbnail

ผู้ใช้ GitHub ชื่อบัญชี AsuharietYgvar ระบุว่าเขาพบโมเดลปัญญาประดิษฐ์สำหรับการแฮชภาพแบบ NeuralHash ที่แอปเปิลระบุว่าจะใช้งานสำหรับการตรวจสอบภาพโป๊เด็กก่อนอัพโหลดขึ้น iCloud Photos

โมเดลที่ AsuharietYgvar อ้างว่าอยู่ใน iOS รับภาพขนาด 360x360 พิกเซล และคืนค่าออกมาเป็นแมทริกซ์ขนาด 96x128 แต่โค้ดส่วนต่อมาของแอปเปิลจะแปลงค่าแฮชจนเหลือขนาด 96 บิตเท่านั้น

ไม่แน่ชัดว่าทำไมแอปเปิลจึงใส่ฟังก์ชั่น NeuralHash เข้ามาใน iOS ก่อนใช้งานระบบตรวจสอบภาพโป๊เด็ก อย่างไรก็ดีฟังก์ชั่นนี้จะใช้งานได้ต่อเมื่อมีฐานข้อมูลค่าแฮชให้มาตรวจเทียบกัน โดยแอปเปิลเคยระบุว่าจะปล่อยฐานข้อมูลค่าแฮชพร้อมกับการอัพเดตระบบปฎิบัติการ การอัพเดตจะแจ้งทั้งค่า root hash ของตัวฐานข้อมูล และจำนวนภาพที่แอปเปิลจะแบนบัญชีเพื่อตรวจสอบ

หากในอนาคตนักวิจัยสามารถถอดรหัสฐานข้อมูลค่าแฮชภาพโป๊เด็กของแอปเปิลออกมาได้ ก็เป็นไปได้ที่จะสร้างปัญญาประดิษฐ์ที่สร้างภาพจนค่าแฮชตรงกันในที่สุด

ที่มา - reddit: r/MachineLearning

Get latest news from Blognone

Comments

By: Mediumrare
AndroidWindows
on 18 August 2021 - 21:20 #1220129

ถามแบบคนไม่รู้เชิงเทคนิคเลยครับ จากย่อหน้าสุดท้าย หมายความว่าถ้ามีค่าแฮช ก็อาจจะสามารถใช้ ai สร้างภาพขึ้นมาจนตรงกับภาพต้นฉบับได้ ใช่ไหมครับ

By: iamfalan
iPhoneAndroidWindows
on 18 August 2021 - 22:27 #1220134 Reply to:1220129

ไม่ใช่ครับหมายถึงสร้างภาพที่ให้ค่า hash ตรงกันกับต้นฉบับได้เฉยๆ
รูปอาจจะไม่เหมือนกัน แต่คำนวณค่า hash ได้เท่ากัน
อาจจะเป็นเครื่องมือในการกลั่นแกล้งได้ เช่น spam รูปที่ค่า hash ตรงกับรูปโป๊เด็กไปหาเป้าหมาย
หรือเลวร้ายกว่านั้นก็สร้างรูปธรรมดา ที่ให้ค่า hash ตรงกับรูปโป๊เด็ก หลอกให้คน load
แต่สุดท้ายจะกลายเป็น apple ที่จะเป็นปัญหา เพราะจะเจอ false positive เยอะมาก ยังดีที่ apple มานั่งตรวจเป็นรายๆ
ถ้าเป็น google อาจจะโดนแบนอัตโนมัติ

By: deaknaew on 18 August 2021 - 23:11 #1220143 Reply to:1220134

นั้นสิ ต่อไป สมมติเจอว่าภาพ นารีผล มุมใดมุมนึง ไปได้ hash ตรง แล้วโดนสแปมภาพ นารีผล เข้าไปรัวๆ ไม่อยากคิด ยิ่ง app บาง app save รูปเข้า คลังรูปอัตโนมัติด้วย

By: lew
FounderJusci's WriterMEconomicsAndroid
on 18 August 2021 - 22:38 #1220137 Reply to:1220129
lew's picture

อาจจะคล้ายต้นฉบับได้ครับ แต่ไม่ตรง เพราะค่าแฮชในเป็นการ "บรรยายภาพ" เหมือนเป็นภาษาเฉพาะสำหรับบรรยายว่าหน้าตาเป็นอย่างไร เรื่องที่จะตรงเป็นไปไม่ได้เพราะข้อมูลมีขนาดเล็กมาก (เฉพาะภาพอินพุตก็เล็กนิดเดียว ค่าแฮชเองมีขนาดแค่ 96 บิตเอง)

แต่ข้อมูลบรรยายภาพในค่าแฮชนี่มันจะสร้างภาพกลับออกมาได้ดีแค่ไหนยังน่าสนใจมากๆ คิดว่าหลังจากนี้งานวิจัยน่าจะออกมารัวๆ


lewcpe.com, @wasonliw

By: Mediumrare
AndroidWindows
on 18 August 2021 - 22:55 #1220138 Reply to:1220129

ขอบคุณสำหรับคำอธิบายมาก ๆ ครับ

By: darthvader
Windows PhoneWindows
on 19 August 2021 - 10:12 #1220171
darthvader's picture

คงเป็นงานที่ คนตรวจสอบความถูกต้อง คงลำบากใจน่าดู