ผู้ใช้ GitHub ชื่อบัญชี AsuharietYgvar ระบุว่าเขาพบโมเดลปัญญาประดิษฐ์สำหรับการแฮชภาพแบบ NeuralHash ที่แอปเปิลระบุว่าจะใช้งานสำหรับการตรวจสอบภาพโป๊เด็กก่อนอัพโหลดขึ้น iCloud Photos
โมเดลที่ AsuharietYgvar อ้างว่าอยู่ใน iOS รับภาพขนาด 360x360 พิกเซล และคืนค่าออกมาเป็นแมทริกซ์ขนาด 96x128 แต่โค้ดส่วนต่อมาของแอปเปิลจะแปลงค่าแฮชจนเหลือขนาด 96 บิตเท่านั้น
ไม่แน่ชัดว่าทำไมแอปเปิลจึงใส่ฟังก์ชั่น NeuralHash เข้ามาใน iOS ก่อนใช้งานระบบตรวจสอบภาพโป๊เด็ก อย่างไรก็ดีฟังก์ชั่นนี้จะใช้งานได้ต่อเมื่อมีฐานข้อมูลค่าแฮชให้มาตรวจเทียบกัน โดยแอปเปิลเคยระบุว่าจะปล่อยฐานข้อมูลค่าแฮชพร้อมกับการอัพเดตระบบปฎิบัติการ การอัพเดตจะแจ้งทั้งค่า root hash ของตัวฐานข้อมูล และจำนวนภาพที่แอปเปิลจะแบนบัญชีเพื่อตรวจสอบ
หากในอนาคตนักวิจัยสามารถถอดรหัสฐานข้อมูลค่าแฮชภาพโป๊เด็กของแอปเปิลออกมาได้ ก็เป็นไปได้ที่จะสร้างปัญญาประดิษฐ์ที่สร้างภาพจนค่าแฮชตรงกันในที่สุด
ที่มา - reddit: r/MachineLearning
Comments
ถามแบบคนไม่รู้เชิงเทคนิคเลยครับ จากย่อหน้าสุดท้าย หมายความว่าถ้ามีค่าแฮช ก็อาจจะสามารถใช้ ai สร้างภาพขึ้นมาจนตรงกับภาพต้นฉบับได้ ใช่ไหมครับ
ไม่ใช่ครับหมายถึงสร้างภาพที่ให้ค่า hash ตรงกันกับต้นฉบับได้เฉยๆ
รูปอาจจะไม่เหมือนกัน แต่คำนวณค่า hash ได้เท่ากัน
อาจจะเป็นเครื่องมือในการกลั่นแกล้งได้ เช่น spam รูปที่ค่า hash ตรงกับรูปโป๊เด็กไปหาเป้าหมาย
หรือเลวร้ายกว่านั้นก็สร้างรูปธรรมดา ที่ให้ค่า hash ตรงกับรูปโป๊เด็ก หลอกให้คน load
แต่สุดท้ายจะกลายเป็น apple ที่จะเป็นปัญหา เพราะจะเจอ false positive เยอะมาก ยังดีที่ apple มานั่งตรวจเป็นรายๆ
ถ้าเป็น google อาจจะโดนแบนอัตโนมัติ
นั้นสิ ต่อไป สมมติเจอว่าภาพ นารีผล มุมใดมุมนึง ไปได้ hash ตรง แล้วโดนสแปมภาพ นารีผล เข้าไปรัวๆ ไม่อยากคิด ยิ่ง app บาง app save รูปเข้า คลังรูปอัตโนมัติด้วย
อาจจะคล้ายต้นฉบับได้ครับ แต่ไม่ตรง เพราะค่าแฮชในเป็นการ "บรรยายภาพ" เหมือนเป็นภาษาเฉพาะสำหรับบรรยายว่าหน้าตาเป็นอย่างไร เรื่องที่จะตรงเป็นไปไม่ได้เพราะข้อมูลมีขนาดเล็กมาก (เฉพาะภาพอินพุตก็เล็กนิดเดียว ค่าแฮชเองมีขนาดแค่ 96 บิตเอง)
แต่ข้อมูลบรรยายภาพในค่าแฮชนี่มันจะสร้างภาพกลับออกมาได้ดีแค่ไหนยังน่าสนใจมากๆ คิดว่าหลังจากนี้งานวิจัยน่าจะออกมารัวๆ
lewcpe.com, @wasonliw
ขอบคุณสำหรับคำอธิบายมาก ๆ ครับ
คงเป็นงานที่ คนตรวจสอบความถูกต้อง คงลำบากใจน่าดู