Facebook เดินหน้าปราบปรามเรื่องบัญชีปลอม และสแปม ล่าสุดประกาศแบนเพจดิจิทัลเอเยนซี่ในฟิลิปปินส์ที่เป็นเพจใหญ่มีคนติดตามราว 10 ล้าน และเพจในเครืออื่นๆ ที่มียอดไลค์หลักล้านอีกหลายเพจ

เพจดังกล่าวเป็นของบริษัท Twinmark Media Enterprises โดย Facebook บอกว่าทางบริษัทละเมิดนโยบาย บิดเบือนความจริง สร้างสแปม ทำบัญชีปลอม พยายามซื้อยอดไค์ยอดแชร์เพื่อหวังผลกำไร

Facebook ออกรายงานการจัดการบัญชีปลอม สแปม เป็นครั้งแรก โดยในไตรมาสแรกของปี 2018 Facebook เผยว่าได้ลบไป 583 ล้านบัญชีปลอม นำสแปมออก 837 ล้านชิ้น

Facebook ยังเผยรายละเอียดการจัดการเนื้อหาไม่ดีอื่นๆ ดังนี้

• Facebook นำเนื้อหาโป๊ออก 21 ล้านชิ้น โดย 96% ของคอนเทนต์ที่นำออกถูกตรวจจับโดยระบบของ Facebook ก่อนที่จะถูกรีพอร์ต
• เนื้อหาหรือภาพที่มีความรุนแรง Facebook ได้แปะคำเตือนประกอบ 3.5 ล้านชิ้น
• เนื้อหา hate speech ทาง Facebook ระบุว่าเทคโนโลยีของ Facebook ยังจัดการปัญหานี้ได้ไม่ดีพอ และยังต้องใช้ทีมงานช่วยรีวิวอยู่ ซึ่งทีมงานได้นำเนื้อหา hate speech ออกไป 2.5 ล้านชิ้น และมีเพียง 38% ที่เทคโนโลยีของ Facebook ตรวจจับได้

Guy Rosen ผู้จัดการผลิตภัณฑ์ Facebook เขียนบล็อกเรื่อง AI กับการจัดการเนื้อหาไม่ดี ระบุว่าใช้ AI เข้ามามีบทบาทมากในการจัดการสแปม hate speech บัญชีปลอม คนฆ่าตัวตาย อยู่แล้ว พร้อมกับชี้ว่า ความสามารถ AI ยังอีกห่างไกลที่จะจัดการเนื้อหาไม่ดีในทุกรูปแบบอย่างรวดเร็ว

Rosen กล่าวเพิ่มเติมว่า ผู้คนมักจะสงสัยว่าทำไมถึงไม่ทำเทคโนโลยีนี้ให้ก้าวหน้ารวดเร็วกว่านี้ นั่นเปนเพราะ AI ยังมีข้อจำกัดเรื่องการเข้าใจภาษาเกลียดชัง และบริบทที่ใช้ การจัดการจึงยังต้องใช้คนอยู่ นอกจากนี้ AI ยังต้องการการฝึกเทรนนิ่งอีกเยอะมาก เพื่อจะเข้าใจรูปแบบพฤติกรรม และความหมายที่ส่งออกมา ในขณะที่ตอนนี้ Facebook ยังขาดการฝึก AI ในหลายภาษา มีเพียงภาษาอังกฤษเนื่องจากเป็นชุดข้อมูลใหญ่ที่ Facebook มี

Rosen บอกว่าตอนนี้ Facebook กำลังลงทุนในด้านเทคโนโลยีเพื่อเพิ่มความแม่นยำในภาษาใหม่ๆ ยกตัวอย่างเช่น Facebook AI Research (FAIR) ทำให้บางคนเห็นโพสต์และมีคำถามที่ Facebook แนบมาด้วยว่าเนื้อหาในโพสต์นี้เป็น hate speech หรือไม่ ซึ่งการที่ผู้ใช้ให้ความร่วมมือตอบคำถาม Facebook จะช่วยได้