Google Research เผยแพร่งานวิจัยหัวข้อ "VLOGGER: Multimodal Diffusion for Embodied Avatar Synthesis" เป็นโมเดล AI ที่ใช้อินพุทภาพบุคคล 1 ภาพ และไฟล์เสียง สามารถสร้างวิดีโอที่ขยับได้ตามเสียงทั้งปาก ใบหน้า ศีรษะ ตลอดจนมือ

โมเดลนี้มีจุดเด่นคือไม่ต้องอาศัยการเทรนข้อมูลบุคคลนั้นมาก่อน ไม่ต้องระบุตำแหน่งใบหน้าและส่วนต่าง ๆ ก็สามารถสร้างการเคลื่อนไหวในทุกจุดในภาพ โมเดลนี้จึงมีโอกาสนำไปต่อยอดใช้ในการนำเสนอผลงาน งานประกอบการสอน หรืองานที่เดิมมีข้อมูลเฉพาะตัวหนังสือ ให้เป็นภาพเคลื่อนไหวได้ดีขึ้น อย่างไรก็ตามมีความเสี่ยงในการนำไปใช้งานอย่างไม่เหมาะสมด้วยเช่นกัน

พนักงานบริษัทในฮ่องกงถูกหลอกให้โอนเงินไปยังคนร้าย 15 รายการ รวมความเสียหาย 200 ล้านดอลลาร์ฮ่องกงหรือประมาณ 900 ล้านบาท

คนร้ายอาศัยการส่งลิงก์ประชุมออนไลน์ให้กับเหยื่อ และเหยื่อก็พบว่าห้องประชุมมีคนอยู่ในห้องหลายคน ทุกคนล้วนเหมือนจริงและเป็นพนักงานบริษัทด้วยกัน คนที่ปลอมเป็น CFO ระบุว่าต้องทำธุรกรรมลับจึงขอให้โอนเงินให้

ตำรวจฮ่องกงแถลงข่าวคดีนี้เพราะที่ผ่านมา คนร้ายมักปลอมตัวเป็นคนใดคนหนึ่งในบริษัท และพนักงานมักจะไหวตัวทันหากถูกเรียกเข้าประชุมตัวต่อตัวกับคนร้าย แต่ตอนนี้คนร้ายก็เพิ่มเทคนิคด้วยการปลอมตัวเป็นพนักงานหลายๆ คนสร้างความน่าเชื่อถือเพิ่มเติม

X หรือ Twitter เดิม ได้บล็อกการค้นหาโพสต์จากคีย์เวิร์ด Taylor Swift ศิลปินชื่อดังชั่วคราว หลังจากมีรายงานปัญหาภาพปลอมสร้างด้วย AI ที่ไม่เหมาะสม ถูกโพสต์ลง X จำนวนมาก โดยหากเสิร์ชคำว่า "Taylor Swift" หรือ "Taylor Swift AI" จะได้ผลลัพธ์ว่ายังโหลดโพสต์ไม่ได้ในขณะนี้

ก่อนหน้านี้ X ได้ชี้แจงปัญหาจากเหตุการณ์ดังกล่าว โดยย้ำว่าการโพสต์ภาพเปลือยที่ไม่ได้รับการยินยอมเป็นการละเมิดเงื่อนไขของแพลตฟอร์ม ซึ่งทีมได้ทำการลบและระงับบัญชีที่เกี่ยวข้อง ตอนนี้ก็ยังคงตรวจสอบเพื่อไม่ให้เกิดปัญหานี้ซ้ำอีก

Tom Hanks โพสต์ Instagram ชี้แจงว่า มีวิดีโอโปรโมตแผนทันตกรรมสร้างด้วย AI ที่หน้าตาเหมือนเขาทุกอย่าง และเขาไม่มีส่วนเกี่ยวข้องกับมันเลย ซึ่งภาพในวิดีโอโฆษณามีความต่างเล็กน้อยตรงดูเด็กกว่าแต่ยังไม่แน่ชัดว่าโฆษณามีจุดประสงค์อะไรหรือบริษัทใดเป็นคนทำ

เมื่อเดือนพฤษภาคม Tom Hanks เคยให้สัมภาษณ์ในรายการพอดแคสต์ The Adam Buxton พูดถึงเรื่อง AI อาจถูกใช้แสดงแทนนักแสดงที่เสียชีวิตไปแล้ว เขาพูดถึงว่าพรุ่งนี้เขาอาจจะถูกรถบัสชน แต่การแสดงสามารถดำเนินต่อได้เรื่อยๆ และพูดเสริมถึง นอกเหนือจากความเข้าใจเรื่อง AI และ Deepfake ในอนาคตมันจะมีคุณภาพเหมือนจริง นั่นเป็นเรื่องความท้าทายทางศิลปะ แต่ก็เป็นความท้าทายทางกฎหมายเช่นกัน

รัฐบาลสหรัฐฯ ออกเอกสารเตือนถึงความเสี่ยงของการโจมตีด้วยเทคโนโลยี Deepfake ที่เริ่มสมจริงขึ้นเรื่อยๆ โดยคนร้ายอาจโจมตีทั้งการหลอกลวงคนในองค์กรเองเพื่อเข้าถึงข้อมูลต่างๆ ไปจนถึงการสร้างข่าวปลอมเพื่อทำลายชื่อเสียงขององค์กร

รายงานอ้างถึงการโจมตีในปีนี้ที่คนร้ายใช้วิดีโอ Deepfake ปลอมตัวเป็นผู้บริหารบริษัทแล้วหลายครั้ง เพื่อติดต่อพนักงานเพื่อขอให้โอนเงินให้ โดยอาจจะปรับคุณภาพให้แย่ลงแล้วอ้างว่าการเชื่อมต่อไม่ดีกลบเกลื่อนร่องรอยการทำ Deepfake ในสงครามยูเครนเองก็มีการทำ Deepfake ปลอมตัวเป็นทั้งประธานาธิบดียูเครนและรัสเซีย

รายงานแนะนำให้องค์กรรับมือกับการโจมตีรูปแบบนี้ ฝึกพนักงานสังเกตวิดีโอปลอมหรือเสียงปลอม และเตรียมขั้นตอนการยืนยันตัวตนให้รัดกุม

Tencent Cloud เปิดบริการสร้างตัวตนสามมิติเสมือนจริง โดยผู้ใช้สามารถใส่วิดีโอของตัวเองความยาวสามนาที เสียงพูดอีก 100 ประโยค จากนั้นระบบจะสามารถสร้างวิดีโอแทนตัวจริงออกมาให้ภายใน 24 ชั่วโมง

บริการนี้มุ่งเป้าไปที่บริการอีคอมเมิร์ชในจีนที่ผู้ใช้มักชินกับการพูดคุยกับคนในไลฟ์สตรีม โดยตัวแทนของเซเลบริตี้จะสามารถตอบคำถามผ่านข้อความแต่ลูกค้าสามารถพูดคุยเหมือนคุยกับตัวจริง โมเดลที่ได้สามารถสร้างตัวแทน ได้ 5 รูปแบบ ได้แก่ แบบสามมิติเหมือนจริง, สามมิติกึ่งเสมือนจริง, สามมิติแบบการ์ตูน, สองมิติเหมือนจริง, หรือสองมิติแบบการ์ตูน ค่าสร้างโมเดลแทนตัวจริงประมาณ 145 ดอลลาร์ หรือ 5,000 บาท

ตัวแทนของ Bruce Willis นักแสดงฮอลลีวูดชื่อดัง ออกมาปฏิเสธข่าวที่ระบุว่า เขาได้ตัดสินใจขายสิทธิตัวตนดิจิทัลให้กับบริษัทผู้พัฒนา Deepfake สำหรับใช้ในงานวิดีโอต่าง ๆ ในอนาคต โดยบอกว่าบริษัทไม่มีการทำข้อตกลงหรือเป็นพาร์ตเนอร์กับบริษัท Deepcake แต่อย่างใด

ด้านตัวแทนของ Deepcake ออกมาให้รายละเอียดเพิ่มเติมว่าเป็นความเข้าใจผิด เพราะตัวตนเสมือนในรูปแบบดิจิทัลของ Bruce Willis นั้นทำการซื้อขายไม่ได้อยู่แล้ว ที่ผ่านมาบริษัทเคยสร้างตัวตนดิจิทัลของเขาเพื่อใช้กับงานโฆษณา และหากจะมีโครงการใหม่อีกในอนาคตก็ขึ้นอยู่กับ Willis เอง

Bruce Willis นักแสดงชื่อดัง ประกาศขายสิทธิ Digital Twin หรือฝาแฝดดิจิทัล สำหรับใช้ในงานวิดีโอภาพเคลื่อนไหวต่าง ๆ ให้กับบริษัท Deepcake บริษัทที่เชี่ยวชาญเทคนิคพิเศษในการทำ Deepfake ซึ่งก่อนหน้านี้เคยทำใบหน้า Bruce Willis ให้กับหนังโฆษณาในรัสเซีย

เมื่อต้นปี Bruce Willis ออกมาแถลงยุติอาชีพนักแสดง เนื่องจากได้รับการวินิจฉัยว่าป่วยเป็นโรค Aphasia หรือภาวะเสียการสื่อความ ซึ่งส่งผลต่อการทำงานในฐานะนักแสดง โดยเขาพูดถึงการขายสิทธิดิจิทัลนี้ว่า เป็นโอกาสให้เขาได้กลับมาโลดแล่นด้วยคาแรกเตอร์ที่มี แม้ตัวจะอยู่อีกที่หนึ่ง

ธนาคารกสิกรไทย เตือนภัยมุกใหม่แก๊งคอลเซ็นเตอร์ ใช้ DeepFake ปลอมใบหน้า เสียง และท่าทาง หลอกว่าเป็นตำรวจ วิดีโอคอลกับผู้ใช้ เผยมีผู้ถูกหลอกให้โอนเงินโดยใช้เทคนิคนี้ สูญไปแล้วกว่า 6 แสนบาท

ผู้ใช้รายนี้ได้รับสายเบอร์โทรจากต่างประเทศ อ้างตนเป็นพนักงานของบริษัทขนส่งเอกชนแจ้งเรื่องพัสดุมีของผิดกฎหมาย และขอให้เปิดวิดีโอคอล เพื่อพูดคุยกับตำรวจ แต่ในวิดีโอเป็นตำรวจปลอมที่ใช้เทคโนโลยี DeepFake ให้ภาพขยับแค่ปากและใส่เสียงพูดเชิงข่มขู่ว่าพัสดุที่ส่งเป็นสมุดบัญชีซึ่งต้องสงสัยว่าจะเป็นการฟอกเงิน

Meta รายงานว่าทางบริษัทสั่งตรวจสอบและลบวิดีโอ Deepfake ของประธานาธิบดี Volodymyr Zelensky บนแพลตฟอร์ม Facebook แล้ว เป็นไปตามกฎของ Facebook ที่ไม่อนุญาตให้มีวิดีโอประเภทนี้บนแพลตฟอร์ม

วิดีโอปลอมของประธานาธิบดี Zelensky นี้ออกแถลงการณ์ในลักษณะขอให้ประชาชนวางอาวุธเลิกต่อต้านทหารรัสเซีย และมีรายงานว่าวิดีโอนี้เผยแพร่ผ่านช่องโทรทัศน์และเว็บไซต์ของสำนักข่าว Ukraine 24 ที่มีรายงานว่าโดนแฮกด้วย

ค่ายมือถือรัสเซีย MegaFon เตรียมทำโฆษณาโดยมี Bruce Willis นำแสดง แต่คราวนี้ Bruce Willis ไม่ต้องบินไปเล่นเองไกลถึงรัสเซีย เพราะบริษัทใช้นักแสดงคนอื่นเล่น แล้วซื้อลิขสิทธิ์ใบหน้าไปทำ DeepFake ใส่เป็นหน้า Bruce Willis แทน

สถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงแห่งเกาหลี หรือ KAIST (The Korea Advanced Institute of Science and Technology) เปิดตัวแอปพลิเคชั่นตรวจจับ Deepfake โดยซอฟต์แวร์ที่มีชื่อว่า KaiCatch จะใช้ AI ตรวจจับความผิดปกติ หรือความบิดเบือดบนใบหน้า ผู้ใช้งานสามารถอัพโหลดรูปภาพหรือวิดีโอเข้ามาในแอปเพื่อให้ระบบช่วยตรวจสอบ โดยมีการคิดค่าใช้งานที่ 2,000 วอน หรือประมาณรูปละ 55 บาท

Raffaela Spone คุณแม่ในเมืองชาลฟอนต์ รัฐเพนซิลเวเนีย ถูกตำรวจจับกุม เพราะทำภาพและวิดีโอคู่แข่งทีมเชียร์ลีดเดอร์ของลูกสาว เป็นภาพกำลังสูบบุหรี่ ดื่มเหล้า และภาพอนาจาร โดยใช้ AI ช่วยปรับแต่งหรือ DeepFake จากนั้นส่งไปให้โค้ชที่คุมทีมอยู่ เพื่อหวังให้คู่แข่งลูกสาวถูกไล่ออกจากทีมเชียร์ลีดเดอร์ไป

ตำรวจรับเรื่องหลังจากเหยื่อรายหนึ่งได้รับข้อความขู่จากเบอร์ที่ไม่ระบุตัวตน ก่อนจะมีเหยื่อรายอื่นตามมาแจ้งตำรวจด้วย ตำรวจจึงสืบข้อมูลโดยการนำเบอร์โทรมาค้นหาจนพบว่ามาจากเว็บขายของทางโทรศัพท์

Sensity บริษัทด้านความปลอดภัยเผยพบเครือข่าย bot ใน Telegram สร้างภาพเปลือยผู้หญิงเป็นลักษณะ deepfakes ขึ้นมาตามคำขอ พบว่าในเดือนกรกฎาคมที่ผ่านมา มีการสร้างภาพเปลือยของผู้หญิงไปแล้ว 104,000 ราย

เมื่อนับย้อนหลังไปสามเดือนที่แล้ว พบว่ามีการสร้างภาพเปลือยเพิ่มขึ้น 200% โดยเป็นการเอารูปผู้หญิงที่ผู้ใช้งานรู้จักไปให้ bots สร้างเป็นภาพเปลือยให้ และคาดว่าตัวเหยื่อก็ไม่รู้ว่าภาพปลอมของตัวเองถูกแชร์ว่อนในอินเทอร์เน็ต ทางบริษัท Sensity ยังพบด้วยว่ามีรูปของเหยื่อที่ยังเป็นเยาวชนด้วย

วิดีโอ DeepFake กำลังสร้างความกังวลให้หลายภาคส่วน โดยเฉพาะเรื่องการข่าวปลอม ข้อมูลปลอมและการเลือกตั้งในสหรัฐที่กำลังจะเกิดขึ้น ล่าสุดไมโครซอฟท์เปิดตัว Microsoft Video Authenticator เครื่องมือตรวจสอบและตรวจจับวิดีโอหรือภาพนิ่งที่ผ่าน DeekFake โดยเป็นความร่วมมือระหว่างทีม Microsoft Research, ทีม Responsible AI และคณะกรรมการ AI, Ethics and Effects in Engineering and Research (AETHER) ของไมโครซอฟท์

Deepfake อาจกลายเป็นทางออกของวงการโฆษณา เพราะในช่วงปิดเมืองที่ทำให้การถ่ายทำโฆษณาต้องหยุดชะงัก ESPN ช่องทีวีในสหรัฐฯจึงแก้เกมด้วยการร่วมมือกับเอเจนซี่ Optimum Sports and Translation ทำโฆษณาสารคดีของช่องโดยใช้เทคโนโลยี Deepfake

ตัวโฆษณามีตัวแสดงคือพิธีกรกีฬาที่มีชื่อเสียงมายาวนานคือ Kenny Mayne เป็นฟุตเทจของเขาบนโต๊ะประกาศข่าวสมัยปี 1988 ที่ยังดูหนุ่ม (ปัจจุบันเขาอายุ 60 ปี) แต่ใช้ DeepFake ขยับปากพิธีกรวัยหนุ่มให้พูดโฆษณาสารคดีไมเคิล จอร์แดน The Last Dance ที่ลงฉายสิบตอนในปี 2020 ตัวสารคดีพูดถึงความสำเร็จของจอร์แดนและทีมชิคาโกบลูส์ รวมฟุตเทจการแข่งขันในยุค 90 มีฉายเป็นรายสัปดาห์ใน Netflix ด้วย

Bharatiya Janata Party (BJP) พรรคการเมืองในกรุงเดลี ประเทศอินเดีย สร้างวิดีโอหาเสียงสำหรับ Manoj Tiwari โดยเป็นวิดีโอที่เขากำลังหาเสียงเป็นภาษาอังกฤษ แต่วิดีโอสร้างมาจากวิดีโออีกชุดที่พูดภาษาท้องถิ่น

ทาง BJP สร้างวิดีโอโดยร่วมกับบริษัทสื่อสารทางการเมือง The Ideaz Factory เพื่อสื่อสารกับผู้มีสิทธิ์ออกเสียงที่พูดภาษาถิ่นแม้ว่าตัวผู้สมัครจะพูดภาษาถิ่นไม่ได้ก็ตาม

ทาง BJP คาดว่าวิดีโอถูกส่งต่อไปตามกลุ่มต่างๆ ประมาณ 5,800 กลุ่ม เข้าถึงผู้ชม 15 ล้านคน

ทวิตเตอร์ออกกฎใหม่สำหรับจัดการกับสื่อประเภท deepfake อย่างเป็นทางการ โดยนโยบายใหม่นี้จะจำกัดไม่ให้แชร์ข้อมูลปลอมที่อาจสร้างผลกระทบหรือความเสียหายได้

ทวิตเตอร์มีปัจจัยในการพิจารณาทวีตอยู่ 3 ข้อ ว่าจะทำเครื่องหมาย, แสดงข้อความเตือนหรือลบทวีตเหล่านั้นหรือไม่ ดังนี้

Jigsaw หน่วยบ่มเพาะเทคโนโลยีในเครือ Alphabet กำลังพัฒนาเครื่องมือใหม่ Assembler ที่ช่วยตรวจจับรูปภาพที่ผ่านการดัดแปลง ปลอมแปลง หรือใช้เทคโนโลยี deepfake เป้าหมายคือให้นักข่าวสามารถนำเครื่องมือไปใช้ตรวจสอบเนื้อหาได้ เพื่อสู้กับข่าวปลอม

ในขณะที่รูปภาพถ้าผ่านการดัดแปลงผ่าน Photoshop ตามนุษย์ยังพอสังเกตความผิดปกติในรูปภาพได้ แต่ก็ยัง
มีการดัดแปลงรูปภาพอีกหลายอย่างที่คอมพิวเตอร์สามารถมองออก เช่น แพทเทิร์นซ้ำๆ กันในรูปภาพ และภาพที่ดัดแปลงจาก deepfake ซึ่งมีความแนบเนียนมากขึ้นทุกที

Facebook ออกนโยบายแบนคลิป deepfake อย่างเป็นทางการ โดยระบุว่า ทางแพลตฟอร์มจะแบนวิดีโอและเนื้อหาที่ผ่านการแก้ไข สังเคราะห์ (ไม่รวมการปรับแต่งให้คมชัดขึ้น) และผลลัพธ์คือทำให้เกิดความเข้าใจผิด หรือวิดีโอที่ปรับแต่งโดย AI แต่ไม่รวมวิดีโอที่ทำขึ้นเชิงตลก ล้อเลียน

Reuters เปิดตัวคอร์สออนไลน์สำหรับนักข่าวคือ Identifying and Tackling Manipulated Media ให้เข้ามาเรียนรู้วิธี และการทำงานของข่าวปลอม กรณีศึกษา รวมถึง deepfake ความยาว 45 นาที โดยมีเฟซบุ๊กร่วมมือด้วย

ในเนื้อหาจะอธิบายสื่อต่างๆ ที่สามารถถูกควบคุมได้ (manipulated media) ไม่ได้มีแค่ deepfake แต่รวมถึงคลิปที่ถูกปรับแต่งเพื่อจุดประสงค์ให้เกิดความเข้าใจผิด พร้อมตัวอย่างสื่อที่เป็น manipulated media ของจริงมาให้ศึกษากันด้วย

ทวิตเตอร์เสนอแนวทางจัดการกับสื่อสังเคราะห์และสื่อที่ถูกดัดแปลง ซึ่งอาจจะหมายถึงภาพ, เสียง, และวิดีโอที่ถูดตัดต่อหรือสร้างขึ้นใหม่ทั้งหมด เช่นวิดีโอ Deepfake โดยข้อเสนอก่อนการลบจะมีมาตรการ ได้แก่

• แสดงความเตือนต่อจากทวีตว่าเป็นสื่อที่ถูดดัดแปลงมา
• แสดงข้อความเตือนก่อนการกดไลค์หรือรีทวีต ว่าทวีตนั้นเป็นสื่อที่ถูกดัดแปลง
• เพิ่มลิงก์อธิบายข้อเท็จจริงว่าสื่อนั้นถูกดัดแปลง

มาตรการสุดท้ายคือหากสื่อนั้นทำให้บุคคลในโลกความเป็นจริงมีอันตราย ทางทวิตเตอร์จะลบสื่อเหล่านั้นออก

มาตรการนี้ยังเป็นเพียงข้อเสนอ โดยทวิตเตอร์ประกาศรับฟังความเห็นถึงวันที่ 27 พฤศจิกายนนี้ และระบุว่าหากมีการใช้กฎเหล่านี้จริงจะประกาศล่วงหน้า 30 วัน

ใกล้วันเลือกตั้งประธานาธิบดีสหรัฐฯ เข้าไปทุกที บรรดาบริษัทไอทีอย่าง ทวิตเตอร์, Amazon, เฟซบุ๊ก ก็เตรียมหามาตรการรับมือ DeepFake หรือคลิปปลอมใช้ AI ตัดต่อใบหน้าคนดังเข้าไป

DeepFake ครั้งหนึ่งเป็นภัยคุกคามดาราคนดัง เพราะถูกนำใบหน้าไปตัดต่อใส่หนังโป๊ได้อย่างเนียนสนิท แต่ DeepFake ตอนนี้ได้ถูกนำมาใช้กับนักการเมือง ซึ่งมีความเสี่ยงจะทำให้สังคมเข้าใจผิด และถือเป็นอีกหนึ่งภัยข่าวปลอมที่ระบาดบนโซเชียลมีเดีย สร้างความเข้าใจผิดในช่วงเลือกตั้งปี 2016

กูเกิลและโครงการ Jigsaw ของกูเกิลสร้างชุดข้อมูล Deep Fake Detection โดยลงทุนจ้างนักแสดง 28 คนที่ยินยอมให้ใช้ใบหน้าเพื่อการวิจัย ถ่ายวิดีโอในท่าทางต่างๆ รวม 363 รายการ และสร้างวิดีโอปลอมผ่านทาง Deepfake เทคนิคต่างๆ อีก 3,068 วิดีโอ เพื่อพัฒนาการตรวจจับวิดีโอ Deepfake

ชุดข้อมูลนี้จะถูกรวมเข้าไว้ในข้อมูล FaceForensics ที่ดูแลโดย Technical University of Munich และ University Federico II of Naples ที่เคยสร้างชุดข้อมูลจากวิดีโอ YouTube มาก่อนหน้านี้ โดยข้อมูลชุดใหม่จะดาวน์โหลดได้ต่อเมื่อกรอกแบบฟอร์มยอมรับข้อตกลงก่อน แล้วทีมงานจะส่งลิงก์ดาวน์โหลดมาให้ภายหลัง

Hao Li ผู้ช่วยศาสตราจารย์ด้านคอมพิวเตอร์กราฟิกจาก University of Southern California และผู้อำนวยการห้องวิจัยกราฟิกและการมองเห็นให้สัมภาษณ์กับช่อง CNBC ว่าเขาเชื่อว่าเทคโนโลยี Deepfake ที่ใช้แปลงใบหน้าคนลงบนวิดีโออื่นนั้นจะไปสู่จุดที่คนทั่วไปสามารถสร้างวิดีโอที่สมจริงได้ภายในระยะเวลา 6 เดือนถึง 1 ปีข้างหน้า

Hao ระบุว่าด้วยเทคโนโลยีปัจจุบันก็เพียงพอที่จะสร้างวิดีโอที่น่าเชื่อถือได้อยู่แล้ว แต่สำหรับโปรแกรม Deepfake ที่แจกออกมานั้น คนทั่วไปยังคงสามารถมองออกได้โดยง่ายว่าเป็นวิดีโอปลอม