By jaideejung007 Contributor on Tag: New York, Artificial Intelligence, Deepfake, Law, Privacy
New York

รัฐนิวยอร์กกำลังขยับตัวครั้งใหญ่เพื่อจัดระเบียบวงการปัญญาประดิษฐ์ (AI) ด้วยการพิจารณาร่างกฎหมายสำคัญ 2 ฉบับ ที่จะเข้ามาดูแลทั้งเรื่องความปลอดภัยของระบบและการคุ้มครองสิทธิ์ของมนุษย์จากการถูก AI แย่งงานหรือขโมยตัวตน

ร่างกฎหมายฉบับแรกคือ RAISE Act ซึ่งมุ่งเป้าไปที่บริษัทผู้พัฒนา AI ระดับโลก โดยระบุว่าใครที่สร้างโมเดลขนาดใหญ่ที่มีขีดความสามารถสูง (Frontier Models) จะต้องปฏิบัติตามมาตรฐานความปลอดภัยที่เข้มงวด ต้องส่งผลการทดสอบความเสี่ยงให้รัฐตรวจสอบ และต้องมีระบบ "Kill Switch" หรือมาตรการหยุดยั้งระบบทันทีหากพบว่า AI เริ่มทำอันตรายร้ายแรง เช่น การช่วยสร้างอาวุธชีวภาพหรือโจมตีทางไซเบอร์

By arjin Writer on Tag: OpenAI, Sora, Deepfake, Hollywood
OpenAI

OpenAI ออกแถลงการณ์ร่วมกับนักแสดง Bryan Cranston (Breaking Bad) และ SAG-AFTRA ที่เป็นสหภาพนักแสดงของสหรัฐอเมริกา ว่าจะป้องกันปัญหาการสร้างวิดีโอเลียนแบบบุคคลจริงบน Sora อย่างจริงจังมากขึ้น

แถลงการณ์นี้ออกมาหลังจาก Bryan Cranston ออกมาเรียกร้องความรับผิดชอบจาก OpenAI เมื่อพบวิดีโอที่สร้างด้วย Sora ออกมาเป็นคาแรกเตอร์ของเขา ซึ่งเขาไม่ได้เปิดให้ความยินยอมการสร้างวิดีโอนี้ โดยก่อนหน้านี้ Sam Altman ซีอีโอ OpenAI บอกแนวทางการสร้างวิดีโอเลียนแบบบุคคลมีชื่อเสียงบน Sora ว่าเป็นระบบ opt-in ที่เจ้าของคาแรกเตอร์-ลิขสิทธิ์ต้องยินยอมก่อนเท่านั้น แต่กลับมีกรณีที่หลุดออกมา ซึ่งรวมทั้งที่เป็นกรณีใหญ่อย่างวิดีโอ Martin Luther King Jr. ที่ทางมูลนิธิทำหนังสือร้องเรียนให้ลบวิดีโอทั้งหมดเช่นกัน

By arjin Writer on Tag: Denmark, Deepfake, Law, Artificial Intelligence, Copyright
Denmark

รัฐบาลเดนมาร์กเปิดเผยว่ากำลังอยู่ในขั้นตอนการแก้ไขกฎหมายลิขสิทธิ์ โดยขยายการคุ้มครองมาถึง ร่างกาย ลักษณะใบหน้า และเสียง ของแต่ละบุคคล ซึ่งเป็นอัตลักษณ์ของคน โดยหากกฎหมายนี้มีผลจริงจะเป็นประเทศแรกในยุโรปที่มีกฎหมายนี้

ที่มาของการแก้ไขกฎหมายนี้มาจากปัญหาการใช้ AI สร้างบุคคลเสมือนจริงหรือ Deepfake โดยหากขยายการคุ้มครองลิขสิทธิ์มาที่ลักษณะบุคคลจะช่วยปกป้องและคุ้มครองสิทธิในร่างกาย เสียง และลักษณะของแต่ละบุคคลได้ กฎหมายนี้จะครอบคลุมไปถึงการสร้างผลงานเสมือนของศิลปินในรูปแบบดิจิทัลที่ไม่ได้รับความยินยอมด้วย อย่างไรก็ตามกรณีการล้อเลียน-เล่นตลก จะยังได้รับอนุญาตอยู่

By lew Founder on Tag: South Korea, Deepfake, Telegram
South Korea

ตำรวจจังหวัดคย็องกีในเกาหลีใต้รายงานถึงการจับกุมชายอายุในช่วง 20-30 ปีจำนวน 3 ราย ฐานเป็นผู้ขายภาพ/วิดีโอโป๊ ที่สร้างขึ้นจากเทคโนโลยี deepfake ในห้องแชต Telegram โดยเหยื่อของภาพเหล่านี้มีทั้งดาราและผู้เยาว์

ตำรวจระบุว่าชายทั้งสามเป็นผู้ดูแลห้องแชต Hapsabang ตั้งแต่พฤศจิกายน 2023 จนถึงมิถุนายน 2024 กระบวนการขายคือการจ่ายค่าสมาชิก 20,000-40,000 วอนเพื่อเข้าห้องแชต คาดว่ารายได้รวมจากการห้องแชตนี้เกิน 10 ล้านวอน โดยผู้ต้องสงสัยทั้งสามระบุว่าไม่ได้สร้างภาพขึ้นมาเอง แต่โหลดมาจากห้องแชตอื่นๆ มาขายต่ออีกที

By mk Founder on Tag: Taylor Swift, Deepfake, Fake, Donald Trump, Kamala Harris, Truth Social
Taylor Swift

Taylor Swift ประกาศตัวในโพสต์บน Instagram ว่าเธอสนับสนุนรองประธานาธิบดี Kamala Harris ในการเลือกตั้งประธานาธิบดีสหรัฐช่วงเดือนพฤศจิกายน 2024

By sanitrachata Writer on Tag: Telegram, Deepfake, South Korea, Crime
Telegram

สำนักงานตำรวจแห่งชาติกรุงโซลระบุว่าได้เริ่มต้นสืบสวน Telegram เนื่องจากเป็นช่องทางในการส่งต่อสื่อลามกจาก Deepfake โดยระบุอีกด้วยว่า Telegram ได้เพิกเฉยคำขอเข้าถึงข้อมูลบัญชีผู้ใช้ในการสืบสวนครั้งก่อน ๆ

การสืบสวนครั้งนี้เริ่มขึ้นหลัง Pavel Durov ผู้ก่อตั้งและซีอีโอ Telegram ถูกจับกุมในฝรั่งเศสด้วยสาเหตุคล้าย ๆ กัน คือการละเลยให้เกิดการเผยแพร่เนื้อหาที่ผิดกฎหมายในแพลตฟอร์ม ทางการเกาหลีใต้ระบุว่าจะประสานความร่วมมือจากหลายฝ่ายรวมถึงหน่วยงานสืบสวนสอบสวนของฝรั่งเศส

By sanitrachata Writer on Tag: Deepfake, South Korea, Crime
Deepfake

ข้อมูลจากตำรวจเกาหลีใต้ล่าสุดเผยว่า เกือบ 60% ของเหยื่ออาชญากรรมทางเพศจาก Deepfake เป็นผู้เยาว์ โดยจากคดี 527 คดีระหว่างปี 2021-2023 มีเหยื่อที่เป็นวัยรุ่น 315 ราย

ส่วนเหยื่ออาชญากรรมทางเพศจาก Deepfake ในวัยอื่นมีสัดส่วนดังนี้ เหยื่อในช่วงวัย 20 ปี 32.1% เหยื่อในช่วงวัย 30 ปี 5.3% เหยื่อในช่วงวัย 40 ปี 1.1%

By mk Founder on Tag: Ferrari, Deepfake, Speech Synthesis, Scam
Ferrari

Bloomberg รายงานว่าการหลอกลวงแบบ scam ที่ใช้ซอฟต์แวร์จำพวก deepfake ปลอมหน้าหรือเสียงของผู้บริหารยังระบาดรุนแรงขึ้นเรื่อยๆ โดยบริษัทขนาดใหญ่รายล่าสุดที่โดนโจมตีลักษณะนี้คือ Ferrari

ในเดือนที่ผ่านมา ผู้บริหารระดับสูงของ Ferrari หลายคนได้รับข้อความทาง WhatsApp ที่แสดงตัวว่ามาจากซีอีโอ Benedetto Vigna พูดถึงดีลการซื้อกิจการใหม่ที่ยังเป็นความลับ ขอให้ผู้บริหารช่วยเซ็นสัญญาไม่เปิดเผยข้อมูล (NDA) และเข้ามาช่วยงานซีอีโอในดีลลับนี้

By lew Founder on Tag: Deepfake, Artificial Intelligence, Security, Banking
Deepfake

ที่งาน Money 20/20 Asia ที่กรุงเทพฯ สัปดาห์ที่ผ่านมา Tony Petrov ประธานเจ้าหน้าที่ฝ่ายกฎหมายของบริษัท Sumsub ผู้ให้บริการยืนยันตัวตนลูกค้า (know-your-customer - KYC) ระบุถึงความก้าวหน้าของเทคโนโลยี AI ทุกวันนี้ว่าก้าวหน้าขึ้นเรื่อยๆ แต่เทคโนโลยีการตรวจสอบก็ได้รับการพัฒนาเช่นกัน

Sumsub พยายามพัฒนาระบบตรวจจับภาพ Deepfake ของตัวเองโดยมีทีมสร้างภาพ Deepfake เพื่อมาหลอกระบบตรวจสอบไปพร้อมกัน โดยลูกค้าจำนวนมากเป็นกลุ่มบริการคริปโต เช่นตลาดคริปโตอย่าง Binance

By arjin Writer on Tag: LastPass, Security, Cybersecurity, Social Engineering, Deepfake
LastPass

LastPass รายงานเหตุการณ์ที่เกิดขึ้นกับบริษัท จากการที่คนร้ายใช้โปรแกรมปลอมเสียง Deepfake โดยพนักงานคนหนึ่งของบริษัทได้รับการติดต่อทั้งในรูปแบบโทรศัพท์เสียง ข้อความ และวอยซ์เมล ผ่าน WhatsApp โดยทั้งหมดปลอมตัวเป็นซีอีโอของ LastPass

อย่างไรก็ตามพนักงานคนดังกล่าวก็ไม่ได้เชื่อว่าเป็นซีอีโอตัวจริง เนื่องจากมีลักษณะแปลกหลายอย่าง เช่น ติดต่อนอกเวลางาน ไม่ได้ใช้ช่องทางติดต่อทางการของบริษัท พยายามแจ้งสถานการณ์ที่มีความเร่งด่วนสูง เพื่อหวังใช้ Social Engineering สุดท้ายพนักงานก็ไม่ได้สนใจข้อความ และรายงานเหตุการณ์ให้กับฝ่ายความปลอดภัยของบริษัทตามขั้นตอน

By arjin Writer on Tag: Google Research, Google, Artificial Intelligence, Deepfake, Video
Google Research

Google Research เผยแพร่งานวิจัยหัวข้อ "VLOGGER: Multimodal Diffusion for Embodied Avatar Synthesis" เป็นโมเดล AI ที่ใช้อินพุทภาพบุคคล 1 ภาพ และไฟล์เสียง สามารถสร้างวิดีโอที่ขยับได้ตามเสียงทั้งปาก ใบหน้า ศีรษะ ตลอดจนมือ

โมเดลนี้มีจุดเด่นคือไม่ต้องอาศัยการเทรนข้อมูลบุคคลนั้นมาก่อน ไม่ต้องระบุตำแหน่งใบหน้าและส่วนต่าง ๆ ก็สามารถสร้างการเคลื่อนไหวในทุกจุดในภาพ โมเดลนี้จึงมีโอกาสนำไปต่อยอดใช้ในการนำเสนอผลงาน งานประกอบการสอน หรืองานที่เดิมมีข้อมูลเฉพาะตัวหนังสือ ให้เป็นภาพเคลื่อนไหวได้ดีขึ้น อย่างไรก็ตามมีความเสี่ยงในการนำไปใช้งานอย่างไม่เหมาะสมด้วยเช่นกัน

By lew Founder on Tag: Deepfake, Hong Kong
Deepfake

พนักงานบริษัทในฮ่องกงถูกหลอกให้โอนเงินไปยังคนร้าย 15 รายการ รวมความเสียหาย 200 ล้านดอลลาร์ฮ่องกงหรือประมาณ 900 ล้านบาท

คนร้ายอาศัยการส่งลิงก์ประชุมออนไลน์ให้กับเหยื่อ และเหยื่อก็พบว่าห้องประชุมมีคนอยู่ในห้องหลายคน ทุกคนล้วนเหมือนจริงและเป็นพนักงานบริษัทด้วยกัน คนที่ปลอมเป็น CFO ระบุว่าต้องทำธุรกรรมลับจึงขอให้โอนเงินให้

ตำรวจฮ่องกงแถลงข่าวคดีนี้เพราะที่ผ่านมา คนร้ายมักปลอมตัวเป็นคนใดคนหนึ่งในบริษัท และพนักงานมักจะไหวตัวทันหากถูกเรียกเข้าประชุมตัวต่อตัวกับคนร้าย แต่ตอนนี้คนร้ายก็เพิ่มเทคนิคด้วยการปลอมตัวเป็นพนักงานหลายๆ คนสร้างความน่าเชื่อถือเพิ่มเติม

By arjin Writer on Tag: X.com, Taylor Swift, Artificial Intelligence, Satya Nadella, Deepfake
X.com

X หรือ Twitter เดิม ได้บล็อกการค้นหาโพสต์จากคีย์เวิร์ด Taylor Swift ศิลปินชื่อดังชั่วคราว หลังจากมีรายงานปัญหาภาพปลอมสร้างด้วย AI ที่ไม่เหมาะสม ถูกโพสต์ลง X จำนวนมาก โดยหากเสิร์ชคำว่า "Taylor Swift" หรือ "Taylor Swift AI" จะได้ผลลัพธ์ว่ายังโหลดโพสต์ไม่ได้ในขณะนี้

ก่อนหน้านี้ X ได้ชี้แจงปัญหาจากเหตุการณ์ดังกล่าว โดยย้ำว่าการโพสต์ภาพเปลือยที่ไม่ได้รับการยินยอมเป็นการละเมิดเงื่อนไขของแพลตฟอร์ม ซึ่งทีมได้ทำการลบและระงับบัญชีที่เกี่ยวข้อง ตอนนี้ก็ยังคงตรวจสอบเพื่อไม่ให้เกิดปัญหานี้ซ้ำอีก

By Chomsu Contributor on Tag: Artificial Intelligence, Deepfake
Artificial Intelligence

Tom Hanks โพสต์ Instagram ชี้แจงว่า มีวิดีโอโปรโมตแผนทันตกรรมสร้างด้วย AI ที่หน้าตาเหมือนเขาทุกอย่าง และเขาไม่มีส่วนเกี่ยวข้องกับมันเลย ซึ่งภาพในวิดีโอโฆษณามีความต่างเล็กน้อยตรงดูเด็กกว่าแต่ยังไม่แน่ชัดว่าโฆษณามีจุดประสงค์อะไรหรือบริษัทใดเป็นคนทำ

By lew Founder on Tag: USA, Artificial Intelligence, Deepfake
USA

รัฐบาลสหรัฐฯ ออกเอกสารเตือนถึงความเสี่ยงของการโจมตีด้วยเทคโนโลยี Deepfake ที่เริ่มสมจริงขึ้นเรื่อยๆ โดยคนร้ายอาจโจมตีทั้งการหลอกลวงคนในองค์กรเองเพื่อเข้าถึงข้อมูลต่างๆ ไปจนถึงการสร้างข่าวปลอมเพื่อทำลายชื่อเสียงขององค์กร

รายงานอ้างถึงการโจมตีในปีนี้ที่คนร้ายใช้วิดีโอ Deepfake ปลอมตัวเป็นผู้บริหารบริษัทแล้วหลายครั้ง เพื่อติดต่อพนักงานเพื่อขอให้โอนเงินให้ โดยอาจจะปรับคุณภาพให้แย่ลงแล้วอ้างว่าการเชื่อมต่อไม่ดีกลบเกลื่อนร่องรอยการทำ Deepfake ในสงครามยูเครนเองก็มีการทำ Deepfake ปลอมตัวเป็นทั้งประธานาธิบดียูเครนและรัสเซีย

By lew Founder on Tag: Tencent, Artificial Intelligence, Deepfake
Tencent

Tencent Cloud เปิดบริการสร้างตัวตนสามมิติเสมือนจริง โดยผู้ใช้สามารถใส่วิดีโอของตัวเองความยาวสามนาที เสียงพูดอีก 100 ประโยค จากนั้นระบบจะสามารถสร้างวิดีโอแทนตัวจริงออกมาให้ภายใน 24 ชั่วโมง

บริการนี้มุ่งเป้าไปที่บริการอีคอมเมิร์ชในจีนที่ผู้ใช้มักชินกับการพูดคุยกับคนในไลฟ์สตรีม โดยตัวแทนของเซเลบริตี้จะสามารถตอบคำถามผ่านข้อความแต่ลูกค้าสามารถพูดคุยเหมือนคุยกับตัวจริง โมเดลที่ได้สามารถสร้างตัวแทน ได้ 5 รูปแบบ ได้แก่ แบบสามมิติเหมือนจริง, สามมิติกึ่งเสมือนจริง, สามมิติแบบการ์ตูน, สองมิติเหมือนจริง, หรือสองมิติแบบการ์ตูน ค่าสร้างโมเดลแทนตัวจริงประมาณ 145 ดอลลาร์ หรือ 5,000 บาท

By arjin Writer on Tag: Deepfake, Artificial Intelligence
Deepfake

ตัวแทนของ Bruce Willis นักแสดงฮอลลีวูดชื่อดัง ออกมาปฏิเสธข่าวที่ระบุว่า เขาได้ตัดสินใจขายสิทธิตัวตนดิจิทัลให้กับบริษัทผู้พัฒนา Deepfake สำหรับใช้ในงานวิดีโอต่าง ๆ ในอนาคต โดยบอกว่าบริษัทไม่มีการทำข้อตกลงหรือเป็นพาร์ตเนอร์กับบริษัท Deepcake แต่อย่างใด

By arjin Writer on Tag: Deepfake, Artificial Intelligence
Deepfake

Bruce Willis นักแสดงชื่อดัง ประกาศขายสิทธิ Digital Twin หรือฝาแฝดดิจิทัล สำหรับใช้ในงานวิดีโอภาพเคลื่อนไหวต่าง ๆ ให้กับบริษัท Deepcake บริษัทที่เชี่ยวชาญเทคนิคพิเศษในการทำ Deepfake ซึ่งก่อนหน้านี้เคยทำใบหน้า Bruce Willis ให้กับหนังโฆษณาในรัสเซีย

เมื่อต้นปี Bruce Willis ออกมาแถลงยุติอาชีพนักแสดง เนื่องจากได้รับการวินิจฉัยว่าป่วยเป็นโรค Aphasia หรือภาวะเสียการสื่อความ ซึ่งส่งผลต่อการทำงานในฐานะนักแสดง โดยเขาพูดถึงการขายสิทธิดิจิทัลนี้ว่า เป็นโอกาสให้เขาได้กลับมาโลดแล่นด้วยคาแรกเตอร์ที่มี แม้ตัวจะอยู่อีกที่หนึ่ง

By mheevariety Contributor Writer on Tag: Kasikorn Bank, Deepfake, Scam
Kasikorn Bank

ธนาคารกสิกรไทย เตือนภัยมุกใหม่แก๊งคอลเซ็นเตอร์ ใช้ DeepFake ปลอมใบหน้า เสียง และท่าทาง หลอกว่าเป็นตำรวจ วิดีโอคอลกับผู้ใช้ เผยมีผู้ถูกหลอกให้โอนเงินโดยใช้เทคนิคนี้ สูญไปแล้วกว่า 6 แสนบาท

ผู้ใช้รายนี้ได้รับสายเบอร์โทรจากต่างประเทศ อ้างตนเป็นพนักงานของบริษัทขนส่งเอกชนแจ้งเรื่องพัสดุมีของผิดกฎหมาย และขอให้เปิดวิดีโอคอล เพื่อพูดคุยกับตำรวจ แต่ในวิดีโอเป็นตำรวจปลอมที่ใช้เทคโนโลยี DeepFake ให้ภาพขยับแค่ปากและใส่เสียงพูดเชิงข่มขู่ว่าพัสดุที่ส่งเป็นสมุดบัญชีซึ่งต้องสงสัยว่าจะเป็นการฟอกเงิน

By nutmos Writer on Tag: Facebook, Meta, Deepfake, Fake, Ukraine, Russia
Facebook

Meta รายงานว่าทางบริษัทสั่งตรวจสอบและลบวิดีโอ Deepfake ของประธานาธิบดี Volodymyr Zelensky บนแพลตฟอร์ม Facebook แล้ว เป็นไปตามกฎของ Facebook ที่ไม่อนุญาตให้มีวิดีโอประเภทนี้บนแพลตฟอร์ม

วิดีโอปลอมของประธานาธิบดี Zelensky นี้ออกแถลงการณ์ในลักษณะขอให้ประชาชนวางอาวุธเลิกต่อต้านทหารรัสเซีย และมีรายงานว่าวิดีโอนี้เผยแพร่ผ่านช่องโทรทัศน์และเว็บไซต์ของสำนักข่าว Ukraine 24 ที่มีรายงานว่าโดนแฮกด้วย

Subscribe to Deepfake