AI ปลอมดาวน์ซินโดรมหลอกขายสินค้า แพร่ระบาดโซเชียล กวาดล้านวิว
วิดีโอที่สร้างขึ้นด้วยปัญญาประดิษฐ์ (AI) โดยแอบอ้างใช้ภาพบุคคลที่มีอาการดาวน์ซินโดรม กำลังแพร่กระจายอย่างรวดเร็วบน TikTok, YouTube และ Instagram เพื่อกระตุ้นความเห็นใจจากผู้ชมและนำไปสู่การซื้อสินค้าออนไลน์ เช่น โคมไฟเรซิน กระเป๋าโครเชต์ และชามดินเผา โดยวิดีโอเหล่านี้สามารถสร้างยอดชมได้นับล้านครั้ง ทั้งที่ทั้งหมดล้วนเป็นเนื้อหาปลอม
กลยุทธ์เอาเปรียบความเห็นใจ
ตัวละคร AI ในวิดีโอเหล่านี้อ้างว่าถูกรังแกและดูถูกเพราะนำสินค้าทำมือมาขาย ก่อนนำผู้ชมไปยังร้านค้าออนไลน์ที่น่าสงสัย ซึ่งบางแห่งมีรีวิวห้าดาวที่ใช้ข้อความสำเร็จรูปซ้ำกันทุกรายการ นักวิจัยพบว่าสินค้าบางชิ้นปรากฏในเนื้อหาของผู้สร้างจริงมาก่อน แล้วจึงถูกนำไปใช้โดยไม่ได้รับอนุญาต
เนธาน โรว์ ผู้อำนวยการโปรแกรมของ Down Syndrome International ให้สัมภาษณ์กับ AFP ว่า วิดีโอเหล่านี้ฉวยประโยชน์จากมุมมองเชิงสงสารที่สังคมมีต่อผู้ป่วยดาวน์ซินโดรม
"พวกเขาเอาเปรียบคนที่มีทัศนคติเห็นใจหรือมองแบบปกป้องต่อผู้ป่วยดาวน์ซินโดรม" โรว์กล่าว
ผลกระทบต่อผู้ประกอบการตัวจริง
โรว์ ยังชี้ว่าวิดีโอปลอมเหล่านี้ทำให้เนื้อหาของผู้ประกอบการที่มีดาวน์ซินโดรมตัวจริงถูกกลบ และอาจแย่งรายได้จากพวกเขาไปด้วย พร้อมระบุว่าองค์กรเคยร้องเรียนต่อ Meta กรณีดีปเฟกลักษณะใกล้เคียงกัน จนมีการลบวิดีโอไปจำนวนมาก แต่เรียกร้องให้แพลตฟอร์มโซเชียลมีเดียดำเนินการเชิงรุกมากกว่าเดิม
ระบบล้มเหลว สร้างง่าย ควบคุมยาก
เจเรมี คาร์ราสโก ผู้ร่วมก่อตั้งบริษัทวิจัย AI ชื่อ Riddance ระบุว่าจำนวนบัญชีที่เผยแพร่เนื้อหาลักษณะนี้สะท้อนว่ากลยุทธ์นี้สร้างผลกำไรได้จริง และปัญหาเกิดจากความล้มเหลวของระบบในหลายระดับที่สะสมกัน รวมถึงการที่วิดีโอประเภทนี้สร้างได้ง่ายและติดตามได้ยาก
"รู้สึกเหมือนเรากำลังแตะขีดจำกัดของสิ่งที่ยังพอยอมรับได้ และถ้ายังเดินหน้าต่อ อะไรบางอย่างจะต้องเกิดขึ้น" คาร์ราสโกกล่าว
ขณะที่ AFP ระบุว่าได้ติดต่อ Meta เพื่อขอความเห็น แต่ยังไม่ได้รับการตอบกลับ ส่วน TikTok และ YouTube ต่างมีนโยบายห้ามเนื้อหาหลอกลวงและสแปมที่ทำให้เข้าใจผิด อย่างไรก็ตาม วิดีโอ AI ลักษณะนี้ยังคงแพร่กระจายอยู่บนแพลตฟอร์มเหล่านั้น
