抖音、脸书等社群平台最近频繁出现一类视频，内容是退役军人在家手工制作爱国商品，画面往往令人心酸。这些视频声称手工业者身有残疾、生活困难，需要消费者的支持来维持生计。看似感人的故事吸引了无数善良网友慷慨解囊购买商品。但事实远非如此——这一整场骗局的主角全部出自AI生成技术，这些虚拟人物根本不存在。诈骗分子真实的目的，是以虚假的人物设定和感人故事为诱饵，向全球消费者倾销源自中国的低端商品。
根据《纽约邮报》的调查，不法分子借助先进的生成式AI技术在TikTok和脸书平台制造了大量虚假视频。这些视频中的人物设定极具视觉冲击力——有的面部被刻画成毁容状，有的被设定为残肢人士。配合着煽动性的文案，声称这些虚构人物被社会边缘化、亟需帮助，从而恳求观众购买所谓的手工木旗、皮包或砧板等商品。这样的营销手段极其有效，大量充满同情心的消费者由此上当受骗。
一位曾在英国陆军中服役、驻地为阿富汗的63岁退伍兵吉尔伯特讲述了他自己的被骗经历。在TikTok平台上，他看到一段视频，其中一个自称是他的老战友的人在自己的车库里手工制作国旗。这个故事深深触动了吉尔伯特，他不由地产生了同情，于是花费约200美元下单购买。然而当包裹送达时，外包装上用简体中文印满了各类文字。当他打开包装，真相大白——所谓的木雕手工品不过是一张薄薄的打印纸，粗糙地粘贴在廉价夹板上。
AI一秒成片 机器人刷屏洗脑
来自技术领域的分析人士盖亚特对这类「利用同情心的诈骗」进行了深入分析。他指出，这类骗局的成本几乎可以忽略不计。犯罪分子仅需输入简单的文字提示词，AI就能在几分钟内生成情感爆棚的虚假视频内容。更可怕的是，这些生成的画像已经达到高度逼真的程度，早已克服了早期AI生成内容存在的明显漏洞和不自然之处。制作完成后，诈骗网络还会调动大量的虚假账户和机器人程序，在评论区进行大规模的刷赞和虚假好评，进一步诱导其他受害者跳转到隐藏的购物链接进行消费。
虽然多数被举报的违规账户最终会被平台关闭，但法律专家对防范这类诈骗的前景并不乐观。英国律师弗莱彻表示，一旦不法分子的账户被官方封禁，他们立刻就能注册新账号，重新开始推送诈骗内容。平台方采取的封号措施往往是被动应对，其反应速度完全赶不上AI生成虚假视频的泛滥趋势。这种「道高一尺魔高一丈」的局面使得防御工作面临极大的挑战。
