抖音重拳整治AI换脸乱象,3万条AI霸总虚假视频遭下架

抖音下架3万个

短视频平台抖音23日发布了人工智能生成内容治理公告,宣布将”AI霸总误导中老年人”列为重点整治类型,累计下架相关违规内容3.1万条,处罚账号1317个,同步清理AI侵权视频逾53.8万则。

抖音官方账号”抖音黑板报”指出,平台针对几类AI生成不当内容及侵权场景展开专项处置,涉及利用AI技术换脸、盗用他人声音等违规行为。为防范AI盗用名人肖像等侵权行为,平台正持续完善典型案例样本库,综合运用大模型识别、技术巡检与用户举报信息,对样本库内涉及权利人的AI侵权内容实施及时干预与处置。

与此同时,平台还将重点处置通过AI”魔改”传统文艺作品、散播血腥暴力和色情低俗等不良内容的行为,并对违规账号采取梯度惩戒措施。公告表示:”对涉嫌违法的行为,平台也将及时向有关部门上报,积极配合执法工作。”

截至公告发布,抖音已累计下架AI仿冒蹭热视频逾36万则,处置AI肖像、声音类侵权内容8.5万则,对部分严重违规账号实施禁止投稿、封禁权限等分级惩处,以维护社区生态秩序。

香港媒体星岛日报报道指出,”AI霸总”是抖音近期违规高发的典型类型:不法者利用AI换脸、语音合成等技术,批量制造”成熟多金、儒雅深情”的虚假男性形象。视频中,这些”霸总”以豪宅豪车为背景,单膝跪地求婚、承诺赠房赠车;即便内容已标注”AI生成”,仍有不少年长用户信以为真,在评论区留下联系方式。

大陆媒体近期曝光了多起相关案例:一位70岁女性被”AI霸总”诱导”点橱窗帮衬生意”,最终以高价囤积大量保健品及日用商品;另有一位80多岁老人付费参加”学电商”课程,轻信”总裁恋人”话术,花费2000元人民币购入所谓”致富课程”,实则一无所获。据报道,这类内容专门利用年长者情感孤独、数字辨别力弱等特点,以”黄昏恋”和”真情陪伴”为诱饵,背后实为流量变现与诈骗带货一体的灰色产业链。

上一篇 2026/04/24 23:39
下一篇 2026/04/24 23:39

相关推荐