通报特别提及豆包、元宝、千问和文心一言这四个头部大模型厂商，对它们的合规做法予以认可。这四家平台在原始语料审核上把关严格，对违规内容的输出予以明确约束，也切实落地了AI生成内容的标签识别要求，有效阻断了违规信息的源头生成和传播。
![\"豆包等AI模型被国家网信办通报认可\"](\"https://cdn.wenxuecity.com/data/news/202609/04/bc306b7aad099fdd21de9b8c6e9bca6d.webp\")
早在今年3月，由国家网信办联合工信部、公安部和广电总局四个部门制定的《人工智能生成合成内容标识办法》正式推出，与之相配的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（GB 45438-2025）也随之发布。这两项规范文件均定于2025年9月1日开始正式生效。
根据该办法，内容服务商需在其制作的文本、图像、音频和视频作品上贴上清晰可见的标记。同时，还要在元数据层面嵌入隐性识别标签，包括产品属性、企业身份标码、内容编号等关键信息，相关日志需保存至少半年。
简单来说，AI内容一旦产生就必须携带「身份标签」，既要有肉眼可见的水印标记，也要在隐层数据中做好绑定，无论怎样下载或转发都无法消除。
规范实施已逾半年，成效初现。
2月份，中央网信办网络管理技术局长于永河对外公布了相关数据：包括豆包、DeepSeek、千问和文心一言在内的头部AI平台，已累计给超过1500亿份文本、图像和音视频内容打上AI标签，用户手中已有超10亿份附带标识的内容。于永河还指出，这一制度体系已初步建立起从生成端标注、传播过程核验再到社会层面监督的完整治理链条。
这一轮的通报通知，在原有标识体系的基础之上进一步提升了监管强度。除了贴好标签，管理部门现在更强调要在数据源头和生成输出的各个环节严防违规内容的产生。
通报还公布了七种典型违规情形，基本涵盖了当下AI应用中存在的各类乱象。
违规情形五花八门。例如，有些人利用AI技术对《三国演义》《西游记》等文学作品进行扭曲改编，破坏人物性格设定、编造怪诞情节，此类内容被业界称为「数字泔水」。还有人通过AI技术合成虚假的灾难现场和救援视频，传播不实社会热点，甚至制作AI虚拟人物推销产品以欺骗老年群体。此外，一些人滥用「换脸」和「变音」技术，以他人身份生成不雅视频和图片进行变现；有的则大规模生成含有未成年人极端行为的AI视频内容，并将「毒动画」和「邪典」类作品大肆传播。
问题还远不止这些。某些人利用AI「托管」工具冒充真实用户经营账户、组织网络水军；一些AI应用的智能体功能中，头像和聊天内容涉及色情淫秽信息。上述违规案件中涉及的账户已被严肃处理，而那些拒绝整改的平台方则面临警示、处罚、应用下架乃至账户封禁等后果。
各地监管部门也在紧锣密鼓地开展工作。
北京市网信办要求平台优化内容审查体系，强化识别新变种违规内容的能力；上海建立「AI应用知识库」，帮助用户区分风险；浙江针对关键企业实施「个性化合规指导」；广东市场监管部门则定期与平台运营方面对面沟通，逐个应用地推动改进工作。
抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣和淘宝等主流平台纷纷迭代多模型识别系统，不断完善人脸识别库、声音库和违规样本库，并部署了实时人脸识别治理机制，共发布规范声明46份。华为、小米、OPPO、vivo等手机厂商的应用市场也加强了应用审核门槛和随机检测的力度。
相比之下，这次的行动体现出了监管思路的升级。在7月份《人工智能拟人化互动服务管理暂行办法》颁布之时，豆包和千问在同一天关闭了用户自定义智能体的功能，腾讯元宝更是提前做好了相应调整。这三个平台都通过发布产品更新公告向用户说明了功能变动。
人民日报当时曾指出，这轮合规行动「正是我国AI治理从容许创新阶段升级到监管规范阶段的真实写照」。相比之下，今番监管通报则把重点转向「源头管控」和「标签制度的真正落地」。
