开源模型与ChatGPT、Claude的闭源设计形成鲜明对比——它允许用户自由下载、编辑甚至移除保护机制。这套成本较低、开放式的架构帮助阿里巴巴和月之暗面等本土企业的AI系统吸引了千万级用户规模,Airbnb、DoorDash等硅谷巨头也在其中。
恰恰是这份开放性——让中国大模型国际影响力扩展的同一个因素——如今却成了北京的心病,特别是从安全角度考虑,或者说是从这类技术可能对党的统治带来风险的角度看。习近平在本月的发言中承认,中方致力于AI合作开放,同时强调必须健全防控方案来应对失控风险。
当局所忧虑的内容包括:境外黑帽黑客、电诈集团、恐怖分子等不法分子可能挪用这类系统制造麻烦;大模型有可能穿过国家层级的内容审核网;倘若这些由中国企业打造的AI在国际上失手,会给北京的政治形象造成伤害。
在顶级国产大模型相继面世的时代,北京或本土企业是否该对模型使用权进行严格把控的话题变得日益关键。月之暗面推出的Kimi K3便是一例,其在多个维度的表现可以和OpenAI、Anthropic的王牌系统匹敌。虽然此类系统可用于公司内部的代码生成和防御加强,却也可能沦为黑客加速识别漏洞的工具。

中国人工智能初创公司月之暗面在世界人工智能大会上展示Kimi K3模型。它在性能上可与一些美国顶尖人工智能模型相媲美。
卡内基国际和平基金会的资深研究员希恩指出,安全是这一体制的首要关切,在现任领导下尤为突出。
他进一步解释了官方的具体顾虑:先进大模型可能被用于发动网络入侵,可能突破防御体系,甚至可能让危险病原体的研发门槛大幅下降。
希恩强调,倘若这些系统果真掌握了如此强大的破坏力,北京是断然不会让其对外无节制开放的。
两家美国企业Anthropic和OpenAI一直声称,部分大模型风险太大,不适合放任其公开演化,需要严格约束。它们也对北京的模型走向国际表示过疑虑。但从另一个视角看,业界注意到的最严重漏洞往往来自美企的闭源系统。
AI失控风险,能否有效防范?
近日在京举办的一场安全专题会上,参会者频繁提及数据外泄、深伪等危机,足可见官方对大模型的深层不安。知名企业家周鸿祎在现场提醒与会者,伴随诸如Anthropic的Mythos等前沿系统的涌现,中国当下的网络防线面临前所未有的挑战。
另一大隐患是数据投毒——攻击者将经过篡改的数据灌进AI助手,使其吐出被扭曲的答案。按北京的理解,这个手段可能被用来诱导AI输出有损党和国体的内容。
国家安全部在4月曾发文告诫,这类攻击手段「威胁到了意识形态根基与国内政治稳定」。官方还提及,「反华对立阵营」(当局习惯性用语,指西方政体与国内反对派)很可能会利用大模型来编织抹黑党的叙事。
具体而言,可能涉及披露境内示威游行的讯息,或散布与新疆政策、台湾地位官方论述不符的资讯。(新疆系中国西部地区,北京对该地穆斯林群体采行了强硬策略;台湾乃民主自治之岛,北京声言拥有其主权。)
澳大利亚战略政策研究所的网络专家科尔维尔认为,从舆情管理来看,官方最怕的就是AI助手说出被党视为「禁忌」的言论。
他补充指出,根本的担忧在于任何会撼动国家话语权的资讯流传。
北京准备如何收紧大模型的缰绳?
本月有外媒报道称,商务部曾召集阿里、字节等头部AI公司开会,商议怎样控制先进模型向境外输出。不过官方部门和涉事企业都没有予以回应。
Kimi K3的面世节奏透露出企业的谨慎态度。该模型的权重参数(反映代码运行逻辑的关键数据)推延了一周才对外分享。相比之下,DeepSeek、阿里先前的开源作品习惯于发即即公,这一改变显然别有深意。
开放与管控的两难选择
业内人士指出,北京的终极目标是抢占全球AI规范制订权,进而让列国形成对中国软件、硬件及数据生态(即技术栈)的依赖。
策纬咨询的合伙人凯娜评价道,这是中方千载一遇的机遇。她表示,二十年间北京在精心构造这套技术体系,意图让各国觉得其吸引力堪与美国产品相当,甚至更胜一筹。现实却远比想象复杂。
分析人士认为,考虑到这些关键因素,如果中国最终选择约束某些大模型的国际可及性,会试着在开放和管控间找到均衡点。
这种平衡可能表现为:近期内对顶尖模型施以出口管制,而保留对相对落后版本的开放——这与特朗普政府面对Anthropic时的姿态是一致的。官方媒体旗下的账号「玉渊谭天」早前已探讨过这种可能。
该平台刊发的评论指出,对外开放的主张并不等同于无限制地分享所有技术能力。
凯娜进一步指出,北京可能会要求输出大模型的企业申领许可,类似于当前对稀有矿物和磁铁矿出口的管理体制。
这与北京近期的政策信号相辅相成:大模型能力被视为战略级国资,大国博弈中绝不能任其流向对手。本年4月的Meta收购Manus一案便是明证——这家创于中土、总部新加坡的AI企业因涉及外资而遭审核驳回,监管机构认定不应让外资渗入。
开源AI真的那么危险吗?
正当北京思考如何约束本土大模型之时,硅谷也陷入了一场激烈的讨论:开源AI软件的风险是否真的难以管控?
本月伊始,OpenAI披露其旗下两个模型曾「越界」行动,成功侵入了开发者广泛使用的开源平台Hugging Face。
Hugging Face随后透露,为扼制入侵,该平台不得不启用中国创企智谱AI的开源作品GLM-5.2防御——因为美方模型内置了功能约束。时值6月发布的GLM-5.2代表了中国AI的尖端水准,性能接近Anthropic的Mythos和Fable。
Hugging Face的CEO德朗格在事件后发文指出:局限与保密非良策,全球防御者(而非少数特选人士)需要获得更加强劲、不加束缚的系统,特别是开源工具!