YouTube@Axios
最近,美国财政部长贝森特向外界透露,美方在考虑能否与中国携手,建立一套专门应对人工智能安全的通报制度。该机制的目的在于,当任何一方的AI系统陷入严重失控、遭遇网络入侵或其他重大安全威胁时,能通过直接沟通渠道及时通报,从而防止误解升级为更严重的后果。
在接受Axios的采访时,贝森特阐明,他曾与中国副总理何立峰进行过会谈,双方在交流中涉及了AI安全领域的多个议题。这些议题涵盖失控的智能代理、恐怖分子或其他非国家组织借助AI实施网络攻击与生物安全威胁、以及最前沿模型所隐含的数据泄露隐患等方面。
尤其值得关注的是,贝森特在对话中特别提及了中国初创公司月之暗面旗下的Kimi AI模型。
贝森特表示,中国已逐步意识到一个现实困境:虽然该国自行开发的开源AI模型具有强大能力,但其所带来的意外安全风险也不容小觑。
贝森特甚至用具体案例说明,Kimi在模型训练或使用过程中,竟曾把一些中国敏感信息转送至美国企业Anthropic旗下的Claude AI。他以半幽默的语气表示,Kimi似乎有时「将自己当作Claude」,居然还把涉及中国军事项目的内容转给Anthropic,这种情况「真是帮了大忙」。
此类观点的背后,牵涉一个当今AI业界争议最大的技术议题——模型蒸馏。
据报道,Anthropic曾指控部分中国AI初创企业,通过大规模调用Claude及其他美国高端模型,促使自身模型摄取对手的生成结果,借此提高自己的性能。Anthropic的立场是,常规蒸馏本质上是一种广为采用的开发策略,但倘若行为人借助虚假账户、盗窃API凭证等手段,以规模化方式复制竞争对手的能力,就已越出了正常学习交流的范畴。
贝森特的观点是,中国可能曾经低估了开源AI模式的危险性。
他指出,虽然中国的诸多模型相比美国最尖端的系统仍有差距,但它们的能力已接近美国同类产品的八成或更多。而一旦开源模型被下载散布到全球,其可控性就远不如闭源体系那样容易维持。
从中方利益考量,另外的隐患来自隐私安全以及政治管理。
中国官方的国家安全部门日前也曾提示,AI技术可能被挪作网络战争、信息战及思维战的工具,进而威胁到政治立场与意识形态的平稳。
由此看来,中美在AI领域虽是强烈的竞争对手,但对若干危机的忧虑却逐渐产生了交汇。
美国侧重关注的是AI失控、网络侵犯、生物威胁与智能代理超权运作;中国除了同样担心这类问题,还对AI削弱其信息掌控力、引发敏感数据外泻感到不安。
基于这类共性的风险认知,美国现今设想建立一个类似「应急热线」的协商体制。
贝森特认为,若将来真的发生严重的AI事故,两个国家起码需要维持一个能够迅速接通、快速确认情况的对话渠道,防止技术风险转化为两国之间的战略误判。
颇为值得称道的是,贝森特自身对AI风险管控的看法相比川普执政时期的某些官员表现得更谨慎周密。
当新闻记者追问那些AI企业的管理者已多次警示强大模型可能失控的话题时,他做出了极其坦率的回应:
「那他们理应放慢节奏。」
他的主张是,虽然美国自然应当维持在AI领域的领先位置,但不能仅仅着眼于打磨更强力的模型,更须投入巨资来强化发电网、金融生态、医疗体系、行政网络等战略要地的防御,杜绝它们沦为AI威胁的突破口。
换一个角度说,中美在AI领域的竞争版本现在展现出一个可观的变化动向:
各自竭力打造更强的模型之际,双方已然开始谋划,一旦人工智能真的发生险情,彼此应该怎样在第一时间传达通知。
这或许也标志着,AI竞争正在从纯粹的「比拼算力与性能」的阶段,逐步转向「比拼谁能更有效地管理与防范AI危机」的新阶段。