即将启动的中美人工智能对话引起了广泛关注。众多业内人士出于美好初心，正在向美国政府施压，希望能在AI安全风险防范上与主要对手达成合作。鉴于两国科技企业都在竞相打造最先进的大语言模型，支持者们相信，两个超级大国若能签署协议甚至国际条约，将成为人类应对可能危险的最后一道防线。
这种想法不是没有道理的。然而，作为参与首次中美人工智能对话的前国务院特使，笔者的担忧在于：或许这些即将开始的磋商也无法改变局面。历史经验表明，北京对竞争力的追逐远超其他任何目标，其他事项的优先级次之。
去年5月的会晤，双方已预先确定了明确的会议议题——由两国领导人亲自认可。讨论重点应集中在先进AI技术可能的风险以及国际安全合作机制。令人失望的是，整个会议过程中，中方代表持续规避涉及系统风险的任何话题。对于本国的AI监管框架，他们同样闭口不谈，即便监管部门的负责人也在会场。
反观中方，对美国的安全忧虑反而提出了质疑。他们声称，安全至上的政策会堵住技术进步的大门，也会阻断欠发达国家获得AI工具的途径。此外，他们还提出设立分层对话机制的建议，这种做法容易陷入无尽的议程纠葛。
有一个细节让笔者难以忘怀——会议间隙，一位中方同级官员用疑惑的眼神盯着笔者，直言不讳地追问：为什么美国一定要把AI风险放在谈话的中心？美方在认真贯彻两国领导人的指示，而对方的关注点，始终聚焦在如何争夺技术竞争的制高点。
对于这个月即将召开的会议，笔者有理由相信，中国不会改变淡化安全隐患的姿态。它很可能会借安全合作的名义来做交易，以换取诸如解除芯片限制令这样的实质性收益。同时，北京还会继续宣传自己是发展中世界的护航者，力图让低收入国家都能享受AI的红利。但暗地里，它依然在多管齐下争夺领先地位——包括制造舆论来反对数据中心建设，同时暗示国内企业继续基于美国的模型来推进自身的技术升级。
也许北京会打破既有的套路。毕竟，连习近平主席自己也在公开场合提及AI失控的危险性。近期确实出现过一些真实案例，表明AI系统存在突破人类约束的可能性。当恐惧与商业利益产生交集时，也许就能推动各方采取一致行动，或最起码形成某种共同理解。
但事实却并非如此——如果北京真的在认真看待AI风险，这个信号显然没有传到国内的科技企业那里去。官方虽在国际舞台上为国产开源模型叫好，声称其在全球获得认可，但在安全防护这个关键指标（特别是防止黑客获得系统最危险能力的机制）上，国产模型与美国同行仍有不小差距。中国的AI公司对此避讳莫深，对于各自模型存在的失控风险，更是讳莫如深，很少有人愿意主动坦白。
对美国领导层而言，形势更显复杂。AI领域的科研工作者、政界精英、投资圈大佬乃至科技巨头，都在大声疾呼建立国际AI安全联盟来应对失控风险。笔者最担忧的是，北京会利用这些人士的善意，尤其是当国际谈判无法达成全面的安全框架之际。北京的套路很可能是：先做出姿态，抛出看似体贴的建议，最终协商破裂时，反手指控美国阻挠。这样的剧本一旦上演，就会在美国国内引发争议，动摇「美国必须全方位领先AI竞争」这个两党都支持的大政方针，从而为北京夺取全球科技高地创造机会。
真正的瓶颈在于：国内的政策框架尚未定型，国际协议就无从谈起。企业部门必须先在技术和规范层面找到出路，这些具体办法随后才能被纳入政府政策，进而演变成跨国协议。与其让那些有影响力的安全专家继续向美国官员施压去追求虚无缥缈的外交奇迹，不如他们转向推动中美两国的开发团队提升技术门槛，拿出真金白银投入更安全的AI开发，同时提高信息透明度和事件报告的规范。此外，保持与中国的商人和卸任官员之间的私下接触也很关键——这些非正式渠道有助于将压力传导到决策层。
这当然不是说峰会毫无意义。美国理应对中国在AI风险防控上的诺言进行监督，并向其企业提出与美国同行相同的透明度和安全底线要求。后续的沟通机制应该定期核验双方有无取得实实在在的进展。
倘若双方都带着诚心前来，笔者所能想象的最好结果，不过是达成一份无法律约束力的联合声明。声明内容包括：两国政府各自向本国企业施压，敦促其制定和更新针对网络攻击和生物安全的AI风险防护标准，同时就那些可能引起疑虑的事件进行主动透明的披露，而非隐瞒。此外，双方可以重申之前达成的AI安全共识，包括去年关于保证人类对核武器启用权拥有最终控制权的那份协议。这样的进展不会一蹴而就，需要各国从现在开始就将自己定位为这一长期进程的参与者。
笔者明白，对于那些已经在为AI失控的灾难鸣警报的人来说，上述目标听上去似乎过于温和。不过，鉴于大国外交的复杂性和两国内部政策框架的滞后，即便达成这样的共识，也会是一项实实在在的收获，可以作为日后衡量进展的基准。
笔者相信美国的决策者明白这里头的风险和机遇，也能看穿对手的算盘。希望他们在努力平衡各方利益的过程中，能够获得美国AI安全社群的理解和支持。国内层面的基础工作必须扎实推进，为的是最终开出一条包容各国、互利双赢的发展之路。
