眼下美国在筹划与中国展开人工智能领域的对话。与此同时，一股力量正在向美国官员施压——这些力量出发点良好，却要求在AI风险防控上与战略对手进行合作。美中两国的企业正竞相开发最先进的模型，支持者们由此认定，两个超级大国达成协议乃至缔结条约，是防止人工智能可能失控的最后堡垒。
这样的想法我能理解。作为之前与中方共同推动首届美中AI对话的前国务院特使，我却感到忧心忡忡——即将进行的谈话恐怕无法为我们解围。历史告诉我们，除了争夺竞争上风之外，中国似乎没有太多其他关切。
那场2024年5月的会议有着十分清晰的日程表——两国领导人早已达成共识。会议旨在聚焦先进AI系统可能带来的风险，并探索安全领域的合作机会。奇怪的是，数小时的交涉中，中方代表对AI系统风险这个议题始终避而不谈。即便现场有律法专家，他们也不愿透露本国AI监管政策的内容。
中方采取了不同的态度。他们指责我们对AI风险的顾虑本身就是问题所在。在他们看来，我们的安保框架就像一堵墙，既阻挡了科技红利的释放，也防止了落后国家接近AI工具。中方还提出建立分层对话的想法，这类建议往往会陷入无尽的程序缠绕。
有个时刻我迄今无法忘怀——就发生在酒店会议厅外。一位中方同级官员用困惑的眼神看向我，提出一个问题：我们干嘛要把话题放在AI风险上？这个差异道出了实质——我方遵循了两国首脑的指示，而他方眼中只有争夺战略地位的机遇。
待到本月召开会议，我预期北京又会对安全隐患轻描淡写。其或许会拿出安全合作的幌子，以此换得类似芯片管制放松这样的实际好处。按我的判断，北京会继续把自己包装为一个无我利他的拯救者，声称要帮助欠发达地区用上AI工具。可在暗地里，它会继续用各种手段保持领先地位——比如炮制舆论、鼓动反对数据中心的呼声，让中国公司借用美国开发的模型来强化自家系统。
但也不排除北京改弦更张的可能。连习主席本人都公开讨论过AI的风险和失控威胁。最近发生的几桩事件生动地表明，AI系统可能越出人类掌控。如果对风险的恐惧与商业利益能够相遇，就有望推动双方行动协调，或至少形成某种新的理解。
然而这里有个悖论：如果北京真的重视AI风险，这个信号根本传不到国内业界。官方虽在宣传自家开放型模型的全球使用，但事实上，中国模型在一个关键维度——防止危险能力被不当获取——上仍远逊于美国对手。中国科技公司披露风险信息的意愿甚低，对自家系统可能失控的苗头更是讳莫如深。
对美方决策人士而言，局面更加复杂了。科学家、从政者、金融巨头、科技大亨一齐呼吁建立AI防护联盟，防止智能失控。这份热情是真诚的，但我顾虑北京会将其当作可乘之机——一旦外交协商没能达成全面安保协议。北京的做法可能是：摆出认真态度，提出听起来不错的方案，然后把失败归咎于美国。这样的结局会引发美国内部争议，瓦解「美国应在AI竞争中保持全面领先」的两党共同立场，最终便宜了中国的全球技术野心。
还有更根本的问题：国内政策尚未定型的前提下，外交协议没有生命力。从企业和监管端着手，才是正道——先找到技术和律法的解决路径，再让政府升级为国策，最后才能变成国际条约。那些有话语权的安全专家，与其对美国官员施压去达成不可能的外交突破，不妨把力气用在别的地方：敦促两国的码农提高门槛，真金白银地投在AI安全研发，强化信息披露和事件上报。同时也要保持与中国企业领导和卸任官员的私下沟通——这样的管道或许能促动政府行动。
不是说这些峰会没有意义。检验中方对AI风险的真实承诺，要求其开发商采纳与美方相同的透明度和安保标准——这都是美国应该做的。后续谈话可以用来验证实际进展有没有取得。
若两国都有诚意，最好的结局无非是：达成一份无强制效力的共同声明。两国各自承诺向企业施压，让它们拟定并持续优化网安和生物风险防护的标准，公开（而非隐瞒）那些令人不安的事件。双方也可以再次确认已有的AI安全联合承诺，比如2024年就防止AI参与核武器决策所达成的协议。这注定是长期工作，双方首要任务是声明自己参与这个全过程。
我知道，对那些看到了未来危机的人来说，这样的目标可能太温和了。但从大国博弈的僵化局面和国内政策的待完善状态看，这样的成果已属不易，足够当作后续进展的对标。
我坚信美国决策层明白这里的轻重，也看透了对方的套路。我寄望他们为谋求平衡而做的尝试能得到国内AI安全界的呼应。国内层面，实质工作得继续向前推，为找到一条各方都能接纳的方向而努力。
