近日，Anthropic的领导者达里奥·阿莫迪呼吁，各国应携手减缓人工智能的开发脚步，以便为应对相关技术风险争取更充足的时间。OpenAI的主要人物萨姆·奥特曼与埃隆·马斯克都表示赞同此观点。
美国的人工智能企业清楚地认识到，仅凭一己之力无法对行业踩下制动。中国不能置身事外。深度求索、智谱AI、月之暗面等中国厂商研发的AI模型，性能已接近Anthropic与OpenAI的产品。这些模型也会带来类似的隐患——恐怖分子有可能借助这些工具执行网络侵袭或研制生物病毒。各界期待即将召开的特朗普与习近平峰会能为推动合作提供契机。
可是，人工智能安全领域的专业人士通常假设，中国与西方在这方面有共通的疑虑。但事实远非如此——两者的关注点存在本质区别。如果无法准确把握中国真实的担心所在，想要推进双边合作就无从谈起。
总体而言，北京方面对AI构成生存级威胁的担心程度远低于西方。不会有中国的政治高层或AI创业者声称，超越人类智能的人工智能「有可能成为人类生存的最大威胁」（这是奥特曼在2015年提出的观点）。这类观点在中国的AI政策制定中并未占据核心位置，也与中国的技术文化相悖。
两国之所以存在差异，根本上源于对AI训练和进展模式的认知不同。美国的顶尖AI企业将重心放在「递归自我改进」上——这指的是AI系统通过自我迭代来实现不断优化。理论家们警示，这种自我强化的循环有可能加快AI的演进速度，人类最终将失去对其的掌控能力。美国的技术精英相信，这个临界点已近在咫尺。
中国的AI厂商同样投身于递归自我改进的研究。然而受限于算力获取渠道的狭窄性和研发进度的滞后性，他们的判断是这一临界刻度的到来还需要经历相当长的时间周期。中国的官方决策层似乎也持有相同的看法，因此其政策重心落在两个方面：培育更具抗压力的AI产业链，以及扩大AI技术在经济各领域的渗透。
既然中国未曾感知到迫切的风险，何故会主动同意降速？实则，中方AI企业在争分夺秒地追赶，势必要缩小与美国模型间的性能鸿沟。
当下，北京官员的防范重点聚焦于AI可能带来的政治及社会冲击。他们担心AI会生成政治人物的虚假视频，或在台湾、天安门等敏感议题上出言不当。他们也防范AI聊天工具引发使用者的心理依附、危及少年儿童、引爆社会矛盾，乃至组织民众力量威胁执政合法性的风险。
中国当前的AI监管框架主要就是围绕这类隐患来设计的。面向社会大众的新增AI模型须备案存案，并要经过若干轮的评估才能发布。官方还制定了详尽的要求——AI生成的内容需明确标注身份，聊天机器人的拟人化程度也要受限。
中国外交部代表人员将美方的减速倡议驳回，言辞尖锐地指其为「耸人听闻的言论」，实质意在干扰中国争夺AI领导地位的努力。（插曲：特朗普本人其实也表明过反对减速的立场，原因也不外乎是要堵住中国的赶超之路。）
蛛丝马迹显示，中国当局开始以更加严肃的态度面对大规模AI所带来的风险。在众多风险当中，有两类尤其引起了北京的高度重视。
首先是网络安全领域的隐患。本年度，国内众多用户纷纷安装了OpenClaw这款热门的AI代理工具，用以自动管理电脑工作。相关官员旋即拉响警报，指出此类工具有可能导致用户数据外泄和系统防线被攻陷的风险。
4月份，Anthropic向外界公布，他们开发了一套代号Mythos的新型模型，其网络侵犯的能力获得了显著的提高。中方迅即嗅到了其中的国家安全风险。中国重要安全部门的责任人随后发表罕见的公开声明，表示网络防护的态势正在改变，国计民生的关键设施如今易于遭受国外对手策动、AI驱动的网络突击。他还特意提及了OpenAI和Anthropic推出的几款新品模型。
更加剧了这一忧虑的是，某家美国籍安全企业近期借助AI手段研制了一款试验工具，其能在短时间内破解微信账号——微信是中国最大的社交通讯应用，拥有超14亿的月度活跃用户。虽然这套工具并未对外公开散播，但仍然令北京心生警惕。
第二类受关注的风险涉及失控的AI系统越界运作。中国当局对美国模型冲破约束、入侵他人网站防护的案例保持警觉。OpenAI在7月对AI基础设施服务商Hugging Face的侵袭行为，已成为中国官媒的重点报道内容。
失控的AI已浮出中国权力层的议事日程。习近平于7月间曾提及「失控」的风险。近来，中国网信办的资深网络防卫官员便以美国AI失控案例为鉴，示警存在「超级失控」的可能性。
对AI风险认知的这些变化揭示出，两国如果从各自的国计民生出发，其实有理由在AI安全领域携手。恐怖分子借AI之手制造病原体——这是双方都想规避的。自主运作的AI系统无意中侵入本土企业或机关——这也是双方都希望防止的。
然而，两国间的战略猜忌也会给安全协议的谈判制造障碍。北京忧虑华盛顿会用AI强化对华的网络及军事手段。华盛顿的顾虑也不相上下。若缺乏最起码的相互认知，这两个全球AI领跑者只会陷入各说各话的怪圈。
好消息是，这样的相互理解并非空想。相比于上来就纠缠于全球减速或AI军控公约这类大问题，中美不如先从最基础的层面着手：彼此理解和尊重对方对AI风险的认知框架。拿此作为基石，双方就有机会找到那些在应对来自第三方或技术本身威胁时都有共同诉求的议题。
尽管意见分野难以消弭，细节的琢磨也需耗费心力。但若两国能就「都想规避AI失控的灾祸」这一基本共识达成一致，则在安全领域的协作便不是痴人说梦。
相关报道
中国不在乎人工智能安全，它只想赢
