面对一场飙速行驶的列车，勇敢地发出减速信号，这确实需要非凡的胆识。不久前，Anthropic这家业界领先的AI实验室主帅达里奥·阿莫迪就做出了这样的举动。
这家公司拥有全球最顶尖的AI模型，其营收扩张速度在资本主义历史上也极为罕见。掌握着最接近「递归自我改进」（AI自动迭代升级）这一节点的技术优势，原本前景锦绣。但最近，阿莫迪却发表文章，反而呼吁减缓AI进步的步伐。他强调递归自我改进「必须采取极其谨慎的态度对待，若真要进行的话」。
纵观整个行业，能有首席执行官做出如此大胆举措的例子极其罕见，更别说此人还正在推进引人关注的IPO计划。其勇于触及核心议题的精神值得肯定。不过，这份勇气并不意味着已有切实可行的解决之道。
在Anthropic的战略团队看来，一个令人惊悚的风险正在迫近：AI agent的集体行动可能在今后6至12个月形成「全面接管互联网」的危险。倘若缺少强有力的安全防护机制，所带来的危害程度必将不断加剧。
基于这一认识，他提议启动「速度管理」机制，通过控制AI能力扩张的节奏，为安全防护赢得调整空间。Anthropic的首个举措是聘请外部专业人士担任长期监督员，赋予他们系统访问权限与评估权力。这些常年驻场的评审专家将对其安全措施进行跟踪审视，并定期向社会公开反馈。
过往的AI减速论或暂停论曾在业界遭遇冷遇。然而，面对这一次AI技术进展所引发的担忧，来自OpenAI、Tesla和DeepMind等竞争机构的领军人物——Sam Altman、Elon Musk和Demis Hassabis——纷纷表示赞同。其中Altman更是公开承诺，将在OpenAI推行相同的常驻评价机制。
曾经，AI实验室对暂停期间的工作方向一筹莫展。现状已转变，这回他们手中掌握着一份详尽的任务清单。
实验室若在细节执行上能更为谨慎，近期曝出的多起AI安全事故本可得以防范。仅在今夏已确认的五起意外中，三起源于所谓「沙盒隔离」的设置漏洞——这本是一种隔离的数字实验区，理论上AI agent不应具有突破它的能力。
消弭这类隐患的办法包括：强化模型的隔离措施、净化训练素材中那些可能引导模型产生有害表现的因子、完善数不清的其他守则。阿莫迪在文中指出：「在技术密集型且安全生死攸关的体系中，百万次乃至千万次无故障运行并非不可能——商用飞机就是范例。只是这需要时间的沉淀。」
对此不乏反对声浪，尤其来自竞争对手英伟达CEO黄仁勋等业界人士。他们暗示阿莫迪出于商业目的，对AI风险进行了夸大。黄仁勋虽未点名，但其观点明确：声称AI危险性，本质上就是把AI能力吹得天花乱坠。在他看来，鼓吹安全需求无非是一套宣传手法。
然而，来自学术圈、享有盛誉的英国AI安全研究所，以及记录AI agent越界攻击Hugging Face事件的独立调查，都印证了AI风险的客观存在性。黄仁勋的言论取向则恰恰反映了英伟达的商业诉求——多售AI芯片的利益驱动。
还有一种说法认为，阿莫迪借夸大风险之名，争取政府管制，进而限制竞争对手、确保自身优势——所谓「监管俘获」。此论实则颠倒黑白。竞争者之所以可能因规范而吃亏，恰恰在于它们的产品风险更高。许多厂商发布的「开源权重」模型允许用户自行关闭防护机制。
对阿莫迪方案更具建设性的质疑聚焦于此：驻场评审机制可能难以达成他期许的减速效应。他将其定位为集体协调减速的一个环节——假如民主国家的所有AI实验室都引入这类评审员，方能判断是否有机构走投机取巧、不负责任的路线。
现实困境在于：能否说服所有或多数机构追随这一做法本身就是疑问，即便成功，评审员的实际成效也难保。DeepMind曾邀请独立评审人士审查其医疗AI产品线。但这些评审员急于展现权威性，反而对DeepMind的不足放大其词，最终被谷歌撤换。
公允而言，阿莫迪之所以转向引入评审者，源于对国会效率的现实估量——建立官方监管体系、强制实验室守规之举短期内恐难成行，而这本是最直接的路径。遗憾的是，他对另一类协调方案着墨较少——即行业出资、政府认可的自律组织，这正是DeepMind主席哈萨比斯数周前建议的架构。
美国的AI龙头企业应当迅速成立这样的机制。政府则可通过最小化或豁免相关的反垄断风险来予以支持。
不过，以上举措仍嫌不足。任何AI减速方案所面临的核心难点，归根结底指向一个国家——中国。「民主阵营的减速力度必然受制于美国科技企业相比专制政权（主要是中共）的领先幅度」，阿莫迪如此表述。考虑到美国仅领先中国数月，他的逻辑是：西方的步伐放缓必须温和适度。与此同时，他认为安全发展的路线可能仍需1-2年的缓冲空间。
关键问题随之浮现：如何既不落后中国，又为安全防线争取宝贵时间？阿莫迪的答案是强化对华的AI技术管制。首先，应禁止向中方转移AI推进的工具；其次，收紧芯片及其生产设备的出口限额；再次，遏制「蒸馏」现象（用高级模型训练低阶版本），因为中国大量采用这一绕路方式；最后，强化西方实验室防护，阻挡中国的知识产权盗窃。此举可望扩大西方在AI竞赛中的优势差距，进而为放缓策略提供保障。
这套方案并非新创，但其效能令人失望。自2022年起，拜登政府即启动了芯片出口管制。然而，制度漏洞早已暴露，无论前任还是现任政府都未能有效堵补，以至中国的进展并未受阻。
同样的，西方AI领跑者抑制蒸馏、守护知识产权的动机不可谓不足。他们的无力或许源于方法论的匮乏。讽刺的是，尽管美国施压中国AI产业，本土应用中采用中国模型的比例反而在上升。
局面也许不必非黑即白。除了施压之道，中国还可成为安全协作和节奏协调的伙伴。长期以来，阿莫迪认同美国外交共识：与中方AI谈判形同虚设。文章末尾，他的态度出现转向，成为全文最值得关注的部分。他搁置了对中国技术专制和少数族裔压迫的直指，转而梳理可能的合作空间。美苏冷战年代，双方激烈对抗却未妨碍军控协议的达成。
特朗普定于9月24日与习近平举行会晤。这场高峰会在AI议题上可能收获有限，但年底前两国领导人还有两次会面机会。防范超人工智能带来的灾难性后果上，美中拥有共同利益，北京方面对此认知清晰。无论协调的难度如何，放弃协调的代价更大，因此尝试协调成为不得已的选择。
美中关系的冰冻态势，恰恰是AI减速难题的根源所在。只要特朗普团队及阿莫迪之类的科技精英齐心协力推动北京谈判，这一技术的光明前景方可落地。
