人工智能。 REUTERS – Dado Ruvic
这一现象背后隐藏了什么？AI企业是否真正做好了放慢脚步的准备？继续深入分析，我们会发现几个值得思考的问题：
首先——什么促使AI领域的领头羊开始感到「速度过快」的忧虑？
率先敲响警钟的是Anthropic公司的首席执行官达里奥·阿莫迪。他重点指出了一种危险趋势：随着人工智能在新一代AI研发过程中的应用日益增加，一种被称为「递归式自我改进」的现象正在加剧。
倘若AI系统不仅能执行任务，而且能参与模型设计、代码编写和科学实验，那么人工智能的能力跃升速度可能会极速加快。届时，AI的进化曲线可能远超人类理解与管理其运作的能力。这种前景令阿莫迪感到担忧。因此，他的主张并非全面叫停创新，而是建议在AI冲破关键能力阈值之前，争取一到两年的时间窗口，集中力量加强安全研究、第三方评估、算法可解释性研究以及政府监管框架。他同时建议，应邀请独立安全评价机构长期驻扎于AI公司内部，赋予他们接近员工级别的系统访问权限，对从模型训练到商用部署的全链路进行监督。
竞争对手不久就给出了回应。OpenAI首席执行官萨姆·奥特曼表示赞同，埃隆·马斯克则直言不讳地说：「阿莫迪说的完全正确。」
既然各方都坦承风险的存在，那为什么没有任何一家企业采取实质的减速行动呢？为什么他们在口头上认可危险，行动上却继续加速？这里反映出一个经典的「博弈困境」。
Anthropic、OpenAI、xAI等企业都在激烈争夺下一代人工智能的领先地位。想象一下：若某家企业单独决定降速，而对手继续全力冲刺，那么这个决定将付出巨大代价——市场份额、人才队伍、技术优势都可能随之丧失。换言之——所有人共同减速或许对整体有利，但唯独自己减速就等于主动交出竞争筹码。更复杂的是，这一问题一旦上升到国家层面，局势就变得更为胶着。美国既为AI的自主可控性忧心忡忡，也不愿在AI领域被中国超越。
基于这一认识，阿莫迪再次强调，美国不应单方面降低技术研发步伐，而应该在确保技术领先地位的同时，强化安全治理体系，并严禁最先进的AI芯片和技术流向中国。
特朗普在论及AI危害时，同样流露出相同的战略逻辑：他真正的关切并非AI导致人类灭亡的灾难场景，而是美国被中国赶超的可能性。由此产生了一个深刻的矛盾：如果AI的威胁程度如此严重，美国又何必拼死争夺第一位？
其实这是因为，在当代国际竞争的大背景下，人工智能身兼两职：一边是潜在风险源，另一边是决定未来经济格局和战略地位的关键力量。
第二个问题——AI安全会否从纯粹技术领域蜕变为政治与国际治理的事务？
事实上，这种转化已在进行中。美国国会议员日益推动加强AI监管的举措，有人甚至提议冻结超级智能研发。前总统奥巴马在上周四发出警示，若人工智能缺乏妥善管控，其巨大能量将转化为「潜在威胁」。
根据《纽约时报》报道，奥巴马在民主党内部募款活动上促请该党尽快制定人工智能政策框架和治理规范。他表示，若民主党在今年中期选举中重获众议院多数权，应启动一场全社会范围的AI政策公开辩论。他进一步呼吁，2028年民主党总统候选人应将人工智能列为战略议题的核心，并拿出处理AI安全隐患与经济冲击的切实方案。这充分说明，人工智能已突破硅谷科技圈的界限，成为美国党派政治和国家战略议程的重要组成部分。
与此相应的是，阿莫迪还勾勒出一个更具战略眼光的设想：建立某种AI领域的国际协调制度。比如可从限制AI在生物武器研发中的应用入手；建立国际性的高风险模型评测标准；甚至尝试约束AI自我优化的速度。
这不禁让人想起冷战年代的战略军备管制历史。但对AI的军控难度远胜核武器。核弹头、运载工具和核设施可通过卫星侦察、现场核查来确认；然而一个国家暗地里训练新型AI模型，外界很难洞察。
鉴于此，完全停止AI发展在短期内几乎不可行。更具现实可行性的思路，应该是从那些风险等级最高、最容易形成共识的领域开始，逐步建立国际规范。这也昭示着，人工智能正经历一场重大的政治维度转变。昨日的核心问题是：谁能创造更强大的模型？今日它越来越变成：谁拥有决定AI发展速率的权力？哪些风险应被列为禁区？谁来对企业活动进行监督？如果美国率先减速而中国不减速又该如何？
总的来看，这就是人工智能时代的根本性战略困局。现阶段的AI领军企业已经意识到，这场技术竞赛可能演变出任何单一企业都无力独自驾驭的风险；可同时，各方又都有顾虑，不愿率先减速从而失去竞争优势。因此，眼下展开的并非什么「停止AI」的运动浪潮，而是围绕AI发展规则的一轮新的谈判和重组。倘若说过往数年AI产业的关键词是「更大、更快、更强」，那么今后一段时期，一个新的命题将日益成为焦点——在兼顾安全的前提之下，人工智能的发展速度应该被设定在什么水平？
