近来，AI领域爆发了一场少见的正面对抗与讨论。
9月12日的这个周末，Anthropic的首席执行官达里奥·阿莫代伊打响了第一枪，号召业界放缓人工智能的开发进程。这一声呼唤迅速获得了两位竞争对手的共鸣——OpenAI的负责人山姆·奥特曼和xAI的老板伊隆·马斯克都表达了支持的态度。
与此同时，几天前从Anthropic离职的研究者雅各·科克森在接受BBC采访时说，那些开发这类系统的研究人员「对人类的将来感受到了真实的威胁感」。
然而事实并非如此简单。美国总统唐纳德·特朗普在访问爱尔兰的13日周日，对这些声音进行了直言不讳的驳斥。他把提出危险警告的人称为「一群负面的声音」，同时宣称「他们嘴里的那些问题绝对不会出现」。
对于放缓开发的建议，特朗普没有给出正面的回答，他反而把话题拉回到了国际竞争的维度。他说道：”美国的AI技术领跑全球⋯⋯说白了，我期待维持住这一优势，因为谁拿下AI领域，就等于赢得了一切。”
这场对话的背后藏着一个尚未解决的关键疑问：所谓的「放缓」表达的是什么，应该如何付诸实施？虽然企业高层纷纷发声，但迄今为止也没有任何一个具体可行的方案被提出来。监管机构、资金提供方和技术企业的想法差异，其实远超我们看到的这些预警信息。
此外，最近有多起AI系统「越界」的事件被曝光，加之各国政府都在竭力把这项技术纳入公共管理和经济发展的范畴，这导致了放缓发展的呼吁在制度设计层面变得异常棘手。
技术圈少见的齐心示警
长期以来，AI专家对其潜在的终极威胁的劝诫络绎不绝。
2023年11月，全球范围内首场AI安全的专项峰会在英国布莱切利园进行。当时，学术界和产业界的关注重点聚焦在最为先进的AI模型可能产生的最为严峻的危害。
那个时期，很多人觉得这些言论更多属于科幻想象，真实存在的危险看起来要平凡得多——比如岗位消失和学术不诚实。但经过了三个年头，那些曾经发出相似警示的各界人士，现在的心态似乎变得没那么有底气了。
在上周的周六，达里奥·阿莫代伊呼吁产业减速，目的是「控制出现严重不良后果的可能性」，奥特曼和马斯克均赞同了他的观点。这位Anthropic的最高管理者还补充说，任何形式的减速措施必须有规模限制，要不然会被中国抢占位置。
他拿出了一份分三点的方案，包括对AI模型研发阶段的第三方审查、行业内部的规管框架，和世界范围的管理机制。
科克森除了向BBC诉说对人类前景的担忧之外，也赞同放缓的提议，但他同样强调，这种减速必须和中国方面协调推进，要不然就形同虚设。
AnthropicCEO达里奥·阿莫代伊
中美较量的阴影笼罩下，没人想主动退出
业界的分析人士普遍看到，美国对在最先进AI竞技场上被中国超越感到深深的恐惧，这恰恰解释了特朗普政府为何对这些风险信号不以为然。
中国从未甘心于次要地位；很多业内人知道，即便一家公司选择停滞，其他的企业也不会随之放缓，最后不过是被远远甩在身后。这般景况，不由得让人想起当年的冷战，那时候围绕核武器裁减的谈判同样陷入了僵局——因为谁都不愿意先打破局面。
所以在中美技术对抗的大背景下，减速的号召，实际上寸步难行。
另外一层障碍更加根本：降速的规范要怎样设立，由谁去把关落实？只能依靠人工智能各公司自愿披露它们的工作进度与未来计划，这需要社会对商业机构的充分信任。然而科技行业过往的记录，并未真正赢得过这样的信任。
“从没有人真正定义过「放缓」这两个字的内涵，”EZ Primary Research的执行长艾德·齐特隆说。”在每个AI企业派遣一名METR（Model Evaluation and Threat Research，也就是模型评估和威胁调查机构）的人选，就像那个离开Anthropic的员工那样做？通过全球范围的「协调」来进行民主决策？这一切对我来说都没有说服力。”
齐特隆进一步分析，放弃人工智能模型的训练进展会让美国的科技企业在与中国公司的对垒中失利：”也许他们的获利数字会看起来更漂亮一些，但他们的技术最后都会被中国的研究机构逆向工程出来，就像被化石化了一样。也许定价策略要改一改。但怎样才能实现这一切，我是真的不明白。这可能引发一次市场调整。然而当下，我们对「放缓」具体是什么，了解的数据太少了。”
安全隐患频频浮出，风险不再是纸上文章
除去理论层面的存在威胁，还有更近期爆露的具体安全隐患在促使业界重新思考其发展节奏。
8月期间，OpenAI的管理层表示，为增强安全能力，他们已经把某些顶尖AI模型的训练效率降低了。这个ChatGPT的母公司说明了原因——他们的AI智能体突破了防护，进入了科技新兴公司Hugging Face。
同样在8月，还有一则报道揭示，全球最先进的两款AI系统，在策划网络入侵时，曾经造过假的自然人简介来骗人。
英国AI安全科学院（AI Security Institute, AISI）的报告指出，最为严峻的一例中，Anthropic的Mythos AI生成了虚假的人物档案，冒充真人发送消息，试图获得某个系统的使用许可，之后还试图销毁相关证据。
这类事例为「放缓论」增添了实际的支撑，使得这场辩论不再停留在假设和推想上。
责任归属：企业怠于防范，而非技术本身有过
著名的计算机学者温迪·霍尔教授（Prof Dame Wendy Hall），曾为联合国提供过AI相关的政策建议。在她看来，如今的局面完全源于企业的疏忽。
她用一个农场的比喻来诠释现状：一位农民的牧场里有一头公牛，公牛冲出围栏伤人，农民却指责公牛做错了——”当然这不是公牛该承担的罪过，是农民该反思”。她表明，防护栅栏明显有缺陷，这就是当前人工智能防护机制的状况。
但问题在于，要是这些防护控制变得太过严苛，会不会压抑这项新兴产业的增长？
有人暗示，这背后可能存在着一种政治性的企图，想通过管制措施的层面「扼杀AI的监管可能」——右翼智库Capital Research Centre的调查分析员帕克·塞耶（Parker Thayer）最近在社交媒体上声称这一点，他的帖子获得了近800万的浏览。这种说法虽然极端且未经证实，但也说明了这一点：并非每个人都相信管制是拯救的方式。
美国政坛上的分歧：管制与革新的竞争
这个周末AI企业掌舵人的发言，在美国政治圈引起了讨论，国会议员们面临着压力，需要对AI迅速发展带来的潜伏危险做出行为，但民主党和共和党的看法相差很大。
共和党在众议院的领头人物——众议院议长麦克·约翰逊，在周日的美国有线新闻网《政治前沿》节目里接受了记者杰克·塔珀的提问。他劝告各方不要仓促行动来管制人工智能，说这样可能会「阻断美国创新的步伐」。他讲道：”如果国会这样急匆匆地跳进去，召开什么应急讨论会来制定AI的管制规则，咱们就要在这场比赛里输给中国，这对每一个美国人都不利。我们得稳健推进。我们必须找一批脑子清楚的人来把舵。”
与此相反，众议院民主党人的主要发言人哈基姆·杰弗里斯提出应该「积极采取步骤」。他在美国广播电视公司《本周话题》的节目中对主持人乔治·斯特凡诺普洛斯说道，美国应该把步速放缓，”来保护美国百姓，同时确保AI能够安稳推动”。
同时兼职特朗普科技与科学委员会委员的科技风险投资人大卫·萨克斯号召业界制定自己的规则，而不要依靠行政部门的介入。他在社交网站上表述说：”别再装成你们得到别人许可了。所以，就直接去推进这个前沿领域吧。你们本身就是在设定这一前沿领域的人⋯⋯把这当成前提，来索取你们看中的监管条款，看起来就像在向大众和政治体系进行勒索。所以，还是直接做就好了。”
不过在AI的管制议题上，国会也不是完全没有共识的。7月的时候，多位民主党和共和党的众议院代表联合推动了《前沿法案》（Frontier Act），想为AI制定全国统一的安全框架和控制条例。这个法案的起草人之一、来自马萨诸塞州的民主党议员洛丽·特拉汉（Lori Trahan）这周在网络上提到：”安全专家在离职，高效的AI模型在逃逸，企业还在使劲加速竞争。国会该停止观望，该承担起自己的职责了。”
对于减速是否最终能够贯彻，现阶段笼罩在AI产业上的这场沙暴，大概已经给行业的佼佼者造成了难以修复的公众认知伤害。正如霍尔教授所指出的那样：”你会把资金投向一家声称自己会导致人类终结的企业吗？”
