美国总统特朗普驳斥放慢人工智能发展速度的呼吁，并表示有关人工智能「接管世界」的说法是「一场骗局」。https://t.co/5ilT5i9TEM
— BBC News 中文 (@bbcchinese) September 15, 2026
来自AI研究领域知名企业Anthropic的数位创始人日前向BBC阐述了他们的观点：企业到未来某个阶段或将被迫部署一套具有强制性质的人工智能应急制动系统，该系统需接受独立第三方的验证与监督。
Anthropic七位创办人之中的克拉克（Jack Clark）强调，一旦人工智能应用出现危险迹象，必须存在相应的技术手段令其停止运作。在他看来，社会最终可能不得不通过立法来规范这一问题。
克拉克提及，从事相关研究的大多数机构，包括Anthropic自身在内，目前均已掌握了多种系统关闭方法。然而他认为，有关部门将来很可能通过法律途径，强制要求各企业必须建立这样的防控体系。
在人工智能技术加速进步、社会各界对其潜在危害的担忧日益加重的情势下，来自产业内部的一系列警告信息已经将相关话题推向了舆论的风口浪尖。
业界内部人士公然指出，若任人工智能技术不受约束发展，最终可能导致全人类走向灭绝。
Anthropic首席执行官阿莫代伊（Dario Amodei）在上个周末再度发声，主张减缓人工智能产业的发展速度，同时倡议建立更加严格的监管框架。虽然这一立场与公司以往的主张相符，但也招致了外界对其真实意图的怀疑。
阿莫代伊补充指出，所有制约人工智能发展的政策措施都必须建立在维护企业商业竞争力的前提下实施。
克拉克接受BBC采访时表达了看法，认为关于「应急制动」系统的具体规范要求及如何验证其有效性，都应该成为当下人工智能政策制定工作的组成部分。
他提出了值得思考的一系列问题：「应否通过法律规定企业必须安装应急制动开关？该开关能否由独立机构进行验证？」
「我的看法是，这正是社会所需要理解和讨论的内容，最终很可能还会通过立法手段加以规范。」
成立于2021年的Anthropic由曾在OpenAI工作过的一批技术人才创办而来，如今已处于人工智能安全领域讨论的中心地位。
上一周，一位曾在Anthropic任职但因对AI灭绝性风险感到担忧而选择离职的研究人员在社交媒体上发表言论，随即引发社会关注。
Anthropic方面的科学家埃文·胡宾格（Evan Hubinger）以个人名义作出回应，声称他评估今后十年间人工智能触发人类灭绝这一事件的可能性「超过百分之十」。
被誉为「人工智能之父」的计算机学者、诺贝尔奖得主欣顿（Geoffrey Hinton）于上周五（9月11日）接受BBC采访时表示，人工智能存在百分之十灭绝全人类可能性这一论点「并无不当」。
与欣顿持相同看法的学者认为，人工智能可能通过掌控那些与互联网相连的关键基础设施，进而将这些系统的能力转用于对付人类，最终造成灾难性的后果。
然而，业界也有相当一部分人士持不同立场，他们认为围绕人工智能灭世论的担忧已被过度渲染，甚至成为了一些企业用于热炒话题的工具。
曾经遭历OpenAI机械人入侵事件的开发者生态平台Hugging Face的掌舵人德朗格（Clement Delangue）在上周表达了自己的看法：让一位已离开Anthropic的AI研究员来论证AI灭亡风险，就如同询问空调维修工人关于气候问题一样不合适。他进一步解释说，这并非意味着相关讨论毫无价值或一定有误，核心是社会应该以更理性的思维来看待问题。
约会应用Grindr的首席执行官阿里森（George Arison）则指出，企业正在利用人们对AI工具的各种担忧来推进自身的商业战略。
市值高达9650亿美元的Anthropic目前正为入市融资做准备，计划推出首次公开募股事项，以向投资者开放购股机会。
同样市值曾达8520亿美元的OpenAI原本也被预期会选择相同的融资路径，但该公司首席执行官山姆·阿尔特曼（Sam Altman）在上周五宣布，由于当下关于AI安全的讨论还在继续，集团决定在今年暂缓IPO的相关计划。
阿里森进而指出，若要为这般高额的企业估值找到理论支持，唯一的办法就是声称「我的AI将掌控各个产业、取代所有工作」。
当记者问及人工智能灭绝人类的概率时，克拉克回答说，他不认为这样的数字数据能产生多大的实用价值。
不过他紧接着补充，如若容许人工智能以「完全不被规制的产业」的状态继续发展下去，这绝对是一个错误的选择。
克拉克用比喻表达了他的忧虑：「我们当前所做的事，就像在投掷一枚风险极大的骰子。」他强调，最重要的是，这一产业的发展方向必须被扭转。
美国国会议员已提交了一份名为「应急制动法案」（Kill Switch Act）的立法草案，其主要目标是强制要求企业必须拥有关闭问题型人工智能工具的技术手段。
该法案同样授予了某些政府机构相应的权限，使其可以命令特定人工智能工具停止或限制其运行。
然而，美国总统特朗普对减缓人工智能发展步伐的建议予以了拒绝。他通过社交媒体平台表示，所谓人工智能即将接掌全球、摧毁人类及各类恐怖后果的论调「彻底是一个骗局」。
特朗普随后又将这类忧虑与不久前发生的「气候变暖事件」相比较，称当初人们也曾被声称会因极端高温而丧命。
他在另一条更早的帖文中表述了这样的想法：「眼下存在着针对人工智能和数据中心的邪恶阴谋，只有中国在暗自窃喜。掌握人工智能技术的国家，就掌握了世界的未来！」
在英国，政府部门最近拒绝了建立人工智能应急制动系统的这一设想。一位政府发言人解释道，这样的做法「无法有效防止相关技术在全球其他区域被继续开发或被人恶意利用」。
Anthropic所开发的聊天机器人Claude得到了大量用户的欢迎。该公司在今年内陆续推出了多套功能日益强大的人工智能模型版本，这些模型为该聊天应用提供了技术支撑。
Anthropic与OpenAI一样，曾主动向公众披露过多起与AI代理（AI agents）相关的事件。这些具备一定自主操作能力的机械人程序有时候会表现出超乎预期的行为。
