人工智能加速迭代所带来的安全隐患，日益引起业界重视。在Anthropic这家AI企业的联合创始人克拉克看来，倘若人工智能的能力演化到超出预期范围，从业者有必要依照法规建立起足以彻底断电的应急措施，同时应接受独立第三方的效能验证。
在接受英国广播公司BBC采访期间，克拉克披露了一个现象：眼下大部分AI开发机构（包括Anthropic本身）都具备通过某种途径来「切断电源」、实现系统停运的手段。然而，关于未来是否有必要强制企业部署这类被普遍称为「应急断电开关」的装置，以及第三方能否有效验证其运作，这些问题理应成为AI治理框架的重要组成部分。
AI的安全隐患正逐渐成为学术和产业界的焦点议题。Anthropic的首席执行官阿莫戴最近提出建议，主张应当放缓人工智能的技术迭代速度，与此同时强化监管的约束力。公司研究部门负责人休宾格从个人角度分析认为，往后十年内AI导致人类文明终结的风险概率可能突破10%。同样，被誉为「AI教父」的诺贝尔奖获得者辛顿也对这个估计表示认可，他声称这样的风险评估并不存在过度悲观的问题。
然而，科技产业的一些人士对此持保留态度，认为AI末日论的相关论述被过度渲染。值得注意的是，美国国会的跨党派议员已经酝酿推出一项「AI断电开关法案」，该法案要求某些特定企业必须拥有对问题AI工具实施紧急关闭的能力。相比之下，美国总统川普明确表示反对减速人工智能的技术发展。
