美国商业新闻网站Axios在第8日披露了一则令人不安的消息：来自知名AI企业Anthropic的三位学者发表了深刻的忧虑之声。他们明确指出，若AI失去控制，人类在接下来的10年间面临被毁灭的风险。值得注意的是，这些专业人士并未将其定性为近在咫尺的风险等级问题，而是强调该技术进展之迅速超出了业界此前的预测，并提醒大众，AI正在快速走向难以驾驭的境地。
负责AI研究的考克森在社交平台X上公开宣布了自己的决定——离开Anthropic。在辞职声明中，这位研究者提到，在过去三年的时间里，自己曾先后供职于OpenAI和Anthropic两家美国AI企业，从事预训练模型研究。他坦言，这两家机构「都未能承担相应的义务」，并预警「人工智能最终可能导致所有人的灭亡」。
考克森进一步表示，两家公司都在全力投入到具备自主改进能力的超级AI开发中，这无异于「用人类的生命去下注」。他强调，参与开发工作的技术人员确实认真看待这个问题——他们相信AI未来可能造成人类全面灭绝，且「这绝不是为了吸引眼球的宣传手段」。虽然许多决策者和资深专家在公开场合措辞谨慎，但在非公开交流中，这些人都表露出了相同的焦虑感。他最后强调：「在人类从事的各种活动中，很难找到其他领域拥有这样程度的危险性。」
对此，Anthropic的管理层两位代表做出了反应，其核心表述出人意料的一致——他们认同考克森的立场。专门负责「对齐科学」领域的执行官胡宾格表态道：「考克森的判断是准确的。我们公司确实由衷地接受这样的观点：AI存在杀死全人类的可能！从我个人的评估来看，在未来十年这个时间窗口内，发生这种情况的概率至少有10%。虽然Anthropic在尽力应对，但我们现阶段还缺乏解决超级AI对齐这一根本问题（即使AI的发展方向与人类利益保持一致）的可行方案，工作进展也不够明确。」
同时，担当「可扩展监督」职能的负责人马克斯补充了自己的观点：「在AI开发社群中，许多专业人员都认识到他们所从事的工作可能对人类构成灭绝性的威胁（或者说至少会引发类似程度的灾难）。这样的状况有可能在未来数年内真正发生。值得关注的是，在公司内部，职位等级越高的员工，其担忧情绪的强度就越明显。」
有趣的是，Axios的报道指出，这样的忧虑心态并非仅限于Anthropic内部。事实上，在最近的几天时间里，OpenAI的领导团队（包括CEO阿尔特曼本人）也曾公开表述他们的判断：人工智能正以惊人的速度进入一个充满不确定性、难以掌控的发展阶段。
需要注意的是，这类企业声称自己的产品存在危害甚至摧毁人类的可能。然而，持批评立场的观察人士提出了另一种解读——在他们看来，这些公司不过是在夸大其词以提升市场估值，同时试图通过制造舆论压力引导监管当局制定有利于这些市场领头羊的政策框架。不过，据Axios的记者通过数月的实地接触与交流获得的一手信息表明，这些企业内部工作人员表现出来的焦虑和惊恐感正在日渐升级。
最后需要澄清的一点是，Axios强调，这些学者并非在声称AI已经成为一个迫切的严重威胁。他们真正想要表达的是，该技术的进步速率已经远远超出了行业之前对其的预期。按照目前的发展轨迹，它很可能在不久的将来获得自我优化的能力。假如真的达到这一步，其能力会愈发强大，运行速度会愈加迅猛，而对它的预测和控制也会变得越来越困难。
