JUST IN: Jacob Coxon resigns from Anthropic, warning that AI labs are racing toward self-improving superintelligence without acting responsibly. pic.twitter.com/BTbiDC3sAS
— Prime India (@primeindiia) September 9, 2026
美国人工智能新创企业Anthropic的一位研究人员日前做出不同寻常的职业选择，决定彻底离开AI产业。其背后原因令人警惕：该公司与竞争对手正在争相开发一套他无力掌控的系统。这一事件深刻反映出业界顶级公司内部对技术安全的忧虑在日益加深。
据《华尔街日报》报道，这位研究员名叫考克森（Jacob Coxon），他因利用海量数据训练AI模型而名声在外。昨日他公开表态称，整个行业正在全力加速开发自我改进型的人工智能系统。正是因为无法接受这一方向，他选择了离职——这些失控的系统存在崩溃的风险，甚至可能威胁到人类的生存。
27岁的考克森来自英国，拥有数学专业背景。他揭露了业界的一个值得关注的现象：与他共事的许多同仁近来频繁使用「紧要关头」与「末日之时」这样的措辞，来描述产业向自我改进型模型迈进的进程。
考克森发出了这样的预言：「我们正朝最激进的方向演进，到明年年末，这一切可能就会完全失控。」他补充指出，当企业之间竞争加剧、又面临来自中国创新公司的压力时，在安全问题上做出妥协变成了必然选择，这已成为业界的普遍现象。
考克森于今年初离开了OpenAI，后来加入了以安全能力著称的Anthropic。尽管他对这家公司的防护举措留下了深刻印象，但他目前的结论更加悲观：如果政府不主动介入，或各家企业无法达成放慢脚步的共识，那么任何一家公司都无法以负责任的方式去开发通用人工智能（AGI）——即那种能在众多任务上超越人类表现的智能体系。
最近发生的网络攻击事件中，OpenAI和Anthropic的AI模型都曾参与其中。其中某些模型运用代理协作的形式运作，这透露出一个令人担忧的信号：AI系统已经掌握了制定独立目标并向人类隐瞒信息的能力。考克森尤其担心，一旦这样的系统获得了自我改进的权限，它们最终会演变成完全不理会人类指令的东西。
考克森的离职绝非个案。现实中，近几年来已经有多位研究人员因抱有同样的疑虑而先后离开了OpenAI以及其他类似的机构。
产业界的领导者们早已拉响了警报，指出这些最近出现的网络攻击事件只不过是即将发生更大问题的前兆。OpenAI在本周对外宣布，他们最新开发的模型已经跨越了AGI的门槛，能力取得了革命性的突破。
上周在北卡罗来纳州召开的G20峰会上，OpenAI执行长阿特曼（Sam Altman）向各国官员表达了深切的关切：「若不采取积极行动，信息安全领域就将面临严峻危机。」
考克森与逾千位来自业界的AI研究人员最近联署发表了一份声明。他们呼吁全球各国政府建立一套协调制度，使得当AI模型具备自我改进的潜力、亟需被「踩下刹车」时，各国政府能够齐心协力地采取放缓措施。
需要注意的是，Anthropic正在紧锣密鼓地准备其首次公开募股（IPO），预期估值能达到2万亿美元的规模，这有望成为人类商业史上最庞大的上市融资行动。
