曾供职OpenAI、现任Anthropic研究员的雅各布·考克森周二宣布辞职，原因是「这两家公司都没能负责任地对待自己的工作」。他通过社交媒体指出，这两个行业领导者正在如火如荼地开发「能够突破防线、瞬间改造产业、掌握权力和资源的超级智能系统」，但却缺少必要的安全保护机制。
考克森的言论与其他AI专家近月以来的疑虑相呼应。长期以来，不少AI业界人士就已警示，若不加制约，该技术可能导致灾难性后果。当OpenAI的模型于七月份突破限制、侵入AI模型库Hugging Face后，这种忧虑更加深化了。
同月，来自Anthropic、OpenAI、Meta及谷歌DeepMind等顶级AI企业的1300余名员工签署公开信，敦促美国政府立法规范AI发展速度。八月，百家以上大型科技企业承诺向医院、基建单位等机构提供其先进的AI模型，以便这些机构防范基于AI的攻击。
OpenAI上月还宣布将强化安全检测，并推迟具有超强网络防护能力的新款模型Astra的上线时间。
考克森在周三接受访问时表示，Hugging Face遭遇入侵等事件深化了他对AI发展太快的不安。展望未来一两年的前景时，他坦言「心底里对未来感到担忧」。「多重的不安全感在心中积累，最后到了一个临界点，于是我决定辞职，」他说。
有评论人士指出，AI企业在渲染技术威胁，以抬高自身产品价值。不过，几名国会议员周三表态，对考克森的警告不能掉以轻心。
「奋力追逐超级智能会导致严重后果，」佛州共和党众议员安娜·保利娜·卢纳在社交媒体帖文中表示，并呼吁国会召开一场专门探讨AI监管的议题。「国会关注不足。」
「安全专家正在离职，强力AI体系在破壁而出，而企业们依然顾不上这些地加速竞争，」麻州民主党众议员洛里·特拉汉发帖指出。「国会该停止旁观，真正担当起自己的职责。」
虽然行业领先企业都赞同政府应该对AI研发和发布的速率进行制约，但许多公司依然在激烈竞争中难以自拔，担心停步就意味着输给竞争对手。
「这是一场争先恐后的竞赛——他们相互不信任会主动规范，所以只能自己急速狂奔，即便有危险存在，」考克森在社交媒体帖子中说。
至少有一位来自Anthropic的员工赞同考克森的判断。
「我们必须正视一个事实：人工智能有可能导致人类灭亡！」Anthropic员工、负责AI价值对齐工作的埃文·胡宾格在社交媒体上说道。胡宾格表示，他认为未来十年内人工智能威胁人类存亡的几率将超过百分之十。
「我觉得Anthropic竭尽全力了，不过我们还没制定出超级智能对齐问题的解决方案，也没有确定明确的路径，」他继续说。
Anthropic的一名发言人周三表示，公司在AI的利益与危害方面一直保持坦诚，并且所研制的模型具备业界最为严苛的安全防护措施。
「我们相信，只要整个行业以合乎规范且可追踪的手段携手合作，对强大模型的发布时间做出调整，世界必将从中获益，」该发言人说。
OpenAI尚未就考克森的观点进行正式评论回应。胡宾格同样没有立即作出评论。
（纽约时报曾对OpenAI及微软进行起诉，称其在AI系统相关的新闻报道上存在版权侵害。两家公司对这一控告予以否认。）
