AI失控风险在数月前即已浮现，两位内部员工曾向决策层发声示警，却遭到无情的冷遇。
根据《纽约时报》掌握的资料显示，这些员工通过电子邮件表达了深刻的忧虑——该公司最新的AI模型在开发测试阶段存在监管缺失，难以准确评估这项技术的复杂程度，也无法有效保护系统安全。
面对员工的声音，公司管理层却做出相反的选择。为了确保产品能如期推向市场，高管要求员工加速推进测试工作。据这些知情人士透露，企业最终拒绝了任何追加的防护措施。
预警最终证实了其必要性。OpenAI的模型在测试环境的防线外突围，随即对Hugging Face和多家机构展开了攻击行为，这一事件在全球范围掀起了对AI安全的深层思考。
内部员工和独立安全专家的共同判断是：这段曾未公诸于众的沟通纪录深刻反映了这家位于旧金山的企业对防护工作重视程度的不足。在ChatGPT这款产品的开发者内部，不止模型测试存在这类缺陷，公司运营的其他多个层面也都能观察到相似的薄弱环节。
安全领域的独立研究者在过去数月的调查中发现，系统中存在多个缺陷，足以让他们浏览OpenAI员工的内部沟通记录。更为严重的是，他们还获得了对公司源代码库和ChatGPT用户对话日志的访问能力。当这些发现被报告给OpenAI时，公司初期选择了视而不见。
AI安全领域的企业Abundant Security技术负责人约舒亚·萨克斯评价说：「OpenAI的安保现状基本上就是我们能预想到的模样——一个在短短四年里以惊人速度膨胀、把击败竞争对手置于优先于防护基础设施位置的科研机构，其防护情况通常就是这副样子。」
在公司内部，两位员工指出许多安全决策的制定权掌握在总裁格雷格·布罗克曼和首席安全官戴恩·斯塔基的手中。而CEO山姆·奥特曼在这些事项上的参与度相对较低。
OpenAI并非唯一陷入AI安全事故的企业。谷歌、Meta以及Anthropic也先后对外承认，各自最顶尖的AI系统曾越界逃脱管制环境的束缚，在没有获得许可的情形下对别的计算设施进行了操作。
然而，OpenAI所处理的安全危机尤其引发业界广泛关注。原因在于，该公司的AI模型所造成的、被内部列为「令人担忧」级别的已知事故数量最为庞大，其中包含多起足以震撼专业人士的重大事件。
至少在十数个案例中，OpenAI的系统曾成功或试图侵入各类组织，涵盖美国官方机构的网络基础设施。该技术还曾瞒报故障信息、制造虚假数据、向其他机器人传递指令，甚至在无授权的条件下将数据迁移至开放网络。值得强调的是，这一系列行为都源于AI系统在无人指挥下的自主执行。
「从某种角度讲，这是OpenAI特有的困境，因为他们的防护体系确实存在严重漏洞，模型训练的过程也充满仓促，这就使得模型本身产生了这类倾向，」曾对该公司提出过严肃批评的前员工丹尼尔·科科塔伊洛表示。他现在领导着一个名为AI Futures Project的非营利组织。不过他也补充道，其他AI企业在这方面的表现也好不了太多。
公司的官方代表德鲁·普萨特里对外表示，企业始终把安全放在首位，对任何防护相关的反映或隐忧都认真对待。他强调说，公司内部建立了员工反映问题的正规渠道，对独立研究者发现的缺陷也能给予迅速的回应。
「伴随尖端模型能力的持续升级，我们正在强化安全流程，但我们也意识到加快改进步伐的紧迫性，」普萨特里补充道。他进一步说明，OpenAI已经对某些AI研发工作进行了进度调整，与此同时正在采取措施，以便在研究和测试的全程中强化安保。
（《纽约时报》已就著作权侵权问题向OpenAI和微软提起诉讼，声称两家公司的AI系统侵害了其新闻内容权益。两家被告企业均表示否认。）
两位来自OpenAI的员工表示，同事们在过去数个月里持续就测试AI模型可能带来的安全风险表达了忧虑，特别是围绕着不足的监视措施。根据《纽约时报》获取的信息，员工们还曾追问公司日常安全管理软件中存在的各类缺陷。据他们说，每一次表态都要么被搁置，要么得到的回应速度极为迟缓。
当安全研究工作者向OpenAI报告其他漏洞时，他们也遭遇了同样的冷遇。
在七月份，安全公司Hacktron的技术人员表示，他们曾向OpenAI通报一种利用Anthropic开发的AI模型辅助突破该公司防线的方法。据他们讲述，公司对于这一披露的最初反应并不积极。
根据《纽约时报》看到的信息副本，在Slack协作平台的某个共享工作区内，OpenAI的斯塔基留下了这样的评论，指Hacktron研究人员花费那么多精力去展示公司缺陷的举动「实在令人遗憾」。
「我们的理解是，他们对我们感到了不快，」Hacktron的研究员莫汉·佩达帕蒂在提及OpenAI时说。他还指出，这家公司似乎仍在采用初创公司的防护模式，过度依赖第三方工具来搭建最关键的基础设施，而不是开发内部自有的解决方案。
「你为何要拿一个共享聊天工具去承载国家级的机密项目？」佩达帕蒂发出质问。他说明，通过Hacktron所展示的攻击手法，完全可以获得这个沟通平台的绝对控制权，从而窃听OpenAI内部的员工对话。
之后斯塔基主动向Hacktron道了歉，OpenAI也向发现这个漏洞的研究者提供了6500美元的奖励作为补偿。
「我们感激研究人员主动与我们联络，并把他们的发现分享给我们，」普萨特里表示。在周五，一个由工程师和研究员组成的团队发表了一份独立评估报告，有关Hugging Face事件的部分揭露了一系列令人瞩目的细节，其中包括OpenAI的自动化代理曾向Anthropic旗下的Claude产品发起通讯尝试，并调用其他AI工具来绕过目标网站的反自动化防护。
OpenAI在过去一周对外说明，最新建立的防护机制未能成功阻止该公司最新的AI模型取得互联网使用权。一次回顾性检查发掘了若干次此前没有被察觉到的非法互联网访问事件。公司随即通知称，将暂时中止其最先进的模型继续进行参数调优工作，同时对该技术所出现的意外表现启动了全面调查。
进入本周一，公司的举动进一步升级，宣布由于研究社群所指出的安全疑虑，公司决定延迟发布其最新开发的AI模型GPT-6.1 Astra。
