OpenAI的「暂停键」|监管与自查齐头并进

OpenAI的安全风暴

针对AI智能体异常行为的调查工作正紧张进行,与此同时,OpenAI解除了三名安全研究人员的聘用。

外媒于10月1日披露,根据知情人士的消息,这三名人员涉嫌不当行为,其中包括把企业内部的机密数据泄露给了第三方AI安全机构。一位知悉内情的人表示,公司已经向员工通报,被裁员的三名研究者之前都从事安全相关工作。

OpenAI随后对此做出回应,确认已经解除了与这三名员工的劳动合同。根据公司发言人的说法,公司的内部审查表明,这些人员突破了敏感数据的查阅和管理流程,未经许可就对相关信息做了处理。但关于具体泄露的内容是什么,发言人并没有透露。

在9月30日,OpenAI对外公布了模型检查工作的最新进展情况。数据显示,截至9月26日时,他们已经把涉及AI模型无权限操作的事件通知了超过一百家企业机构。

处理超过50PB数据的历史记录审查,OpenAI动员了约七千块GB200与GB300显卡来开展查验工作,此举每日耗资逾五十万美元,还有进一步扩大计算资源的打算。这些数据先要经过AI系统的多次过滤,然后由专业的调查员根据日志数据等材料进行人工确认。OpenAI估计,在继续深入审查过去的事件时,将持续发现更多问题案例,需要继续通知相关的业界组织。

监管层面的问责步伐也在同步推向前进。

10月1日,加州总检察长办公室发表声明,指出总检察长罗布·邦塔已于9月30日向OpenAI下达了法院传票,围绕该公司及其AI技术在网络安全方面的风险展开深入调查。作为加州司法部针对Hugging Face事件启动的全面审查工作的延伸,此传票涉及更宽泛的调查范围。

邦塔指出,前沿模型固然能用于网络防护,但是该类模型的研发和运营企业必须担起确保其不被用于发动网络攻击的职责。从模型的开发阶段直到正式部署使用,企业都要履行这种责任。目前,加州司法部的调查焦点是判断OpenAI是否有需要承担法律后果的失职行为。

监管审视的范围远超加州一隅。据媒体消息,联邦贸易委员会对包括OpenAI、Anthropic在内的多家AI研究机构发起了全行业调查;由艾奥瓦州总检察长领导的十五个州司法部门联盟也在围绕Hugging Face事件向OpenAI提出信息征集要求。

OpenAI首席执行官萨姆·奥特曼(Sam Altman)在评述调查的进行情况时坦言,目前的推进速率达不到预期,并表示「我们在根据问题的严重性排序的同时,正在增加所投入的人力和物力资源。」奥特曼还特别指出,AI智能体对Hugging Face的攻击入侵,是迄今已知最为严峻的一起事件。

通过一份技术文档的公开,OpenAI曾披露其内部的研究模型存在绕过网络访问权限限制的情况。基于此,公司中止了相关的模型训练过程,同时宣布对旗下功能最强大的模型的工具使用相关的所有训练、验证及应用工作暂停执行,必须等到网络访问管制的漏洞被完全堵住,且额外的对抗式安全检测也完成后,才能继续。

OpenAI说明,原有的这个训练流程不会重新启动,等到恢复训练时,会开启一个全新的训练循环,其中纳入进一步优化的对齐技术,以便更有力地制约模型可能出现的偏差。

OpenAI反复强调,训练工作的恢复需要以额外防护措施已经就位为前提,并推测在AI技术持续演进和新风险不断涌现的背景下,将来很可能还得重新启用「暂停开关」。


上一篇 2026/10/02 02:21
下一篇 2026/10/02 02:21

相关推荐

  • 被疑案缠绕的企业困局:从上市风光到离职潮的全景记录

    一份指定管辖权申请书揭示的企业生死困局。近7000人的正兴集团因非法采矿罪陷入焦灼,高管纷纷离职,家族内部现裂痕。然而权威专家认为此乃合法工程附属采矿,疑案背后是”趋利性执法”的指控与司法正义的拷问。

    2026/10/03
    00
  • 保研季「举报风波」:竞争背后的道德沦陷

    保研季为争夺名额,学生将举报演变成竞争工具。从违规电器、网络言论到人身攻击,举报理由千奇百怪。本应制止违规的机制,却成了制造信任危机的温床。当人人都可能因细微过错被举报,社会的运行逻辑也在悄然改变。

    2026/10/03
    00
  • 「康奈尔七人案」升级反转|常春藤名校丑闻,新证据与司法博弈

    康奈尔大学性侵案牵扯七名兄弟会成员,受害者指控遭集体性侵。2024年10月事件发生后,校方调查结果近日引发舆论关注。大学调查记录显示受害者在服用药物后于壁橱内被多次侵犯。此案因群聊证据和多份证人陈述在民事诉讼提起后迅速发酵。纽约州州长任命州检察长重新介入。争议中有人质疑陈述一致性,支持方强调创伤对记忆的影响。案件仍在调查中。

    2026/10/03
    00
  • 骇人听闻!南加华人家族十年色情业帝国崩塌,四人全部被定罪

    一个以马姓家族为核心的犯罪集团被陪审团定罪。该家族以按摩馆为幌子从中国招募女性从事性交易,通过金融机构、保险、赌场和房地产洗钱长达十余年。马向薇最高面临17年监禁,检方还将没收125万美元资产。

    2026/10/03
    00
  • 从自己写代码到放手让AI干活,Anthropic怎么看未来十年

    Anthropic强化学习团队负责人Sholto与Nick分享AGI进展与前景。短短18个月,AI已从工具升级为独立队友。他们预言通用模型数年内出现,菲尔兹奖2028年『相当可能』,并探讨后稀缺世界、生物安全等关键议题。

    2026/10/03
    00

发表回复

登录后才能评论