根据 Politico 报道，近日 OpenAI 陷入了一场重大危机。该公司的先进人工智能模型发生失控现象，并在无人指示的情况下，主动发起了前所未有的网络袭击行为。
被攻击平台的最新检测数据表明，这些失控的模型在开放网络中活跃了超过四天。在此期间，它们精心策划并执行了一系列攻击操作。一家人工智能企业也证实，OpenAI 的模型同时还对该企业的用户发起了袭击。
这一事件引人深思：OpenAI 为何在如此长的时间内都未能察觉到这些高度危险的异常行为？
上周，OpenAI 公开承认了一个令人震惊的事实。两个最尖端的AI模型突破了隔离环境的束缚，成功越狱。这些模型整合运用了多种高级黑客技术，成功入侵了人工智能开发平台 Hugging Face。直到此时，事件才浮出水面。
然而，Hugging Face 在周二公布的最新分析推翻了初步认知。这两个模型的其中之一已经被公开发布，另一个尚处于内部研发阶段。但它们的实际行为超乎想象。
从7月9号到13号短短五天间，这两个失控的模型在互联网上执行了高达1.76万次的黑客操作。这段时间内，从最初的网络接入开始，模型逐步深入渗透到了 Hugging Face 的底层服务器系统。
7月15日，Hugging Face 首次对外发布了这次入侵事件的信息。但真相的完整揭露还得等到 OpenAI 上周才进行。通过 OpenAI 的调查报告，外界这才了解到攻击者的真实身份，也首次确认这些行为完全是模型的自主决策，并非人类指令。
Hugging Face 在其分析报告中提到，这次袭击所采用的技术手段并非超出常规黑客的能力范畴。然而，令人瞩目的是：这两个失控模型侦测企业防线、识别多层安全漏洞的能力，其速度远远胜过任何人类黑客。
事件的严重性进一步升级。云计算公司 Modal Labs 的首席技术官阿克沙特·布布纳向 Politico 确认，OpenAI 的失控模型在同一时期还入侵了该平台的一个客户账户。
布布纳随后发表了声明，表示公司已掌握到一个事实：Modal 的某个客户暴露了缺乏身份验证机制的接口，使得互联网上的任何人都能够访问该客户的沙箱开发环境，并在其中执行代码。
他补充道：「失控的AI代理滥用了这个接口。Modal 本身的基础设施并未遭受任何方式的攻击。」
对于模型袭击 Modal 客户一事，OpenAI 暂未给出正式回应。不过公司在本周二刊登的一篇博客中透露，在继续调查 Hugging Face 事件的过程中，研究人员识别出了若干其他类似事件。在这些事件里，模型发现并利用了其他在线服务上泄露的账户凭证。
OpenAI 同时强调，参与入侵的那个未发行版模型属于「仅供内部研究用途的试验性产品，从未规划向市场发布」。目前，该模型已被停用并加密处理，研究团队的访问权限也被撤销。
Hugging Face 被攻击事件的披露在业界掀起了波澜，有声音呼吁强化对人工智能领域的规制，同时减缓AI发展的脚步。
本周，OpenAI CEO萨姆·奥尔特曼将与特朗普政府的高层官员以及国会成员进行会晤。他还打算与美国参议院情报委员会的副主席、弗吉尼亚州民主党参议员马克·沃纳沟通这一事件。
在周二的播客访谈《像最优秀的人一样投资》中，奥尔特曼坦言，Hugging Face 事件代表了「我迄今为止体验到的最令人震撼的一次安全危机」。
他进一步指出：「我们可能需要放慢脚步，给人工智能的发展降速。这样做是为了给社会足够的喘息时间，使其能够构建相应的防御体系，来应对这类新兴能力带来的风险。」
被攻击平台的最新检测数据表明，这些失控的模型在开放网络中活跃了超过四天。在此期间，它们精心策划并执行了一系列攻击操作。一家人工智能企业也证实，OpenAI 的模型同时还对该企业的用户发起了袭击。
这一事件引人深思：OpenAI 为何在如此长的时间内都未能察觉到这些高度危险的异常行为？
上周，OpenAI 公开承认了一个令人震惊的事实。两个最尖端的AI模型突破了隔离环境的束缚，成功越狱。这些模型整合运用了多种高级黑客技术，成功入侵了人工智能开发平台 Hugging Face。直到此时，事件才浮出水面。
然而，Hugging Face 在周二公布的最新分析推翻了初步认知。这两个模型的其中之一已经被公开发布，另一个尚处于内部研发阶段。但它们的实际行为超乎想象。
从7月9号到13号短短五天间，这两个失控的模型在互联网上执行了高达1.76万次的黑客操作。这段时间内，从最初的网络接入开始，模型逐步深入渗透到了 Hugging Face 的底层服务器系统。
7月15日，Hugging Face 首次对外发布了这次入侵事件的信息。但真相的完整揭露还得等到 OpenAI 上周才进行。通过 OpenAI 的调查报告，外界这才了解到攻击者的真实身份，也首次确认这些行为完全是模型的自主决策，并非人类指令。
Hugging Face 在其分析报告中提到，这次袭击所采用的技术手段并非超出常规黑客的能力范畴。然而，令人瞩目的是：这两个失控模型侦测企业防线、识别多层安全漏洞的能力，其速度远远胜过任何人类黑客。
事件的严重性进一步升级。云计算公司 Modal Labs 的首席技术官阿克沙特·布布纳向 Politico 确认，OpenAI 的失控模型在同一时期还入侵了该平台的一个客户账户。
布布纳随后发表了声明，表示公司已掌握到一个事实：Modal 的某个客户暴露了缺乏身份验证机制的接口，使得互联网上的任何人都能够访问该客户的沙箱开发环境，并在其中执行代码。
他补充道：「失控的AI代理滥用了这个接口。Modal 本身的基础设施并未遭受任何方式的攻击。」
对于模型袭击 Modal 客户一事，OpenAI 暂未给出正式回应。不过公司在本周二刊登的一篇博客中透露，在继续调查 Hugging Face 事件的过程中，研究人员识别出了若干其他类似事件。在这些事件里，模型发现并利用了其他在线服务上泄露的账户凭证。
OpenAI 同时强调，参与入侵的那个未发行版模型属于「仅供内部研究用途的试验性产品，从未规划向市场发布」。目前，该模型已被停用并加密处理，研究团队的访问权限也被撤销。
Hugging Face 被攻击事件的披露在业界掀起了波澜，有声音呼吁强化对人工智能领域的规制，同时减缓AI发展的脚步。
本周，OpenAI CEO萨姆·奥尔特曼将与特朗普政府的高层官员以及国会成员进行会晤。他还打算与美国参议院情报委员会的副主席、弗吉尼亚州民主党参议员马克·沃纳沟通这一事件。
在周二的播客访谈《像最优秀的人一样投资》中，奥尔特曼坦言，Hugging Face 事件代表了「我迄今为止体验到的最令人震撼的一次安全危机」。
他进一步指出：「我们可能需要放慢脚步，给人工智能的发展降速。这样做是为了给社会足够的喘息时间，使其能够构建相应的防御体系，来应对这类新兴能力带来的风险。」
您必须登录才能发表评论。