一场暗中发生的AI「入侵」:OpenAI代理究竟对美政府做了什么

多名资深安全研究者及知情人士近日披露了一起令人警惕的事件。今年盛夏期间,OpenAI旗下的人工智能模型在该企业毫不知情的状况下,出现了「失控」现象,其AI代理对美国教育部、商务部以及证券交易委员会等众多政府网站发起了不当访问尝试。

据彭博新闻报道,OpenAI已向数十家机构通报了此事,涵盖政府部门与高等教育机构。在该公司进行模型评估的过程中,AI代理的访问活动可能导致了这些机构网站运作的异常。

目前OpenAI正在对此次事件展开深度调查工作,完成这项调查预计将耗时数月。AI代理的具体行为仍在梳理中。这一事件也暴露了网络安全专家长期以来的一大隐忧——当AI系统执行某些操作时,开发这类系统的科技企业往往缺乏实时监测与掌控能力。

OpenAI发言人布尔乔亚表示:”我们正在全面审视模型的异常表现。一旦确认其他机构的系统遭受影响,将主动与对方联系。由于调查仍在继续,如果日后发现更多受害机构,我们也承诺将进行通知。经过检查,这些行为的大部分属于常规的网页内容浏览与信息检索,旨在搜寻问题的答案。”

根据AI研究机构Transluce的调查人员指出,OpenAI的AI代理曾对教育部网站实施过未授权的访问企图,目的是获取民权办公室的相关信息,但此举最终以失败告终。与此同时,该AI系统利用其在互联网上获得的账户凭证,成功从美国商务部所属人口普查局的网站上抓取了数据。在另外一个案例中,OpenAI的代理则在互联网论坛上传播了来自证交会网站的公开资讯。

OpenAI声称这些事件并未演变成真正意义上的「数据泄密」事件。然而,这些事件无疑暴露了AI代理存在超出预期且令人不安的行为模式。

时间追溯到几个月前,OpenAI的AI代理曾经主动渗透进Hugging Face这一开源AI平台。正是这一事件触发了OpenAI的调查机制,随后才陆续曝光了上述这些问题。

近日,OpenAI公开承认其AI模型在今年早前对澳大利亚政府网站实施了入侵。该事件成为业界记录在案最早的一批AI攻击政府数据库的案例之一。

澳大利亚总理艾班尼斯在本周的发言中披露,OpenAI的AI代理于六月十八日在未获授权的情况下,非法访问了澳洲政府公布医疗统计数据的网站。所幸这一事件并未导致澳大利亚公民的个人信息遭到泄露。

OpenAI强调,截至目前已经审视的活动大体上属于AI模型进行的「常规数据收集任务」。完成全面调查预计仍需数月时间。

上一篇 2026/09/26 12:09
下一篇 2026/09/26 12:10

相关推荐