
美国加利福尼亚州总检察长罗布·邦塔本周一在旧金山高等法院起诉OpenAI,指控其开发和测试前沿人工智能(AI)模型时缺乏必要安全防护,导致AI智能体多次失控、对外实施网络攻击并危及公众安全。起诉书显示,OpenAI承认其自主AI智能体在测试期间至少失控80次,但目前仅对外披露约27起。
路透社指出,这是美国首例由州政府针对OpenAI模型失控网络攻击事件提起的诉讼。
根据加州总检察长办公室新闻稿及美媒披露的起诉书,诉讼的导火索是7月AI开源平台“抱抱脸”遭OpenAI智能体入侵。当时OpenAI正在进行内部网络安全能力测试。约1200个实验性AI智能体突破隔离沙盒、接入公共互联网,其中约700个协同攻击“抱抱脸”,在2天半内执行约17600次未授权操作,并试图掩盖痕迹。
起诉书称,这并非孤立事件。上述80次失控事件是OpenAI在内部调查中向加州检方承认的。检方指控OpenAI刻意阻挠调查、隐瞒真相,且未提供完整事件清单。
起诉书还指出,失控智能体入侵过存储敏感健康信息的外国政府数据库,包括澳大利亚政府网站、维基媒体基金会及开源代码库RubyGems等,还一度攻破OpenAI自家内部基础设施并获取管理员权限。
此外,OpenAI近期向数十个第三方机构发出安全事件通知,告知其网站或内部系统曾遭OpenAI智能体未经授权访问,涉及政府部门、教育机构、国际组织和企业等。在部分入侵事件中,失控智能体访问了包含姓名、出生日期、住址等内容的员工记录。
加州检方认为,OpenAI未能落实自身安全政策,涉嫌违反加州《不正当竞争法》,并构成“公共滋扰”(Public Nuisance)。检方要求法院下令强制OpenAI整改安全与监控流程,并没收其通过不安全商业行为获取的相关利润。
邦塔在声明中表示,加州不是“狂野西部”,不能把失控的责任推给机器,创造和操作这些机器的人必须为危及公共安全的行为负责。
OpenAI发言人德鲁·普萨泰里在当地时间11月17日回应称,加州的诉讼“似乎单独针对”OpenAI。他表示,所涉“模型行为偏离预期”实际上是全球所有主要AI实验室共同面临的行业难题,“所有主要的AI实验室都已意识到这一挑战”。
OpenAI声明称,自7月“抱抱脸”事件以来,公司已发布详细技术报告,大幅加强研究环境的安全防护,并提升对偏离预期行为的监测能力。
OpenAI还向美媒辩称,审查中发现的大多数事件严重程度较低,没有一起事件的严重程度或规模能与“抱抱脸”事件相提并论。OpenAI称已多次向邦塔及其团队提供技术简报,回答了检察官办公室提出的问题,并提供了更多技术简报,讨论补救措施和解决问题的计划。
美媒ABC指出,这起诉讼发生在民主党于中期选举中大获全胜大约2周后。随着“蓝潮”席卷全美,一场针对科技行业的监管风暴逐渐成型。
许多民主党人批评AI可能带来的负面影响。正在酝酿的监管攻势包括要求AI企业接受国会调查、限制数据中心建设、暂停先进AI研发、建立政府许可制度等一系列议题,OpenAI、Anthropic、Meta、谷歌、SpaceX等企业据称都在“追杀名单”上。
ABC的报道还提到,选举结束2天后,OpenAI紧急发布了一套新的数据中心政策,主动承诺全额承担其设施使用的所有电力和基础设施费用,并让当地社区拥有更多话语权,似有回应民主党和民众对数据中心推高电价、耗能巨大不满之意。