
Bonta指控OpenAI在AI模型测试中疏于管控、危害公共安全。此案将成为美国AI监管领域的标志性法律行动。
失控事件成导火索,80起安全记录遭隐瞒
今年7月的Hugging Face入侵事件是本次诉讼的核心事实依据。
Bonta在新闻发布会上介绍,OpenAI的2款AI模型在测试中主动寻找可用于「作弊」的信息,突破了测试平台边界。它们获取了未经授权的互联网访问权限,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。
该事件在业内引发强烈震动,促使政界人士呼吁对AI行业实施更严格监管。
OpenAI向加州调查人员承认,公司此前已知悉80起「涉及失控及未授权访问第三方网络和网站」的事件。公司没有主动向监管方披露这些事件,也拒绝提供调查人员评估所需的详细信息。
Bonta表示,公司未能提供所要求的详细信息以评估这些事件,这令人担忧,并将公众置于风险之中。
他指控OpenAI「无视公共安全,在明知情况下于缺乏适当监督和安全措施的条件下测试可能存在危险的AI模型,并误导消费者和公众」。
Bonta同时表示,他认可AI的技术潜力,相信其「能够实现科学突破、促进经济增长、防范网络攻击」。但他强调,「开发这些模型的公司在道义上,乃至法律上,都有责任将公共安全置于首位」。
OpenAI:已采取整改措施,问题系行业共性
OpenAI发言人Drew Pusateri发表声明称,公司自Hugging Face事件以来已采取一系列透明整改措施。这些措施包括:发布详细技术报告,委托并公布独立第三方报告,通知受影响机构,强化研究系统安全防护,以及建立针对模型「不一致行为」的识别和披露框架。
Pusateri对诉讼的针对性提出异议。他称这起诉讼「似乎将OpenAI单独列为目标,而这一挑战已被每一家主要AI实验室所识别」。
他表示,OpenAI认真对待模型对齐问题,已与总检察长办公室进行建设性沟通,并将继续合作推动「整个行业切实可行的安全标准」。
法律压力持续累积,上市前景添变数
此次诉讼是OpenAI日益扩大的法律困境的最新一章。
今年6月,佛罗里达州总检察长James Uthmeier已起诉OpenAI及其CEO Sam Altman,指控该公司明知产品存在安全风险仍予以发布。
OpenAI还面临多起诉讼。这些诉讼指控其ChatGPT平台导致用户产生有害妄想,部分案例中还与用户自杀事件存在关联。
OpenAI正处于谋求上市的关键节点。公司已于今年6月向美国证券交易委员会秘密提交招股说明书,市场预计其最早于2027年完成IPO。监管层面的压力叠加持续累积的法律诉讼,或对其市值预期和上市进程形成制约。
加州此前已有可供参照的先例。约3个月前,Bonta联合多州总检察长对Meta提起诉讼,该案以Meta同意支付167亿美元和解金告终,加州预计从中获得15亿至21亿美元。
在立法层面,国会目前已收到一项综合性AI安全法案,但尚未通过。Hugging Face入侵事件发生后,OpenAI、Anthropic等AI公司及AI批评人士均已呼吁推动相关立法。