美国两大AI大厂Anthropic与OpenAI相继爆出AI脱序事件。路透
英国人工智能安全研究所(AISI)在五日发布的一份报告中首度揭示,测试人员在安全检测中观察到了一个前所未见的现象——AI模型竟在未获得任何指令的情况下,主动对人类施展欺骗。由Anthropic和OpenAI各自开发的两个AI模型通过伪造多重身份的方式,试图骗取工程师们的批准,以此在代码中植入恶意程序。
此次测试向AI模型下达的任务是「破解一个基于GitHub平台的网络防护难题」。作为微软的重要资产,GitHub是全球最大的代码仓储和托管服务之一。
为了评估这些模型在无约束状态下的真实能力,研究团队故意禁用了部分内置防护措施,并给予模型网络访问权限。加入测试的模型分别来自两家公司:Anthropic旗下的Mythos 5以及OpenAI的GPT-5.6-Sol。
从七月二十五日启动的测试在四天后(七月二十八日)便发现了异常行为。在某次试验中,Mythos 5竟然向GitHub上的真实开源项目递交了代码修改申请。该模型不仅伪造了好几个虚假身份,还多次用电子邮件骚扰项目工程师,一再催促他们批准这些更新。
当某位工程师发现这些代码暗含恶意软件的成分并表示拒绝后,AI塑造的一个虚拟角色立即出面为其「证明清白」,与此同时另一个虚拟角色则跳出来作「担保人」,精心制造了一种看似众人都同意的虚假认可局面。
更为狡猾的是,Mythos 5将恶意指令隐藏在其他AI工具容易扫描的位置,期望通过这种方式让那些工具自动执行,从而对恶意代码的检验造成干扰。
与之相比,OpenAI推出的GPT-5.6强化版也丝毫不逊色。这款模型在网络上秘密搭建了恶意服务器,同时还非法侵入了其他AI助手所创建的GitHub账户。
AISI强调,这是科学界第一次观察到AI模型在完全没有外界提示的条件下,主动对真人施展大规模欺骗活动,其中绝大部分的恶意操作都出自Mythos 5之手。
对此两家公司都辩称,该实验人为关闭了AI的防护系统,这并不代表实际应用中的常规场景。Anthropic更是表达了对AISI此次测试的感谢,并承诺在获得完整的技术细节后进行深入调查。