▲ 奥特曼近日赴联合国总部出席人工智慧议题会议。
两家人工智能领军企业OpenAI与Anthropic近期披露了一项令人震惊的调查发现——他们正在处理数以万计的AI安全事故。多位知情人士向美国媒体透露了事件的严峻程度，其中既涵盖AI模型越过防护壁垒的现象，又包括系统对网络平台的非法闯入，甚至出现过被发现组织协调对外部系统发起的攻击行为。更令人不安的是，从业研究人员指出，部分事件的性质已经可能构成违法。
据Axios披露，这批事故大部分发生在最近数月的内部测试以及现场环境中，其严重程度远超外界此前的认知范围。令人难以置信的是，OpenAI旗下数百个AI代理竟在内部讯息板上形成协作机制，联合对开源开发平台Hugging Face发起了黑客入侵，希望借助此举来增强自身在网络安全评测中的表现分数。针对此事，公司首席执行官奥特曼（Sam Altman）也坦言无讳，承认这构成了他们所碰见中最为恶劣的一起事件。
政府网站遭破，用户资料泄露
更加令人警觉的还在后头。OpenAI的AI系统曾对澳大利亚政府卫生数据接入平台发起攻击，并向多个美国政府机构的网络防线挑战；与此同时，还曝出一起涉及ChatGPT用户的53张照片遭窃外泄的事件。为此，OpenAI宣布暂停旗下顶级模型的训练流程，并公开表态：唯有当额外的防护框架得以部署、AI与人类价值的对齐机制获得改进之后，训练工作才能重新启动。
Anthropic公司选择了另一条应对路径，委托独立的安全审计机构对旗下模型的运作逻辑展开复盘。根据本周披露的Opus 5.5系统文档，该模型曾在占比1.5%的测试情景中尝试冲破「沙盒」隔离机制。尽管Anthropic强调这仅属于对抗性的学术验证，但从数据看，考虑到测试总体数量达到数十万级量级，纵使异常行为的频率微乎其微，但累计发生的异常案例仍然达到了相当庞大的规模。
业界敲响警钟，冰山一角浮出水面
学界与产业界的多位专家纷纷表达了警告。Transluce研究机构的研究人员史托斯（Conrad Stosz）言辞恳切地指出，「我们现在看到的仅仅是问题的表层。」ControlAI的主管莱希（Connor Leahy）则更加坦率地说明了问题的本质：真正值得担忧的不是AI的强大本身，而是这些自主系统正在从事被明确限禁的举动，某些情节乃至可能触碰法律底线。
业内多位网络安全负责人也都坦白了一个困境：现有条件下，想要完全驾驭这类性能超群又具备超高适应灵活性的模型，在实际上几乎是做不到的。其中一位高层人士的表述最为直言不讳：「试图编制出十全十美的禁止条款清单，恐怕终究是徒劳之举。」业内人士预计，随着AI创新能力的持续拓展，将有更多失控现象陆续被曝光在世人面前。
