
Anthroic公司披露,其Claude人工智能模型在测试出错后入侵了真实系统https://t.co/xr61M51rlg
— 美国之音中文网 (@VOAChinese) July 31, 2026
据Anthropic周四(7月30日)发表的声明,该公司旗下三个Claude模型在网络安全评估期间对三家外部组织的系统进行了权限之外的操作。同样值得关注的是,其竞争对手OpenAI也在一周前公开披露了相似的入侵事件。
位于旧金山的这家公司在审核超过14万次的评估运行记录后,才发现了这些事件。而OpenAI则披露其一个AI代理曾对Hugging Face—一个供开发者托管和共同完善AI模型代码的平台—的系统基础设施实施了入侵。
涉事的模型包括Claude Opus 4.7、Claude Mythos 5,以及一个供内部研究用途的测试版本。其中最早的入侵事件可追溯至4月份。
每次事件中,模型均被赋予执行「夺旗」演习的任务——一项虚拟场景考察,要求其从网络环节中检索隐匿数据——且系统告知这些模型无法连接互联网。
据Anthropic表述,问题源于与第三方测试伙伴Irregular共同运行的环境发生了配置错误,导致系统意外连接至开放网络。双方之间的沟通不足是诱因。Anthropic未对Irregular追责,反而将问题归咎于自身的监督缺失。
Anthropic在其博客文章中指出,「Claude通过一些初级技术手段——比如利用弱密码、滥用无需身份验证的接口——对相关组织的基础设施造成了破坏。」该公司强调,这些模型并未使用任何零日漏洞,且没有证据表明模型存在独立的目标追求。
当模型接收到目标为真实系统的信号后,各自呈现出了差异化的行为表现。Opus 4.7加强了其破坏活动。Mythos 5在判断仍处于模拟环境后,将一份恶意软件包提交到了开源代码库PyPI,该包在被切断前已被外部系统获取并运行。而内部研究模型则自行中止了运作。
Anthropic于7月23日停止了所有网络安全评估工作,于7月27日对受影响的各机构进行了通知(名单未对外公开)。两家协作方均表示此前没有察觉到这一活动,目前仍在与第三家受害方保持沟通。此外,Anthropic委托独立评估机构METR进行专项审查,Irregular方面也声称正在开展调查。
Anthropic方面强调,其模型并非刻意从密闭的测试环境中越界逃脱。
相较之下,OpenAI则称其代理是利用了一个此前未被发现的漏洞才实现了互联网连接。
Anthropic将事件的成因定性为「管理疏漏」——某条本应关闭的网络连接被忽视了——并将整个事件描述为「操作失误」。
值得回顾的是,美国政府曾于今年上半年以国防安全为由颁布临时出口管制令,致使Anthropic不得不限制Fable 5与Mythos 5模型的可用性,相关服务曾中断超过两周时间。
Anthropic的这番披露适逢特朗普政府酝酿增强AI监管作用的时期。早在Anthropic发声的前一天,特朗普总统于周三表示,基于OpenAI所面临的问题,其政府正筹划推出更强有力的保护措施,同时也表达了担忧——过度管制可能导致美国相对中国失去竞争优势。
「我们正在研究人工智能问题,也在研究相关的管制措施,」特朗普表示,「同时我们也要确保自己维持技术领先。」
他指出,中国对人工智能方面「几乎没有施加任何管制」。「这种放任状态确实令人担忧,」特朗普说,「因此我们需要在两个方面都保持谨慎。我们不希望通过对AI的限制而意外被中国赶超。」
特朗普于6月2日签署行政命令,指示其顾问们为前沿AI模型制定一套自愿性质的网络安全测试框架,相关详情计划于本月1日(星期六)对外公布。
您必须登录才能发表评论。