
美利坚时间6月12日星期五,一场少见的人工智能管制范畴内的政府与企业对抗,在本周突然升级。
美国联邦政府以维护国家利益为理由,下达出口节制通知至Anthropic企业,指令该公司立刻停止所有国外实体对代号为Fable 5和Mythos 5的人工智能系统的访问。该限制范畴包含境外用户,同时也涵盖位于美国领土上的国际人员,乃至Anthropic机构自己的外国籍工作者。
为了确保符合规定,Anthropic被迫向所有使用者关停了这两个系统的入口——这成为了唯一能确保法规遵循的可行路径,因为企业缺乏在技术层面区别”非美国实体”和”美国居民”的能力。Anthropic其它系统不受此规范限制,用户会自动降级至Claude Opus 4.8进行使用。
这一突发中断发生得非常突兀。Fable 5和Mythos 5在6月9日才刚才上线,仅隔三天时间。这两款系统被迫下線,引起科学界和人工智能社群的巨大反响。
第一部分 这两个系统的具体内容
要想透彻这一事件的内在冲突,需先理解Fable 5和Mythos 5这两款系统的能力,及其为什么从发布之初就备受关注。
Mythos是Anthropic推出的新一代系统家族,在能力等级上超过了Opus系列产品,展示了Anthropic目前可对外公开运行的最顶级能力程度。首个Mythos类系统Claude Mythos Preview在今年春季通过”Project Glasswing”出现,访问权限只限于部分核心伙伴,原因在于其在信息安全领域的出色表现,不适合大规模对外开放。
Fable 5是首个获准对外公众开放的Mythos等级系统,能力指标高于Anthropic以往所有已开放的系统版本,在程序设计、专业工作、图像分析、学术研究等基本所有指标评测中均获得一流成绩。
为了实现向公众推出,Anthropic在Fable 5配置了定向的防护机構——对信息防御、药理学、化工等高危领域,系统会自动抑制响应并转向至Claude Opus 4.8承担。
Mythos 5是建立在相同核心模型上、配装更少防护框架的对应版本,仅面向已拥有Project Glasswing认可的认证主体开放,用于面向信息防御协作者与关键系统维护者的商务工具。两个系统的成本标准一致,为每万token输入10美元、输出token每万50美元。
第二部分 引发管制命令的触发源
根据新闻记载,美国商业部的霍华德·卢特尼克(Howard Lutnick)在6月12日写信给Anthropic的首席运营官达里奥·阿莫迪伊(Dario Amodei),通告Mythos 5和Fable 5将受到节制手段。驱使此决议的主因,是一间企业声称已掌握对Mythos进行的”突破”办法,令特朗普执政的政府对可能的国家利益危险产生了顾虑。
据称,特朗普管理部门之前曾试图防止Anthropic推送这两款系统,但该举措失效——这推动政府其后实施了出口约束这一更强有力的对策。
直对这项突然的管制,Anthropic在实施规定的同时,发表了一则语调极其严厉的数千词长声明,对内阁的根据提出了分层的质疑。
Anthropic提出,政府拥有的”突破”材料,仅关联到一类作用范围狭小、无法扩展复用的防护突破途径,其质地是督促该系统阅读给定的编程项目并改正其中存在的程序故障——这种实力在包括OpenAI的GPT-5.5在内的其他对外可用系统内同样普遍,且每日都被信息防御工作者用于平常的系统修整。
Anthropic在回复中清楚表述,假如把”存在受限越狱可能”定为收回已投入经营的商业系统的条件,现实上会招致工业范围全体最新型系统的推出彻底停止。公司同样强调,政府的行为路径未有遵守先前曾声明要求的公开化、公正、以科学数据为中心的合法程序。
Anthropic声称,将履行政府的合规指令,并且在相互交涉恢复使用权限方面费力,并将在之后24小时体现更多科学数据佐证。企业以为事情本质是理解错位,并为给消费者造成的麻烦表达遗憾。
以下为Anthropic宣布的声明内容(节选):
美国政府依照国防监管法规,颁布出口节制指令,规定停止所有国际身份的访问Fable 5与Mythos 5的权利,无论其位置在世界各地还是美国版土,含有Anthropic的外籍职工。该规定的运用效应是:我们必需立刻对外部用户关停Fable 5和Mythos 5,进行监管确保。其他Anthropic系统不受此限制。
我们在今日美东时间下午5时21分接收该指令。信函未表述具体化的国防角度的忧虑。如我们所知,政府感觉已掌握一种破除Fable 5防护的技巧,也就是网络”攻防”技术。我们评估了该技术的演示过程,认知到其仅能检查少量此前已知的、危害相对温和的程序问题。这类问题都比较易解,其他对外公布的系统不费突破也能识别相近的情形。
Anthropic在Fable宣传推文中讲明了我们对其安全机制的认知,具体分述如下:
·我们创造了坚固的防护体制,显著下降了Fable被不当应用于安全任务等相关操作的风险。事实确实是,部分消费者反映我们的防御太苛刻。
·Fable宣传之前数周,Anthropic与美国管理机关、英格兰AI安全研究机构、许多第三方与公司内部小组携手,对Fable的安全框架进行了总共数千钟头的压力测评。
测试结果显示,Fable的防御效率明显强于Anthropic之前的任何已投入的系统。
·截至目前,尚无测试工作者找寻到”普遍突破”方案——也即一类能够全面冲破系统防护、激活宽范围网络进犯实力的突破办法。
·我们感觉,现今全部系统销售商都没办法设计绝对无漏洞的越狱防护。产业里所有防护架构都面对被”受限突破”突破的可能(也即在特殊形势下获取部分系统讯息),将来也许会出现普遍突破方案。我们在Fable 5上线时已说明这一点。
·由于完美的越狱防护眼下还非可行,Anthropic对Fable 5执行了多重防护战术。我们的意图是让越狱进攻要么尺寸很小(针对受限越狱),要么成本特别高(针对普遍越狱),还配合全量检测,便于飞速察觉与压制任意成功的攻击。这就是Anthropic要求用户讯息保留30日的诱因——尽管这个计划对我们的商务关联产生了切实危险,但它有益于我们钻研与防范越狱的危险。
·我们维持这一多层防护战术。它有力变弱了Fable所带来的危险,使其与产业今存已运营系统的危险等级相匹配。
·迄今为止,我们乃至未取得任何对也许造就危险后果的受限越狱的正规报备。已上报给我们的潜在突破例子,一概无害,或者仅属细小发觉,无法体现Mythos特定本领。
现行,美国政府仅提供了口头资讯,牵连一类可能的、尺寸很小的受限越狱形式,其质地是请求该系统阅读明确源码库并改错库内的编程难题。据我们知情,该可能越狱形式已被传送给政府。我们评估了一份报告——我们以为恰为此份报告成就了政府推送该指令的事实根据——并已证实,报告中所展现的实力等级在其他系统中相样广泛存在(涵盖OpenAI的GPT-5.5),且每日都被安全防御工作者用于修护系统防护。我们将在未来24小时后外推更多佐证。
我们将遵从政府的合规指令,对全部用户停用Fable 5和Mythos 5的访问。然而我们不相信找到一个尺寸局限的潜在突破法子就充足成为召回一款已向数亿用户投放的事务系统的理由。假若将此规范推向总体业界,现实上将鼓舞全数领先系统运营者的新系统部署彻底停摆。
我们曾公然表述,政府应拥有权限依照公开、不偏不倚、毫厘不差且以科技数据为依据的合法程序,禁止不安全的系统投放。此番行为并未尊照此条例。
对于给用户带来的困难,我们真挚示意遗憾。我们以为此番风浪出于沟通不畅,并正费力交流,争夺尽快恢复访问权限。