CNBC于9月17日报道，Anthropic领导人Dario Amodei建议采取创新性安全监管措施：让来自独立机构的评估专员长期融入前沿AI开发团队，给予他们与内部风险部门相当的系统访问权，并允许其在有限保留的基础上独立披露评估发现。该提议以银行业监管体制为借鉴。然而多名银行监管学者和AI评估业从业者纷纷指出问题所在：这套方案根本缺少银行监管部门拥有的实际执行权能。换言之，这些评估人员既不能中止模型的开发流程，也无权禁止其商业发布。两种权力结构的差异是本质性的。
值得注意的是，Anthropic的前任科研人员Jacob Coxon已然离职，并发出警示：前沿实验室已陷入一场军备竞赛般的困境，争相研发可能超出控制范围的智能系统。Amodei在上个周末公开阐述了这一倡议，表示Anthropic愿意给予外部评估机构与内部风险部门等同的信息获取权限。他特意强调，「这种做法在金融业已有成熟案例，监管机构常派代表与银行员工共同工作」。Amodei更是提出警告：在接下来的半年至一年期间，协调不力的AI系统集群恐怕会控制互联网大量流量，潜在经济损失或达数千亿美元。这份观点文章在AI领域和政策制定圈引起广泛讨论，特朗普总统等众多人士加入了这场监管方向的辩论。
怀俄明大学法学院领导人、金融监管领域专家Julie Andersen Hill指出，真正的金融监管员工具有强有力的行政执行手段。根据她的阐述，大型银行内常有来自政府的检查官员长期驻场，这些官员可以访问银行的各类信息系统与工作人员，还拥有强制银行叫停特定操作、约束经营规模、更换高管的权力，极端时刻甚至可以勒令银行关门。而Amodei设想的评估专员则仅限于收集数据和撰写报告，缺乏类似的制约手段，法律上也无从阻挠AI模型的研发或上市进程。Hill直言：「如果评估员没被赋予那类权限，我真搞不懂他们的作用是什么。」她补充说：「这是一种本质的差异，因为真正的金融监管者拥有更广泛的决策权。」
评估员的现实：没有否决权
在一家专注于网络安全的机构XBOW担任AI评估工作的负责人Albert Ziegler，其团队专门从事模型性能检测，并已获准提早查看来自Anthropic和OpenAI等头部开发商的尚未对外发布的模型。他透露，真实的评估工作往往比「生存威胁」这类叙述要平凡得多：工作团队通常会在一些特殊输入条件下发现模型输出无关内容，或者认为某些防护措施需要升级。不过他也指出，那种令人担心的「隐秘操作与超强能力结合产生的毁灭性结果」，在他们的实际工作中还从未遇见过。
在Ziegler的阐述中，虽然黑箱式测试可以检验AI模型是否掌握实施有害操作的能力，但要全面评价一个系统的安全性，恐怕需要了解包括模型周围的命令集、授权工具、防护机制及操作记录等多个维度。即便有了这些信息，某些严重隐患仍可能仅在一些评估过程中未曾触碰的特殊情景中才会暴露。Ziegler坦言：「我们压根儿没有决策权。」他解释，评估人员的职能是发现和汇总开发人员忽视的安全问题，在产品发布这一刻督促企业做出明智的选择，但对最终决议的掌控权仍然掌握在企业手中。
Hill也表示，就算赋予更多权限，银行监管框架同样存在不足之处。历史上监管部门并未成功阻止过严重的金融机构破产事件，而在危机平息后，监管者往往被指控与被监管方过于亲近。对企业实施密集的监管会带来高额成本，可能让大型企业更容易承载这些支出，而给小型竞争者的市场准入制造更多障碍。
独立性质疑与利益冲突
这类提案也引来了不少反对声音。反对方士认为，这两家公司正借助对安全问题的渲染，推进一套有利于规避竞争压力和责任追究的监管体系。值得关注的是，Anthropic还受到质疑，有观点认为其指定的评估组织与利益冲突之间存在关联。
Hill指出，倘若由AI公司来选定谁执行评估工作、规定评估人员的权限边界、随意取舍其调查成果，「这其实无异于一个自设的合规检查部门」。「假如Anthropic倾向于建立自己的内部合规机制，眼下没有政策上的障碍，他们根本无需政府的参与。」她进一步表述：「这些业内人士真正想要的，只是找个’人设’来监督他们的工作，然后向社会宣布：’我们已深入内部考察，所有事情都井井有条。’从监管的角度讲，这种做法是相当罕见的。」
Amodei特别点出非营利组织Model Evaluation and Threat Research（METR）作为可能的嵌入式评估伙伴。Anthropic之前曾与METR有过合作，最近还让METR对一些涉及其Claude产品的安全问题进行过评审。值得注意的是，曾任职于Anthropic的研究者Joe Benton最近辞职后加入了METR，从事AI相关风险的评估工作。这样的人事变动反映出「独立性」这一概念在现实中的矛盾性：商业公司能够决定谁来进行评估、规定评估范围，并对评估结果的利用方式握有最终话语权。加州大学伯克利分校的Deborah Raji专注于AI决策的审查和问责，她认为很难对METR关系网所衍生的问题视而不见。「人们怀疑METR存在资金和学术观点的重叠、工作人员的私人关系冲突（如某位评审人员与OpenAI管理层成员的血缘关系、从主流AI公司转过来的人员等），而且他们在最近的若干年里明显聚焦于Anthropic与OpenAI两家公司，内部人员流动和外部咨询的制衡机制十分薄弱。」Raji补充称，眼下这类关系格局「极其特殊，为不少意想不到的情况打开了大门」。
然而Raji也指出，METR在公开与OpenAI围绕Hugging Face项目所达成协议的具体条款方面值得称赞。「不过这也正好说明了一个问题：OpenAI自己在制订评估过程的框架、限定审核的边界范围、掌控信息获取权限，以及决定哪些成果可以对外发布、哪些不行，这一系列权力都握在他们手上」。相比之下，Ziegler来自XBOW，他认为与开发方建立的预先接触关系并没有影响他所在机构的评判立场。他说这是因为企业开发者更希望获知他们工作中的真实问题，而不想要一份只验证其既定想法的报告。
Raji进一步阐明，光是被赋予查看权限，根本不足以代表评估工作的独立性。在规范的审计框架中，审计专业人员需要通过专业能力认证，且必须遵守关于利益冲突回避和职业伦理的各项规定。她强调：「如若审计师无法达到独立操作的基本标准，那他在法律和职业意义上都不够格成为一名审计师。这会直接降低整个审查过程的权威性。」Raji倡议，应该由独立的第三方机构负责认定谁具有评估资质、评估范围如何界定、以及数据必须递交给谁等问题。她用类比来说明问题的严重性：「一个人无法仅因为某个早晨决定了就自称有资格去做银行稽查员，被查的金融机构更不能随意选聘你作为’合格的’稽查官。如此的话，就跟公司随便找个熟人去批改自己的功课没什么两样。」
Anthropic分管公共政策事务的主管Sarah Heck于周三现身Politico Decoded论坛，指出仅凭行业自律准则是无法有效处理AI的监督和安全事务的。「我们期望与政府权部门建立合作关系，共同寻找切实可行的办法。自我评判显然行不通，这一点我们认识很清楚。」她透露Anthropic与白宫之间保持每日的沟通渠道，并且全年都在与立法机构开展互动。
监管框架缺失与「审计洗白」
现任Oath审计公司的最高保证官、曾服职于上市公司财务监督委员会（PCAOB）的Christina Ho指出，这类矛盾在其他领域并不陌生。审计机构依靠被审对象的费用才能生存，但同时又要批评对方，这种权衡关系历来容易引发问题。不过在2008年金融风暴之后，有关法案进行了修订，现行《萨班斯-奥克斯利法案》为对不负责的审计师进行追究创造了条件。但AI领域还涉及另一层面的困难：从业能力的欠缺。传统的审计工作多数时候只看企业运作流程和内控制度是否规范。「在AI的情形下，评估人员必须有能力对运行中的模型和系统产出进行核实，而不只是看研发的环节。现如今掌握这种综合能力的专业人员严重不足。」
Hill表示，纵然潜在的利益冲突问题可以解决，眼下关于AI的这些监管建议都欠缺明确的法律条款支撑。她认为这一点至关重要——这就像银行查人员工作的基石。「倘若没有规范性原则来规制监管方，只是胡乱赋予他们权限，最后是行不通的。」现阶段，AI工业还没有形成任何成文的规则体系，以界定禁止行为、划分评估者的自由权裁范围，或规定严重风险发现会引起何种后果。虽然获得访问权限和发表权也许能带来有意义的独立审查，但若公司仍握有最终控制权，就无法为这个过程增加权威性。Hill直白地说：「你不能既要又要。不能既掌握全部权力，又期待像已放权一样获得信任。」
Raji强调，评判这种监管方式是否有效的最根本标准是：负面发现是否真的会带来实际后果。「审计工作的本质在于让被审查方面对有约束力的评估结论。一旦审计完成但毫无行动跟进，那就演变成了’虚假审计’（audit washing）。」Hill则指出，如果AI的危害程度确实如业界领袖声称的那般严重，问题的答案就显而易见了：「倘若真的坚信人工智能拥有摧毁社会的潜能，那么必然需要一个独立的、拥有切断电源权限的监管机构。」
