在扎克伯格看来,依靠第三方评估制度比劝说业界放缓脚步更符合实际操作规律。
9月15日,Meta掌舵人马克·扎克伯格(Mark Zuckerberg)经由X平台公开表态,正式参与业界围绕人工智能安全所展开的连日讨论。他强调指出,各家AI开发机构应当承担起保证模型安全稳健训练的责任,这种责任感与商业利益的驱动力能够促使它们按照必需的节奏展开工作进程,同时这些机构也确实具备做到这一点的能力。
扎克伯格进一步解释,当人们面对与自身意图相悖、无法有效执行指定任务的AI智能体时,自然会产生拒绝心理。用户的这种市场反馈为研发机构的优化调整提供了天然激励:”据我所见,建立用户信任与实现模型对齐(即让系统与使用者真实意图相符)正逐步演变为评判智能体与大模型优劣的核心竞争力。任何漠视对齐工作的机构,终将失去市场竞争中的主动权。”
与此同时,当AI产品引发负面后果时,开发方需要面临严重的法律追究。基于这一现实,扎克伯格举例说明,Meta曾将Muse模型的发布时间推迟数个月之久,以便投入更多精力进行安全防护与检验。他特别强调:”我们的策略并非先向竞争对手施加压力再自己跟进,而是把安全工作纳入日常运营的核心流程。”
不难看出,扎克伯格这番表述乃是对Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)观点的含蓄回应。此前,阿莫迪曾撰文力劝业界降低前沿模型迭代升级的步调、为安全研究与风险防控预留充分时间,其主张赢得了OpenAI首席执行官山姆·奥特曼(Sam Altman)及SpaceX掌门人马斯克的同意。
令人欣喜的是,扎克伯格对阿莫迪所提议的「引入独立第三方评估」这一方案表示了赞许。他写道:”邀请来自机构外部的评估团队和顾问参与其中,已是业界应当遵循的标准做法。Meta超级智能实验室(MSL)在诸多领域已经践行了这一模式,取得了卓有成效的研发成果。其他研发机构完全可以效仿。更宏观地讲,若能打造一个汇聚更多参与者、背景更为多元的评估机制体系,定会产生重要意义。”
在发言的最后,扎克伯格做出了总结:”把计算资源的绝大部分指向用户服务,而非争相推进递归自我改进(RSI)机制,是推动技术安全发展的重要路径之一……为全人类开创美好前景的关键,在于我们能否维系权力结构的健全均衡。”
值得一提的是,素来与扎克伯格关系不睦的马斯克也在这条帖子下现身,留下了一句言简意赅的评论:”酷。”
对比阿莫迪的立场,扎克伯格的观点明显更接近英伟达首席执行官黄仁勋的思路。黄仁勋日前以坚定的态度否定了「人工智能末日论」的说法。从他的角度来看,AI行业「既不需要新增法律制度,也不需要推出新的监管措施」,AI安全问题本质上属于工程技术范畴,并非制度法律问题。
同一场合中,阿莫迪与奥特曼也各自阐明了各自的观点。阿莫迪重申了其「减缓前沿AI模型开发速度」的核心主张:”我的判断是,这样做能够为业界树立标杆,展现出每个企业都还有许多改进的空间。”
奥特曼则着重强调,在尖端AI的开发过程中,应当优先重视防护能力与监测手段,而非功能性指标。然而,他亦坦白地承认,人们所抱持的疑虑并非杞人忧天:市场竞争所施加的压力,可能使AI企业力不从心。
需要指出的是,根据OpenAI方面的披露,OpenAI与Anthropic、谷歌DeepMind实验室正在开展协同工作,共同采取行动以应对AI安全相关课题,三方的合作已经进行了若干周时间。