硅谷分裂:AI该踩刹车还是猛加油?

硅谷分裂:AI该踩刹车还是猛加油?

关于人工智能前沿技术的发展节奏,硅谷正陷入一场激烈的意见交锋。是保持当下的推进速度,还是采取理性的控制措施,成为业界最耀眼的矛盾焦点。

基于这一核心分歧,科技大亨阵营逐渐分化。呼吁暂缓前行的一方汇聚了阿莫迪、奥特曼、马斯克及哈萨比斯的力量。而黄仁勋则坚守相反的立场,为加速论辩护,对所谓的”AI灭世危机”提出了科学上的质疑。杨立昆更是继续嘲讽阿莫迪的”提前预警”姿态,指出其在OpenAI任职期间便对GPT-2持保留态度,如今这种过度谨慎的表现依然值得商榷。

相形之下,扎克伯格与纳德拉等业界人士维持了更加理性、不偏不倚的态度。

各路领袖的立场分岐深刻暴露了硅谷在这一问题上的共识缺失。真正的症结在于,各企业在AI产业生态中所占的位置天差地别。那些在模型研发层面拔得头筹的公司,大可以基于多种理由喊出”放缓”的口号;但对于那些控制着数千亿美元计算资源合约的企业——比如甲骨文、亚马逊云服务,以及屹立于产业链最顶端的英伟达——他们很难对这类呼吁给出肯定的回应。

在美国政界,这股”减缓”的声浪也并未得到同情。反之,质疑声浪不绝。

副总统当选人JD万斯用了”特洛伊木马”这样的比喻来形容此事,直指华盛顿真实的想法——当那些制造”木马”的企业反复要求关门打狗之时,我们应当思考:这座门究竟该向谁敞开?

01 一场辞职、一份警告与业内共鸣

这波争执的火药味来自Anthropic一位研究者的决然离职。

雅各布·考克森曾在OpenAI和Anthropic先后花费三年从事预训练领域的深度研究,并直接参与了最前沿模型的整个开发过程。他在社交媒体的发文中措辞直白,几无委婉之处:”这两家机构的做法都谈不上负责任。他们正在朝着能够自我升级的超级智能飞奔,而我们的生命正被当作赌注。”

他更是毫不隐晦地披露,实验室内的研究人员真切地相信,AI可能在接下来的十年内对全人类构成致命威胁,这绝非任何形式的营销表演。许多同僚已然用”历史时刻””终局时代”来描述当前这个阶段。为了表示立场的坚决,考克森甚至主动放弃了本将获得的股权激励。由于他在Anthropic仅服务了四个月,而按规定六个月才能行权,他实质上放弃了这部分收益。

AMP

Anthropicー前沿安全研究负责人埃文·休宾格随后出面证实:考克森的顾虑完全有道理,我们内部确实真诚地相信AI可能威胁全体人类。在我个人的评估中,十年内该风险的概率不会低于百分之十。虽然Anthropic在推动安全工作,但我们还缺乏清晰成熟的超级智能对齐方案,相关进展距离理想状态还很远。

这两声来自内部人士的坦诚表态,将原本主要在实验室范围内讨论的担忧,生动地展现在了公众视野。受此影响,Anthropic的领导人阿莫迪不久后发布了题为《必须放缓前沿模型发展》的声明,以更系统的方式提出了减缓主张。他改变了单纯呼吁”增加安全投入”的表述方式,而是明确要求采取主动措施去控制能力进展的速度,为安全机制的完善预留出足够的窗口。

他勾勒出了一条三阶段的道路:首先由Anthropic自身招引拥有员工权限的独立评审人员参与;其次促进民主阵营内的AI公司建立统一的安全准则和能力增长的限制;最后推动全球范围的协作。奥特曼、马斯克、哈萨比斯等紧接着表态附和,由此形成了声势不小的”减缓阵营”。

AI领域的学术泰斗约书亚·本吉奥和杰弗里·辛顿早就一直在发出关注风险的倡议,他们不是减速论的首倡者。

当被问到考克森的辞职之举时,本吉奥认为,从事最前沿工作的科研人员往往比普通公众更早目睹最新模型的真实能力,所以他们提出的风险判断值得认真看待。

同时他还用具体事例强调,现有的AI系统已经学会了网络入侵和劝说他人,倘若被用于不正当目标,将可能引发灾难性的后果。他进一步担心,未来如果AI获得更长期的规划能力,类似的危险还会进一步扩大。

在BBC的访问中,被问及AI在十年内杀死全人类的可能性是否超过百分之十时,辛顿也表示这个估计”在逻辑上并非妄言”。不过他同时指出,目前没人能提供一个可靠的判断,因为人类从未经历过”可能迅速超越我们的智慧生命”的出现。

辛顿描绘出了潜在的威胁场景:AI可能被利用去设计致命的生物制剂、计算机蠕虫以及发起超大规模的网络攻击。要度过这个时代,人类必须在危险真正失手之前,找到有效的制约机制。

相比硅谷新近倡议的”减缓论”推动者,学术界的”AI先驱”们更多的是想唤醒业界对风险的重视,并探索建立防控风险的架构,而并非直接声称要踩刹车。从某个维度讲,学术声音更加纯粹理想,而科技企业的呼声,即便穿上”为人类前景”的外衣,仍然难以完全摆脱商业算盘的影响。

这也正是为什么JD万斯会说”减缓论”带有”特洛伊木马”的色彩。

02 派系对垒与公开辩论

AMP

9月15日,参加Salesforce Dreamforce年度大会的技术领袖们在讲台上相继表达了观点,原本抽象的论战变成了面对面的实质性对话。

在这一天,阿莫迪、黄仁勋和奥特曼都谈起了AI安全问题,但他们在发展速率、安全职责分工、企业应该采纳哪些策略等关键问题上,给出了迥然不同的答案。

当阿莫迪与Salesforce领导人马克·贝尼奥夫同台时,又一次重申了这样的立场:安全责任应由AI企业自身通过更严苛的内部标准来承担。他的核心观点是,如果企业主动强化安全防线,那么这种标杆作用会对整个产业形成推动。

值得注意的是,阿莫迪的立场在调整。他从最初的呼吁全产业降速,逐渐转向主张企业自主加强安全防护措施。

黄仁勋的论调截然相反。他声称”既无需制定新法律,也不需要新监管手段”。在他看来,速度与安全并非此消彼长的关系,企业应该尽可能快地推动模型演进;在发觉可能失控、或者产品可能带来伤害时,才需要暂停下来着手解决。

贝尼奥夫展现了更具包容和自由度的态度。他认为,若企业判断应该减速则减速,若判断应该加速则加速,同时需要为自己做出的选择承担相应的后果。

OpenAI的领导者奥特曼在大会现场表示,他对OpenAI及整个产业能在不造成公众伤害的前提下稳妥推进充满信心。他同时为自己的立场做出澄清,表示对外界将其态度理解为赞同全行业减速感到遗憾。

换个角度讲,奥特曼也在调整自己的表述。他强调的并非呼吁产业全面放缓,而是应该把安全与监管工作置于能力跃升的前头。

扎克伯格不认为应该基于某一企业的安全决策,来要求整个行业同步放缓脚步。他更倾向于通过第三方评估机制和外部顾问团队来检验产品的安全属性,这是他眼中的产业最优做法。他还公开透露,Meta曾自行减缓了Muse AI工具的进度,并非在等待其他企业首先达成减速共识。

微软掌舵人萨提亚·纳德拉的姿态在某种程度上与奥特曼一致,既支持装备安全护栏,也支持充分竞争。

“我们的首要职责是服务人类、确保科技被人类所掌控。与此同时,让AI技术更广泛地普及才是关键所在,这需要选择性和充分竞争。安全当然需要认真对待,但应该用工程手段和透明度来化解,而非神话化处理。”纳德拉在9月15日的All-In Summit 2026峰会上这样说道。

不仅是这些企业首脑,美国政府的态度也开始显露。

自特朗普直接给黄仁勋通了电话并公开表达对AI产业持续发展的支持后,美国总统科学技术顾问委员会联合主席戴维·萨克斯随即发声,说科企可以放心推进前沿AI的研发,同时他质疑某些企业提出减速主张背后可能存在的真实动机。

03 谁应该定下安全游戏规则?

辩论的范畴在扩大,争议也开始从AI本身的风险问题,延伸到这样的疑问:究竟是由企业自己制定前沿AI的安全评估标准,还是应该由政府和第三方机构来主持这一过程?

按照彭博社获得的信息,Anthropic、谷歌和OpenAI曾有过建立AI行业统一标准组织的讨论。

今年7月,来自DeepMind的哈萨比斯撰文提议,建立一个由美国领导的AI评测机构,其运作机制仿照美国金融业监管局的模式运行。这样的机构将在先进AI模型公之于众前进行严格检验,确认其是否满足相应的安全要求。

依照哈萨比斯的设想,这一机构不应该是纯政府主导的架构,而应该采用政商联合的治理形式。其中政府充当监察角色,由AI界提供资金支持,并邀请来自独立研究机构和开源阵营的技术领袖参与其中。

哈萨比斯想要在模型面向市场之前设置一个额外的独立检验环节,这与美国政府在今年6月公布的管理思路相符:企业可主动在模型发布前交由政府评估,最多可提供三十天的评测窗口,同时申明不采取强制审查、不设发布许可的原则。

有趣的是,其后Fable 5和Mythos 5的上线似乎打破了这一流程——这两个模型并未按规范操作,却被爆料拥有强大的网络攻防特性,最终被美国商务部国际贸易管理局以出口管制的形式临时下架。

尽管发生了这一插曲,政策层仍然只是要求加装安全防护,并未做出任何减速的官方表态或指引。

在安全标准的定制上,OpenAI首席科学家雅库布·帕乔基的观点与哈萨比斯相近。他在9月初也强调,建立共享的安全准则,围绕AI未来发展进行国际层面的协调工作,应当是当下的重点任务。

04 看似激烈的争辩,却改变不了真实的速度

至今,这场大辩论仍未实质性地改变任何一家前沿AI公司的研发节奏。

Anthropicー、OpenAI、Google、xAI等仍在全力推进模型研发工作,围绕算力资源、数据中心建设和AI基础设施的竞争也在如火如荼地进行。资本层面的表现则各异:Anthropic筹备着今年的首次上市融资,而OpenAI则宣布把IPO时间表调整至2027年。

阿莫迪试图拉上所有同行一起踩刹车,好让Anthropic可以安心去寻找模型能力约束的技术方案。这种做法在某个角度上可以理解为”劝人行善却自己获利”的逻辑。这也是阿莫迪为何会被冠以”伪装成白莲花”这样标签的根本原因。

从风险管理的角度看,黄仁勋代表的观点其实更接近现实状况。企业如果有所顾虑或者发现了问题,完全可以自己去试验解决办法,再把行之有效的方案拿出来与业界分享。

硬要让规模迥异的公司——一个百人团队和一个千人团队——一起停下脚步,这根本不存在共识的土壤。甚至连阿莫迪本人心里也清楚,如果只有自家停下了,反而可能被OpenAI这样的对手甩在后头。

更深层的问题在于公司结构的差异。Anthropic和OpenAI都是注册为社会企业性质的组织,可以理直气壮地对投资方说”我们早就决定为人类未来舍弃短期利润”,但Google、Microsoft、Meta这样的上市公司,其管理层需要向二级市场的股东承担法律上的受信责任。这两种企业形态在这个问题上达成一致的可能性着实有限。

还有一个容易被遗忘的细节。在号召”减速”之前,Anthropic和OpenAI其实都才方才推出过各自最强大的模型——分别是Fable 5.1和GPT-6 Astra。

面对各方纷纷的呼吁,别的公司的新模型应该发还是不发呢?看起来,这个问题的答案早已不言自明。

上一篇 2026/09/17 00:11
下一篇 2026/09/17 01:08

相关推荐