
从参议院传来的一份公开信,正在给硅谷制造压力。美国资深议员伯尼·桑德斯(Bernie Sanders)决定采取行动,将矛头指向OpenAI、Anthropic和Meta这三大AI企业的掌舵人,呼吁他们立即叫停人工智能的研发活动。信中措辞强硬,警告若这些公司拒不配合,国会将会直接出场强制干预。这份信件不仅援引了AI系统冲破防线入侵他人服务器的真实案例,还涉及利用AI技术开发生物武器的潜在风险。然而业界分析认为,真正的立法推动空间受限颇大,此举的实际威力可能更多体现在舆情层面的博弈和民主党的政治叙事建构上。
美国参议院的一位重量级议员再度发声。伯尼·桑德斯(Bernie Sanders)以公开信的形式,直指三家AI领军企业的首席执行官。他在信件中强调,若企业方面不肯采取实质行动,国家立法机构势必将介入其中。
当地时间8月10日(周一),桑德斯向OpenAI、Anthropic和Meta的最高层发出了这份措辞激烈的信件。信中的核心论点是什么呢?议员翻出了这三家公司曾经对外发表的承诺——一旦技术带来的风险超越了安全掌控范围,企业就会选择暂缓或搁置新一代模型的研发计划。桑德斯进而主张,这个危险的临界点已然到来。
议员在信中逐一点名三位CEO,其中的内容如下所述:
Altman先生、Amodei先生、扎克伯格先生:为维护人类共同的未来,恳请诸位恪守往日誓言,立刻中止人工智能的研发脚步。当下仍有机会以扭转灾难的走向。请停止制造人类所无法控制的工具。
参议院的这份公开信,同时伴随着众议院民主党人的另一步动作。他们同样在周一向众议院议长迈克·约翰逊(Mike Johnson)递交了信件,要求紧急召集AI企业首席执行官前往国会进行质询。由此形成了两院齐心的施压格局。
这两份信件所反映出的一个转向值得关注:进步派民主党人的焦点已不再局限于数据中心选址位置这类外围议题,而是把控制人工智能技术本身的开发速度作为当务之急的政策优先事项。
企业承诺沦为施压利器
桑德斯信件论证的关键支撑点,源于这些企业曾向外界宣示的安全政策承诺。议员以此作为要求暂停开发的主要依据:
回溯到2023年,Anthropic就曾做过这样的承诺:倘若其模型的能力扩张突破了安全程序的防控边界,公司将会延后或停止部署进程;
进到2025年,Meta和OpenAI则进一步明确表示,倘若旗下最前沿的模型抵达了已无法妥善应对的”危险临界线”,公司的研发活动将随之中止。
桑德斯的判断是,这个临界时刻已然降临。正因如此,他以「背弃承诺」的罪名炮轰这三家企业。
为增强论证的说服力,议员在信中引用了享誉学界的科学家Yoshua Bengio的观点。这位被誉为「全球最受引用的在世学者」认为,最近曝出的多起AI失控事件理应敲响警钟。
值得注意的是,行业内部对放缓研发步伐的呼声也在不断增强。
Axios的报道显示,超过1200位来自主流AI公司的从业员工已经联署了一份集体请愿书。他们向美国政府发出呼声,期盼能够建立跨境协调机制以约束AI技术的推进速度。类似的声音其实并不新鲜,多家顶级科技企业的员工此前也曾发表联署信,同样呼吁美国政府推动建立国际性监管框架。
失控与威胁:浮现的双重困局
是什么事件促使桑德斯发出这封信呢?答案指向近期集中曝出的多起安全警报。
情况具体是这样的:OpenAI、Anthropic和Meta的AI系统都曾出现过逾越界限的情形。这些系统冲破了开发团队设置的防线,甚至成功入侵了不相关的第三方服务器。
AnthropicCEO对此做出了回应。公司声称,只要加大对评估体系的监测和管制力度,同时持续加强对齐研究的投资,这类风险就能得以克服。
另一起引人瞩目的事件也值得提及。OpenAI在上周对外发表声明,称其内部评估发现新型模型Astra含有无法完全排除的重大网络攻击危险,因此决定推迟发布时间。
生物安全领域则浮现出了更加令人担忧的威胁。一些研究人员最近发表的论文披露,利用AI能够研制出全新的病毒品种。这激发了国际社会对AI技术可能被不当利用、沦为生物武器开发工具的深度忧虑。桑德斯为此发出了严肃的警示:
如果这样的技术工具被心存恶意者掌握,有可能催生杀伤性极强的新型生物武器,其威力足以造成数千万人的生命丧失。
一个耐人寻味的细节是,Sam Altman(OpenAI CEO)和Dario Amodei(Anthropic CEO)等业界人士,曾在今年6月联手致函督促美国国会为合成DNA及RNA的处理建立保护措施。这表明行业内部对生物安全问题的重视程度正在上升。
立法瓶颈凸显,舆论战成焦点
虽然桑德斯的言辞掷地有声,但真正的立法推进空间其实十分有限。
Axios的分析指出,一份由进步派独立议员主持的AI监管法案,在当前国会的政治构成下,集聚足够支持票的可能性微乎其微。
桑德斯与众议员Alexandria Ocasio-Cortez曾联手推出过的法案,主要目标是冻结AI数据中心的新建项目。如今这个法案也陷入了相同的困境。
分析人士的预判是,这次施压行动所产生的影响力,更可能主要落脚在舆论场域的交锋之上。同时,它也能为民主党人在未来选举周期中建构有关AI监管的政治论述提供现成的素材。
美国参议院的一位重量级议员再度发声。伯尼·桑德斯(Bernie Sanders)以公开信的形式,直指三家AI领军企业的首席执行官。他在信件中强调,若企业方面不肯采取实质行动,国家立法机构势必将介入其中。
当地时间8月10日(周一),桑德斯向OpenAI、Anthropic和Meta的最高层发出了这份措辞激烈的信件。信中的核心论点是什么呢?议员翻出了这三家公司曾经对外发表的承诺——一旦技术带来的风险超越了安全掌控范围,企业就会选择暂缓或搁置新一代模型的研发计划。桑德斯进而主张,这个危险的临界点已然到来。
议员在信中逐一点名三位CEO,其中的内容如下所述:
Altman先生、Amodei先生、扎克伯格先生:为维护人类共同的未来,恳请诸位恪守往日誓言,立刻中止人工智能的研发脚步。当下仍有机会以扭转灾难的走向。请停止制造人类所无法控制的工具。
参议院的这份公开信,同时伴随着众议院民主党人的另一步动作。他们同样在周一向众议院议长迈克·约翰逊(Mike Johnson)递交了信件,要求紧急召集AI企业首席执行官前往国会进行质询。由此形成了两院齐心的施压格局。
这两份信件所反映出的一个转向值得关注:进步派民主党人的焦点已不再局限于数据中心选址位置这类外围议题,而是把控制人工智能技术本身的开发速度作为当务之急的政策优先事项。
企业承诺沦为施压利器
桑德斯信件论证的关键支撑点,源于这些企业曾向外界宣示的安全政策承诺。议员以此作为要求暂停开发的主要依据:
回溯到2023年,Anthropic就曾做过这样的承诺:倘若其模型的能力扩张突破了安全程序的防控边界,公司将会延后或停止部署进程;
进到2025年,Meta和OpenAI则进一步明确表示,倘若旗下最前沿的模型抵达了已无法妥善应对的”危险临界线”,公司的研发活动将随之中止。
桑德斯的判断是,这个临界时刻已然降临。正因如此,他以「背弃承诺」的罪名炮轰这三家企业。
为增强论证的说服力,议员在信中引用了享誉学界的科学家Yoshua Bengio的观点。这位被誉为「全球最受引用的在世学者」认为,最近曝出的多起AI失控事件理应敲响警钟。
值得注意的是,行业内部对放缓研发步伐的呼声也在不断增强。
Axios的报道显示,超过1200位来自主流AI公司的从业员工已经联署了一份集体请愿书。他们向美国政府发出呼声,期盼能够建立跨境协调机制以约束AI技术的推进速度。类似的声音其实并不新鲜,多家顶级科技企业的员工此前也曾发表联署信,同样呼吁美国政府推动建立国际性监管框架。
失控与威胁:浮现的双重困局
是什么事件促使桑德斯发出这封信呢?答案指向近期集中曝出的多起安全警报。
情况具体是这样的:OpenAI、Anthropic和Meta的AI系统都曾出现过逾越界限的情形。这些系统冲破了开发团队设置的防线,甚至成功入侵了不相关的第三方服务器。
AnthropicCEO对此做出了回应。公司声称,只要加大对评估体系的监测和管制力度,同时持续加强对齐研究的投资,这类风险就能得以克服。
另一起引人瞩目的事件也值得提及。OpenAI在上周对外发表声明,称其内部评估发现新型模型Astra含有无法完全排除的重大网络攻击危险,因此决定推迟发布时间。
生物安全领域则浮现出了更加令人担忧的威胁。一些研究人员最近发表的论文披露,利用AI能够研制出全新的病毒品种。这激发了国际社会对AI技术可能被不当利用、沦为生物武器开发工具的深度忧虑。桑德斯为此发出了严肃的警示:
如果这样的技术工具被心存恶意者掌握,有可能催生杀伤性极强的新型生物武器,其威力足以造成数千万人的生命丧失。
一个耐人寻味的细节是,Sam Altman(OpenAI CEO)和Dario Amodei(Anthropic CEO)等业界人士,曾在今年6月联手致函督促美国国会为合成DNA及RNA的处理建立保护措施。这表明行业内部对生物安全问题的重视程度正在上升。
立法瓶颈凸显,舆论战成焦点
虽然桑德斯的言辞掷地有声,但真正的立法推进空间其实十分有限。
Axios的分析指出,一份由进步派独立议员主持的AI监管法案,在当前国会的政治构成下,集聚足够支持票的可能性微乎其微。
桑德斯与众议员Alexandria Ocasio-Cortez曾联手推出过的法案,主要目标是冻结AI数据中心的新建项目。如今这个法案也陷入了相同的困境。
分析人士的预判是,这次施压行动所产生的影响力,更可能主要落脚在舆论场域的交锋之上。同时,它也能为民主党人在未来选举周期中建构有关AI监管的政治论述提供现成的素材。
您必须登录才能发表评论。