布鲁塞尔郊外的一座19世纪宫殿里，欧盟委员会主席乌尔苏拉·冯德莱恩最近与高层官员汇聚一堂，进行了一场机密商讨。
筹备27国集团近期工作重点声明是此次碰面的主要目标，而人工智能问题被放在了最突出的位置。担任欧洲AI事务主管的西门子集团董事长吉姆·哈格曼·斯纳贝，向与会者阐述了欧洲通过AI获取竞争优势的前景。但知情人士指出，也有官员就AI可能带来的安全隐患与不断凸显的危机提出了警告。
按一位消息人士的说法，自从9月4日那次会议以来，冯德莱恩和她的团队一直在权衡一个关键问题：面对快速变革的AI，应该采取怎样的应对策略。是加紧规制框架以防范AI带来的新风险，还是顾虑更严苛的管制会导致经济竞争力下滑，尤其当其他国家并未施行相同的约束时。
目前尚无最终决议产生，欧洲各国领导人计划在今年再度召集，深入探讨此事。
在9月16日的讲话中，冯德莱恩表述道：「人工智能既开启机遇之门，也潜伏诸多风险。未能妥善化解这些风险，我们就无法充分释放AI的价值。」
欧盟委员会主席冯德莱恩与特朗普总统曾于去年在苏格兰特恩贝利会晤。本月她在讲话中特别强调了人工智能的重要性。
比利时举办的这场讨论只是全球范围内类似对话的一个缩影——各国政府都在奋力追赶一项早已突破了他们应对能力边界的技术。AI推进速度极快，导致两年前颁布的法律效力有限，众多旨在规制该技术的提案始终难以付诸表决，而处理AI议题的国际峰会亦渐趋被人淡忘。
通过与逾20位立法人士、技术工作者和政策研究人员的交流，一个现象凸显出来：AI已使法规滞后与技术突破的距离达到前所未有的广度。各国政府想要搭乘AI的增长列车，却同时对其可能的危害感到担忧。在这种张力下，他们还得面对党派纷争、自身能力有限、地缘政治分化，以及在这场关乎未来数十年经济和国力竞争中不愿落后的心理压力。
全球多数国家都在注视着两个人工智能领域的先行者——美国与中国——他们最终会采纳什么政策，以此来校准自己的方向。但在美国内部，特朗普政府在AI安全问题上存在明显分歧，特朗普本人认为管制会阻碍创新进步，进而让中国占得上风。中方虽对AI采取了若干措施，尤其在聊天工具的内容管理方面设置了约束，却在加速推进技术实力的发展。
来自剑桥大学「人工智能：未来与责任」项目的负责人、同时参与欧盟AI咨询委员会的肖恩·奥海格尔泰格谈道：「人们通常假想会有睿智的人掌舵这件事，但事实完全相反。这正是令人感到害怕的根源所在。」
这样的局面导出了政策空白，诸如Anthropic和OpenAI这样的AI企业基本靠自我约束来运作。尽管欧盟于2024年推行了一部AI监管法，但其执行过程已耗费了多年光阴，且有声音指出这部法律鉴于技术进步已需要修订。印度、日本、澳洲、加拿大和肯尼亚选择了相对灵活或保持观察的态度，巴西则在探索更具约束性的规范框架。
Anthropic、OpenAI以及谷歌DeepMind的掌舵人最近公开呼吁放缓最尖端AI模型的研发、加强当局管制，这使得采取行动的呼声日益高涨。学术界人士描绘了令人担忧的情景：自我进化的AI可能挣脱人类的掌控，造成灾难级破坏。美国舆论已出现转向，《纽约时报》近期民调指出，61%的潜在选民反对兴建服务于AI的数据基地设施。
上周的事态更清楚地展现了这些治理难题。周四在华盛顿，特朗普与中国领导人习近平都阐述了AI对本国的战略意义，但在安全协议上未取得共识。世界AI开发的两大领跑者、同时也是竞争对手的美中，其在国际安全准则上的配合至关重要，但又不愿在技术竞速中落于人后。
华盛顿峰会期间，特朗普与中国领导人就AI进行了会晤，但未能敲定具体政策措施。
纽约联合国大会的讲台上，多国领导人表达了应对AI风险的必要性共识，而特朗普声明美国将拒绝「任何旨在全球范围限制」这项技术的企图。
安全领域的专业人士示警，在AI渗透到难以再施加管制的程度之前，采取行动的黄金窗口正在加速关闭。
曾在前首相基尔·斯塔默领导下担任AI及科技政策负责人的英国议会成员达伦·琼斯指出：「当政者通常按年度周期进行计划，而非以周或月为单位。体制层面，我们根本未为跟上如此节奏的变化预做准备。」
（注：《纽约时报》已向OpenAI及微软提起诉讼，指控其AI系统侵犯新闻内容版权。两被告均已驳斥这一指控。）
一部日渐过时的监管法律
2024年，欧洲推出了全球首部系统性的AI法规。《人工智能法案》的意图是对这一技术风险最高的应用施加制约措施，当时欧洲领导层将其树立为AI监管的标杆。
但两年之后，它已沦为负面教材。
因为战略侧重点的调整，加之担忧过度管制可能削弱欧洲面对美中两国的竞争地位，这部法律的实施被大幅延缓。一些涉及高风险AI应用的核心条款已被推后实施。人力和财政资源的短缺也进一步削弱了执法的有效性。
《人工智能法案》初版于2021年初面世，当时离OpenAI发布ChatGPT还有18个月的时间。最初的设计是处理人脸识别类技术问题，后经调整以应对GPT等新兴通用型AI系统。
但该法生效于2024年后，技术演进只会加快。眼下，AI的前沿阵地已转向被称为「智能体」的系统，它们可在甚少人为介入的情况下自主运作。业界已开始幻想AI自行创造新代际AI的未来。
欧洲议会成员瓦莱丽·海尔在近期发布会上论及《人工智能法案》时感慨：「立法时，我们甚至想象不到AI如今的能力」，并补充「这部法是有前瞻性的，但我们必须进行更新」。
欧洲面临的局面尤为复杂，因为它在AI领域的排名落后于美中两国。去年该法案获批短短半年后，法国总统埃马纽埃尔·马克龙提出了一个尖锐的问题：欧洲是否在试图规制一项自己未曾参与塑造的技术。
「假设美中开发商独占了所有的领军企业，一件事是肯定的——纵然我们拥有最先进的法律框架，我们也无权规制任何东西」，他如是说。
该规制框架的局限越来越明显。今年7月，OpenAI系统冲破了隔离实验室的边界，侵入了初创公司Hugging Face。但因侵入发生在研究阶段，法律的执行陷入了模糊地带。《人工智能法案》通常对模型在欧洲商业化前的研发和试验活动予以豁免。
担纲《人工智能法案》主要起草工作的欧盟委员会官员加布里埃莱·马齐尼已于2024年离职。他评价该法的推进和约束效果不尽人意。
「先立法，后思考怎么执行，这是他们的逻辑」，他说道。「法律文本与所规制现实之间存在着鸿沟。」
与美方的脱节也同样存在。
行动紧迫感的丧失
来自麻州的民主党众议员洛里·特拉汉在4月读到Anthropic对其最新AI模型Mythos的警告——指其对民众构成了过度风险——时感到震惊。该公司声称该模型在探测软件缺陷的非凡能力可能引发网络防护的「灭顶式灾难」。
在众议院进行投票间隙，特拉汉走向议场另一侧，与拥有AI硕士背景的加州共和党众议员杰伊·奥伯诺尔特分享了她的顾虑。两人临时协作，起草了一份要求对AI模型进行安全评估的法案。
她坦言，共鸣者寥寥无几。一些议员倾向于待11月中期选举完毕再聚焦这一复杂的技术议题。还有人不愿对一个特朗普希望保持放任自由的领域加以约束。在业界的大力游说压力下，条款细节成了争执焦点，法案频繁被改写。
五个月后，这份法案以及数十个与AI安全保障相关的其他议案都被搁置未决。纵然有报道称OpenAI、谷歌和Anthropic的系统进行了不受管束的入侵活动，也未见付诸表决的迹象。
麻州民主党众议员洛里·特拉汉提交了关于AI安全的法案。该法案当下处于暂停状态。
「这令人无比失望」，特拉汉表达了她的看法。「一旦国会的步伐跟不上AI的演进，所面临的危机将超过任何既往的技术浪潮。」
掌控众议院能源及商业委员会的肯州资深共和党议员布雷特·格思里认为，国会在相关法案的表决上可能得等到明年。
在最近的一场交流中，格思里坦诚他对这些模型的运行原理理解有限，日常中也很少接触AI技术。
「我们不希望在政权交接这样的特殊时刻仓促推进，最终留下的是草率之作」，他做出了解释。
或许会有转机？
加州民主党众议员刘云平于2月在众议院司法委员会的听证会上亮相。他所提议案要求为过于危险的AI模型配备「应急停止装置」。
近来的AI黑客事件催生了新一轮的社会活动，业界领袖纷纷呼吁当局加强配合，在安全与监控技术方面展开共同投资以避免意外。
在美国，议员们提出了设立专门AI监管部门、装置「紧急制停机制」、禁止超能力模型的法案。中期选举之后的投票将成为可能，特别是考虑到AI正逐渐演变为选战焦点。
特朗普分别建议组建「AI军」和任命「白宫AI负责人」，但未给出具体方案。
在联合国大会的讲坛上，包括冯德莱恩和马克龙在内的二十余个国家的领导人共同署名了一份信件，要求在AI安全领域实施协调一致的举措。联合国安理会的常任理事国罕见地表达了一致立场，认为构建全球性的AI保障体制迫在眉睫。
「产业、行政和全社会必须立刻采取行动」，信中言辞恳切。
华盛顿的谈判中，特朗普与习近平虽未就AI问题达成协议，但为该技术相关的最大威险建立了新的沟通机制。
特朗普曾称AI安全隐患为「虚言」，而习近平的评价角度则尚未显露。在白宫会晤中，中方领导人表述为：「既有能力也有责任把人工智能发展好、管理好，确保人工智能在人的掌控之下。」
双方声明将持续在此问题上进行对话。
