人工智能的未来走向日益成为全球关注焦点。联合国大会召开在即，秘书长古德雷斯在周三发出警示，强调各国政府必须直面AI带来的风险，不能视而不见。他指出，保护国民安全是政府的首要职责，这包括防范与人工智能相关的各类威胁，并呼吁全球在此领域开展协调行动。
2026年5月14日，美国总统特朗普与中国国家主席习近平在北京天坛共同参观时并肩而行。习近平将于9月24日与特朗普在白宫会晤。 REUTERS – Evan Vucci
古德雷斯进一步强调，虽然各国国内行动至关紧要，但国际层面的协作同等重要。这是因为AI的影响力突破国界，其伴随的风险亦然。秘书长透露，在即将召开的联合国大会高级别会议期间，AI议题将占据各国领导人讨论的中心位置。
在一系列警示信号和业界人士的呼声推动下，加强AI发展监管的要求不断升温。OpenAI、安特罗匹克和谷歌DeepMind本周二宣布将联合建立一个AI风险监督机制。与此同时，欧盟领导人冯德莱恩也表态，计划召聚业界高管，为放缓高风险AI模型开发的努力提供支持。
被誉为AI领域先驱的加拿大学者班吉欧同日发声，指出人类对AI的掌控正在逐渐消退，国际社会应建立如同核武器管制一样的安全框架。
曾经，人们对AI的忧虑主要集中在就业冲击、环境负荷和教育影响等具体领域。而今，担忧的范围已然拓展——连同AI的创造者和开发者在内，人们都对其日益增强的能力表达了深切的关切。
本月12日，安特罗匹克首席执行官阿莫迪提议降低最先进模型的开发速度，这一建议得到了竞争对手的赞同。此前数日，曾在两家顶级AI公司任职的研究人员考克森选择辞职，他指责这些企业为追逐性能优势而将人类安全置之度外。
学术界对AI是否会失控尚未形成统一认识。然而不可否认的是，AI的进步速度已远超人类对其风险的理解。这造成的问题在于，口头上的告诫很难付诸行动。AI早已不是一门可以暂时搁置的新兴技术，而是演变成全球产业争夺和地缘政治博弈的舞台。美、中两国将AI视为战略工具，期待从中获取军事、经济及地缘优势。在这种零和竞争中，任何一方的减速都相当于自我削弱。特朗普总统明确拒绝了放缓步伐的建议，主张优先维护美国的竞争优势。
资本的力量进一步强化了这一势头。投资者押注于AI能力的持续升级，数百亿美元已流向模型训练、数据中心建设和芯片基础设施。任何试图制约增长的管控措施，都有可能冲击这个生态的商业逻辑。
即便那些倡导谨慎态度的管理者，也陷入了环环相扣的博弈之中。单个企业可以选择降低研发速度，却阻挡不了对手继续前进。问题的核心已经转变：讨论不再是是否应该停止AI发展，而是在什么框架内继续推进。
班吉欧指出，最大的威胁源自「自主人工智能」——那种能自行规划任务、独立选择执行方案，并能突破防火墙、入侵系统的人工智能。
他表示，AI可能被某些国家利用来对他国形成控制——无论通过经济杠杆、军事手段或舆论操纵。从长远角度看，AI甚至有可能独立完成物理世界的任务，不再需要人类参与。这种情景下，最坏的结果是「人类灭绝」。虽然他承认这是极端假设，但即使只是金融体系崩溃这样的「较轻」后果，也会造成灾难性影响。
针对如何减速发展，班吉欧认为这是一个全球问题，如同核武器管制一样，需要国际共识和协作。他强调，AI力量的管理必须依靠制度框架、国际条约以及民主制衡。然而，若无全球协议约束，各大国都会因相互猜疑而坚持加速开发。
专栏作家弗里德曼认为，唯有美、中这两个AI大国携手，才能有效管控人工智能的风险。然而，这两个国家本质上是地缘政治和经济竞争对手，这种合作的可行性令人质疑。但弗里德曼指出，AI将深刻改变包括地缘政治在内的人类社会各个方面。正因如此，北京和华盛顿为了各自的安全与繁荣，必须重新审视传统竞争逻辑。他期待9月24日习近平访美时的会晤成为历史性的AI超级大国峰会。
美中双方各有打算。特朗普直言不讳地批评安全顾虑是「虚构」，强调美国必须在AI赛道保持领先。而中方虽然同样忧虑AI的风险，但更紧迫的目标是缩小与美国的差距。
国际商会秘书长丹顿对美中垄断局面提出警告，呼吁培育新的AI创新中心，防止全球AI生态演变成两强独占的格局。
