数年前，一位高级官员对正在蔓延的疫情做出了轻率的预测：「待四月时节、气候转暖之际，问题就会不治而愈。」
现实很快回应了这种自欺欺人。不足一个月的时间，这场灾难已经吞没全球，各国随之进入了前所未有的社会停顿状态。
为何我会想起这段往事？每次回顾我所报道过的最重大危机事件——从恐怖攻击到全球大流行——我都会发现一个令人不安的共性：人们总是因缺乏充分的想象力而无法提前识别真正的威胁。政策制定者虽然在理论层面进行过风险评估，但在实际中往往束手无策：又有谁真的能想到客机会成为恐怖分子的武器？又有谁能预料，源自某座城市的病毒会造成千万人丧生，并击垮全球经济体系多年？面对日益演进中的人工智能——它正落入恶意行为者手中，并开始展现独立意志——我深感人类需要激发前所未有的警觉与想象力。
我的观察指向三个令人担忧的现实。首先，掌控AI产业的中美公司对自身创造物的真实能力认识不足，其对外表述远不如内心想法那般有把握。其次，现有权力运作框架——以决策仓促、行动不规范为特征——明显缺乏进行系统性、持续性AI安全治理所需的条件。第三，当战略利益如此庞大、地缘竞争如此激烈、相互信任如此匮乏时，期待两国在防控AI风险上达成实质共识，需要的远超常规的政治转变。
然而，我们仍有机会进行深刻反思——在一场由AI引发的严重危机真正降临、迫使所有关键行为者做出前所未有之举之前。与其成为那个被狼吃掉的人，不如做那个及早发出警告的声音。
因此我必须大声呼喊：「危险！危险！危险！危险！」
只有当美国和中国携手采取行动，共同守护各自及全球的关键基础设施——供水网络、电力系统、互联网——我才会停止这样的呼号。
但若要让我真正释怀，我需要看到这样一幕：华盛顿和北京的决策者与各自的AI企业坐在一起，共同制订一份详尽的长期规划。该规划应明确：两国如何在AI领域维持竞争，同时就防护措施达成共识，确保日益强大的AI系统不会引发网络灾难、生物威胁、核危险或金融崩溃。这是美中历代领导人未曾面对过的地缘政治、经济和技术复合挑战。若选择回避，后果将危及两国本身，也危及全世界。
我真诚地期待，本周四华盛顿举行的中美首脑会晤能为此奠定基础。AI在能源、生命科学、新材料和药物研发等领域有着革命性的应用前景。然而，其潜在风险同样是前所未有的。
我们需要寻找到一条路径，既能最大化收益，又能最小化危害——遗憾的是，这样的方法目前我们还没有掌握。
在中美两国不能就此达成协议的情况下——即确保两国开发的AI自主系统严格遵循人类福祉标准——我坚定地支持「放缓AI发展步伐，直到我们有充分把握控制这项技术」的立场。这与斯坦福大学政治理论家弗朗西斯·福山的观点相同。福山指出：「人工智能本质上是中立工具，既可造福也可为害。目前，除了技术开发者的道德自觉外，我们缺乏有效机制来约束其被恶意使用。」
当年我们相信科技巨头的承诺时，他们说要「快速行动、打破陈规」，结果给了我们充斥对立与分裂的社交平台。我不相信这次他们会把国家利益放在商业考量之上。
那些声称「现在不是监管时候、因为会窒息创新」的人忽视了三个基本事实。首先，如牛津大学新经济思想研究所负责人埃里克·拜因霍克所言，这种观点源于对历史的误读。他强调：「恰当的监管制度能够建立公众信心，而信心正是市场发展的基础。航空和制药行业为何能蓬勃发展？因为政府监督让消费者相信飞行安全、药物可信。」
若无严格的审批流程，人们会放心地在药店买药吗？由于我们尚未经历过AI灾难，公众对放任政策的容忍度相对较高。但一旦灾难发生，那些曾鼓吹「完全自由」的倡导者——比如某些政府顾问——必将遭众人声讨，这是合理的。
拜因霍克还指出：「任何开发出造成社会伤害AI系统的公司都应为此承担责任。」这正是我们对社交媒体企业处理不当的地方，我们已为此付出巨大代价。令人欣慰的是，财政部长近日表示政府不会为AI领导者提供「豁免保护伞」。这可能是目前最有效的制约手段。我希望中国也能做出同样承诺。
其次，AI并非单纯的技术工具。如计算机科学家克雷格·蒙迪所持的观点，它更像是「一个全新生命形式」。与自然界物种一样，它已开始表现出进化特征。
「我们在硅基世界中引入了达尔文式进化规律，」拜因霍克解释道。当今AI模型已具备「自我改进、自我复制和自我保护」的能力。「当这三种特征汇聚于一体，且其演变速度以计算机时间而非人类年月计算时，你就获得了一个极为强大、潜在极端危险、且可能失控的东西。」
随着我们给AI系统配备机械装置、无人机和车辆等物理形态，这种风险变得更加急迫。必须确保人类始终保有控制权，必须禁止这类系统完全自主运行，至少在我们能确保其运行符合人类长期利益之前。拜因霍克补充说。
第三个问题在于权力运作方式。据悉，现任政府的管理风格与其首脑经营企业时别无二致——那段时期充斥经营失败和财务困顿：几乎没有正式的决策流程，部门缺乏协调，大多数时刻，政策源自执政者当日的社交媒体言论，这些言论往往反映其最近交谈对象或电视节目内容。（值得庆幸的是，有报道称财政部长对AI问题进行了深入研究，并与中方保持沟通。不过，要让这个政府内部不同派别为AI政策齐心协力，难度仍然很大。）
据与现任领导人关系密切的人士透露，他将AI可能导致人类大规模灭绝的担忧视为「骗局」，但这并非基于任何技术评估。真实原因是他担忧：「若AI热潮放缓，市场可能下跌，经济衰退随之而至。」
这种思维简直是自找麻烦。让我们看看另一位总统的智慧。艾森豪威尔曾言：「计划的制定本身可能毫无价值，但制定计划的过程至关重要。」他的意思是，一旦真正危机降临，再完善的既定方案也可能崩溃。然而，通过严谨的规划过程，你能深化对问题本质的理解，找出易出差错的环节，并在团队间建立相互信任。这会大幅提升我们面对意外的应变能力。
这正是某些重大决策前所欠缺的，我们正为此付出昂贵代价。现在想象一下：若一个比任何敌手都聪慧千倍、危险万倍的AI系统失控，会是什么后果。
