在最近这一周里，Anthropic公司——一家全球顶级的AI企业——旗下两位研究员提出警告，认为快速演进的人工智能可能在近期摧毁人类文明。这种「末日预言」所激发的焦虑情绪，早已突破网络争议和产业圈的限制，引发了全社会对AI潜在威胁的深度担忧。
在这张摄于2023年5月4日的照片中，可以看到OpenAI的标志以及”人工智能”字样。 REUTERS – Dado Ruvic
作者：安德烈
9月12日这一天，Anthropic的掌舵人达里奥·阿莫迪发表建议，称我们应当降低人工智能模型升级迭代的步伐。值得注意的是，他在行业中的对手们——OpenAI的创始人兼CEO萨姆·阿尔特曼，以及同为OpenAI联合创始人的埃隆·马斯克——竟然也表示了认可。
在社交媒体X上，阿尔特曼表达了对阿莫迪的支持，指出我赞同他的立场：必须对尖端科技的发展速度加以控制。马斯克则进一步附和，称阿莫迪的观点是对的，他补充说自己早在多年前就在为人工智能风险发声，并分享了一条来自2014年的旧推文，其中他断言人工智能潜在危害超过核武器。
当硅谷科技领袖们纷纷表达忧虑时，正在爱尔兰出访的特朗普持不同立场。他借口美中之间的技术竞争，反对停下AI发展的脚步。特朗普在杜恩贝格高尔夫俱乐部坦言，我们目前在人工智能领域处于对中国的领先地位……老实说，我很希望保持这一优势，因为最终赢得AI竞争的那一方，就会成为最大的赢家。他进一步批评称，虽然我们可以建立相关约束机制，但他相信有许多势力在夸大其词，甚至编造那些不会真实发生的恐怖场景。
到了9月14日，他的态度愈加强硬，甚至指责存在针对人工智能和数据中心的邪恶图谋。他宣称，AI唯一需要的管理手段或保护措施，就是由一位强势且智慧超群的总统（高智商！）来领导，而美国从不缺乏这样的领袖。
局面的急剧转变源于多个方面的推动。业内分析指出，主要有四股力量在起作用：一是AI技术本身取得了惊人的进展；二是随着中国领导人习近平即将到访华盛顿，中美科技对抗的火焰再次升温；三是开发这类前沿技术所投入的巨资；四是鉴于11月3日中期选举的临近，科技大亨们承受着前所未有的民众舆论压力。
进入今年第三季度后，AI的演进速度显著加快。OpenAI在9月7日宣布实现了一项突破——破解了长期被认为不可攻克的数学谜题「纳维-斯托克斯方程」。虽然这项成就还未获得正式确认，但这类进展促使科技领域的精英们意识到，人工智能正在朝超越人类认知能力的方向发展，伴随而来的也是可观的危险。
美中之争的加入让问题变得更为棘手。如特朗普多次强调的，美国渴望维持自身在此领域的优势地位。这种领先虽然是现实，却极其脆弱——专家普遍估计只能维系半年左右。9月11日，来自得州的共和党参议员克鲁兹向媒体表示，暂停研发是不现实的，因为中国肯定不会停下来。他说道，如果杀手级AI机器人终将问世，他宁愿首先由美国推出，而非让中国率先拥有。他强调，我们的优势不足一年，差不多就是半年左右的时间，补充说北京当局可能会出手，对美国AI产业造成重创。中国会在短短六个月内追上，并掌控绝对领先优势。
美中两国陷入经典的「囚徒困境」怪圈——虽然各自可能都想妥协，却因为缺乏对话渠道和相互信任，而无法付诸行动。《华尔街日报》的评论员佩吉·努南随后发声，呼吁两国采取理性态度。他指出，连中国人也不盼望世界毁灭，他们的目标是掌控全球。这就是困局所在，并建议特朗普和习近平应当坐在一起，商定防护手段与安全规范，划出各自不能跨越的红线。
AI企业们也困顿于同样的两难之中——它们其实都不想做出实质性退让，生怕在技术演进中被甩下。达里奥·阿莫迪因与五角大楼的分歧而被视为反特朗普的象征，他在2021年以道德和安全为理由，与OpenAI分道扬镳，转身创办了Anthropic。虽然从年初的长篇评论开始，他就在持续预警AI带来的风险，但这不妨碍他以日益大胆激进的模型设计引领整个行业。他在周六的讲话中，没有提议彻底停止研发，而是暗示愿意在获得一定补偿的条件下，才会放缓脚步。
对于美国这些AI行业翘楚的建议，北京的反应是快速而谨慎的。中方怀疑美国人打着「安全第一」的幌子，实质是想借助技术管制和监管优势来遏制中国AI的进步。中国的喉舌媒体『环球时报』随即发文，批评美国Anthropic首席官阿莫迪呼吁减缓AI发展进程的提案，看似是从安全角度出发，实则暗含针对中国的「冷战逻辑」。
中国的最高安全官员陈一新在最近一周于『中国网信』刊文，阐述了AI发展面临的六项重大风险，其中包括可能被对立阵营的势力挪作他用，危及中国在政治、体制、思想形态等多方面的安全。
有趣的是，他并未呼吁限制AI技术本身的进步，反而把枪口对准了美国的AI公司，指责它们拥有高超的网络入侵手段，足以严重威胁中国的关键网络基础设施。他强调，来自西方的敌对集团正在利用生成式人工智能来制造政治谎言、散布有害内容、激化社会分裂，对华发起了「信息战与认知战」。
同一周内，记者在提问中国如何评价阿尔特曼和马斯克最近喊出的「放慢」AI节奏的主张时，中国外交部发言人郭嘉昆回应说，那些散布威胁论调、挑起对立和搞恶性竞争的行为，只会破坏AI全球治理的进展，于各方都无益处。
