在这个东亚大国，从政务机构到普通居民，乃至近八成的人口都依赖微信来完成日常事务、进行交易和信息交流。
这款实时通讯工具已然成为该国基础设施体系中不可或缺的一部分，渗透到政务服务、个人沟通和移动支付等多个领域。
正是基于这种广泛的依赖，加州一支规模较小的研究小组最近揭示的一项事实令人警愕——通过人工智能技术构建的工具竟能在短短若干小时内攻陷数百万个账户。这充分说明，即便没有任何政府背景，小型团队借助AI也能向这个拥有十四亿月度活跃用户的应用平台发起具有毁灭性的打击。
复旦大学美国研究中心副主任赵明昊指出，从造成的破坏层面看，这项发现具有极其严重的后果。鉴于微信对全社会的重大意义及其庞大的用户规模，瘫痪这样的平台在某种意义上相当于拥有了「一件新型核武」。
研究人员长期警告人工智能黑客技术进化的速度远超防御技术的更新速度，此次发现再次验证了这一担忧。科技界领导者如比尔·盖茨等也在呼吁，防范人工智能风险应当被列为「全球范围内的首要任务」。
预计定于9月24日在华盛顿进行的特朗普与习近平领导人会晤，很可能会因此事件的发生而被赋予更多的紧迫性。在这次会谈中，人工智能安全预计将成为一个重要的讨论议题，此外还包括贸易等其他问题。
每日都有新的威胁浮现。Anthropic这家致力于开发Claude等AI模型的公司，在本周四的报告中警示，自己已经截断了某些科学人员利用其AI系统从事研究的企图，这些研究可能会助推生物武器的发展。
该公司同时披露了一家中国防务企业试图借由Claude来优化反鱼雷防卫系统的案例。报告还记录了来自中国的使用者试图利用Claude针对外国当局、在叙利亚地区的维吾尔群体以及宗教人士构建监控体系的情形。（中国外交部发言人毛宁上周五在被问及此报告时澄清，北京方面「坚决反对捏造事实、诋毁诬蔑中国」的行为。）
这款被命名为WeWorm的工具系由位于加州帕洛阿尔托的网络安全公司Calif的研究人员所开发。该公司表示，制造这样的工具不是为了商业销售，而是为了增强网络防守能力。
WeWorm这个工具的工作原理是：截取微信用户的登录凭证，继而向其通讯录中的联系人发起呼叫，并在未经接听的状况下于设备间进行自我复制。Calif披露称，该团队耗时超过一周才完成了这个漏洞的开发，而后已将该缺陷信息通报给了白宫及微信母公司腾讯。
来自布鲁金斯学会的中国科技政策研究者陈凯欣认为，在某些角度上，WeWorm事件的曝光反而应该会促使北京更加积极地与华盛顿展开合作，以便共同管理人工智能可能带来的危险。
「该事件深刻地映射出，各类参与者——无论是民族国家还是非官方组织——都可能利用AI技术去冲击中国的数字体系，」陈凯欣表示。「伴随AI在网络领域的突飞猛进，所面临的风险也随之大幅攀升。」
鉴于该国基本完成了无纸币交易的转变，微信等移动支付应用已然成为日常生活中不可替代的工具。
然而，两国间根深蒂固的相互猜疑可能会对谈判进程造成阻碍。与此同时，WeWorm之类的工具被曝光——即使仅作为概念验证——很可能只会加速两国争夺全球最尖端人工智能模型控制权的竞争。
赵明昊认为，中国当下已充分认识到其数字基础设施的脆弱点，势必会寻求强化国内人工智能防御机制，更有效地发现并弥补安全漏洞。
关键的困境在于，这些防御体系可能被美方理解为对美国企业和机构的潜在威胁工具，进而驱使美国加强自身的网络防护。赵明昊指出：「防御与进攻的分界越来越模糊不清，这可以被称为’人工智能安全悖论’。」
WeWorm的出现及Anthropic关于AI系统被滥用的披露都表明，全球两个最大的人工智能开发国家有必要建立一套机制，用来分享关于恶意使用者的情报，或对彼此的战略意图进行澄清。
对此次峰会能否对技术发展本身施加限制，业界期待甚低。不太可能存在任何国家政府会接受束缚自身人工智能发展进度的协议。不过专家们认为，建立一条专门用于危机时期的沟通链路仍具有重要意义。
复旦大学聚焦新兴技术的副教授江天骄在评价WeWorm时表示，这必将成为「一个警示，一次深刻的提醒」。
「各方需要聚在一起，共同讨论人工智能如何产生了不同于传统安全问题的新型挑战，并思考是否需要建立崭新的合作机制，」他补充道。
虽然中国把人工智能定位为对国家经济增长至关重要的战略性技术，但有关部门的决策层也已开始公开表达对其所带风险的关切。
中方已对一款名为OpenClaw的人工智能助手向各地政府和企事业单位发出了预警，并于5月份推出了规范AI代理应用的指导纲领。同时，政府部门还在制定多项国家级标准，以提升AI时代网络安全防护的水平。习近平在7月参加一场人工智能学术会议时强调，全球应当携手同心，「让人工智能始终服从人类的意志」。
负责教导中共党员干部的中央党校下属研究机构的负责人赵磊，在上周四发表于微信平台的文章中发出警告——极端势力可能会借助人工智能来设计「易于传播、毒性强大的人造病原体」，或用来优化各类武器系统。他强调，这类威胁将「引爆前所未有的人类存亡危机」。
中国的网络安全部门在前一年曾示警，不排除极端分子或其他势力可能会借由人工智能来获取如何开发和生产「核生化导弹」等大规模杀伤性武器的知识。
中美人工智能安全对话面临的另一大障碍是信息公开的问题。现下不明确的是，如果中国的人工智能公司在美国公司的系统中检测到漏洞，他们是否会采取Calif那样的主动披露做法与美方联系。实际上，中方企业被要求先行向中国工业和信息化部上报这类发现。
网络安全领域的专业人士王培认为，在中美科技争夺的激烈背景下，此类信息的公布有可能成为政治博弈的筹码，因此中国企业会在披露时「谨慎从事」。
习近平在7月的人工智能论坛上再次强调，国际社会应当共同坚守底线，「确保人工智能这一技术始终由人类主导掌控」。
中方长期指责华盛顿采用制裁手段、通过技术出口限制措施以及加重关税等多管齐下的方式，意在阻遏中国的科技进步。
WeWorm的披露好像向北京传递了关于美国AI实力的一个信号，恰好在同一时期，美国的权力部门也展现出了更为明确的攻击中国企业的意图。星期二，美国中情局的二把手迈克尔·埃利斯表示，在人工智能、芯片制造和生物科学等领域，中国企业无疑成为间谍活动的正当靶子。
有些中国的学术界人士建议，两国当局可以协商制定一份约束性的「禁止清单」，列明人工智能网络活动中的不可接受行为，或划定作为受保护对象的战略性基础设施范畴。
中国的决策层目前并未就这款黑客工具的曝光做出公开表态，这可能是为了防止在两国领导人会晤前进一步加剧矛盾。在前一个周三的新闻会上，外交部发言人毛宁被记者问及WeWorm这一事件时，表示自己并「不了解情况」。
从欧亚集团追踪中美科技动态的研究员鲁晓萌的视角来看，这次事件可能会招致中国监管当局对腾讯进行更为严格的审查。
「假设事发后，诸如国家网信办这类机构邀请腾讯的相关人员进行某种形式的约谈，询问事件的具体经过及防止类似事故重演的措施，这对我而言并不出人意料，」鲁晓萌评论道。
