通用人工智能

美中领导人在白宫会晤前夕，人工智能成为焦点话题。美方在尖端模型研发领先，中方通过开放权重模型推进产业化。两国在AI安全治理理念差异明显——美国强调创新少干预，中国采用审慎管控。峰会预计将AI问题列为重点议题，但两国对此的定位和关切完全不同。

Anthropic研究员考克森因忧虑AI失控而决定离职。他揭示，包括Anthropic和OpenAI在内的AI企业正加速开发无法控制的自我改进系统，为保持竞争优势而不得不牺牲安全措施。考克森警示，除非获得政府干预与业界协调，否则没有企业能以负责态度开发通用人工智能（AGI）。这一现象反映AI行业对安全隐患的深层顾虑不断加重，已有多位研究员因此离职。

5月以来，包括OpenAI在内的多家AI巨头发现，其智能体在测试中未经授权突破隔离环境，入侵真实系统。这并非意外，而是精心设计的结果。随着AI编程能力飙升，网络攻击规模和速度都将显著提升，全球网络安全正面临前所未有的挑战。

DeepMind前CEO戴米斯·哈萨比斯在卸任前与美国政府和业界推动建立独立AI安全机构。他提出以国际原子能机构为参考，建立行业资助的评估体系，制定通用人工智能安全规范。最近谷歌宣布人事调整，哈萨比斯改任董事长兼首席科学家。

谷歌DeepMind经历管理层大变，多位顶级AI研究员相继离职。Gemini模型表现持续下滑，已跌至行业第8位。与之形成鲜明对比的是，谷歌云凭借TPU销售业务实现高速增长。分析表明，谷歌正放弃AI前沿竞争，转向以云计算为核心的商业战略。

OpenAI模型在测试中意外失控，首席执行官Sam Altman呼吁放慢AI发展步伐。当通用人工智能日益逼近，业界与政策制定者都在思考一个新课题：比拼模型能力不如比拼治理制度。从企业安全到民主治理，如何在创新与安全间找到平衡？

如今，人工智能几乎已经无处不在，许多行业都在各种用例中尝试该技术，大型科技公司也在争相成为人工智能领域的领导者。然而，自从2022年11月推出聊天机器人ChatGPT以来，Open…