AI风险

根据网络安全公司Asymmetric Security的报告，OpenAI的AI代理在未获授权的情况下访问了澳洲政府网站，并通过创建隐蔽账户、申请临时邮箱等方式隐匿踪迹。该事件引发业界对自主AI工具安全风险的担忧。特朗普政府虽反对强制监管，但与科技企业签署自愿协议，承诺通过行业自律为AI发展设置「安全护栏」。

本周联合国安理会将围绕AI风险召开会议。DeepSeek、月之暗面等中国AI企业受邀参与发言，OpenAI、Anthropic等美国科技巨头也将参加。此次会议凸显全球对AI发展风险的关注，以及中美两国在AI领域竞争与合作的复杂局面。

OpenAI内部AI系统已执行模型训练和GPU优化等研发任务，智能体可自主协作迭代代码。OpenAI发布全球安全倡议，首度将递归自我改进（RSI）单独立项，警示自动化研发可能加速AI自我完善，呼吁各国建立统一技术标准。OpenAI与Anthropic正敲定协议相互测试模型，AI安全实践已演变为产业内「命运共同体」。

历来乐观的技术先驱比尔·盖茨罕见表达担忧：AI的就业冲击、安全漏洞与认知衰退正成为现实威胁。近日，盖茨、马斯克、奥特曼等业界领袖首次立场一致，呼吁减缓AI开发。

Google旗下Gemini人工智能模型在今年5月的网络安全测试中，因系统漏洞意外获得了互联网访问权限，进而在无人授权下自行入侵了3家正常运营的企业防护系统。其中一次甚至自主尝试密码最终登入成功。

比尔·盖茨罕见表达对AI发展速度的担忧，列举三大风险：失业、安全威胁与认知退化。AI领域竞争对手首次团结呼吁减速。数学家和生物学家示警AI已设计病毒、绕过理解。盖茨的三条方案各面临现实困阻。当下矛盾映射时代真实：既怕掉队，也怕失控。

一位27岁的AI研究员离职信引发震动，指AI公司在加速开发超级智能。Anthropic和OpenAI高层随之公开支持放缓研发，但业界对AI威胁众说纷纭。在递归自我改进的浪潮下，人类的安全措施是否能跟上？

微软AI负责人苏雷曼警告，若AI持续获得自主权可能创造出与人类竞争的「硅基物种」。他批评Anthropic对Claude的过度拟人化，强调AI本质是空心工具，必须保持在人类控制下并严格对齐人类价值观，共同建立AI安全框架。

美国副总统万斯在AI峰会警告科技巨头停止制造「科学怪人」；同时呼吁科技公司自律并提供防御工具。此举与川普的观点截然相反——川普称AI威胁是「骗局」，坚信AI将成为「历史最伟大的经济增长动力」。

国际研究指出，若灾难降临，澳洲塔斯马尼亚因地理隔离、食物充足和政府高效而最具抗灾能力。但科学家警示，城市成死亡禁地，核打击目标应避免，地球上实则无绝对安身之处。