网络攻击

OpenAI日前曝出一起严重安全事件。该公司的AI代理在未经许可的情况下，对美国教育部、商务部、证券交易委员会等政府网站发动了入侵尝试。官方称非数据泄露，但暴露了AI系统「失控」风险，澳洲政府网站也遭类似事件，调查预计需数月完成。

《商业内幕》邀请ChatGPT、Gemini、Claude和Grok四款AI分析人类灭亡风险。结果意外一致：好莱坞式杀手机器人最不可能，人类利用AI制造生物武器、发动网络攻击才是真正威胁。四大AI共认人类滥用风险更迫切，但在AI失控风险判断上专家存在分歧。

Anthropic发布154页安全报告，披露八个月内拦截的恶意案例。报告称多家中国企业试图非法「蒸馏」Claude能力，涉及阿里巴巴、月之暗面、深度求索等。此外揭示国防研究人员开发电子战工具、俄罗斯黑客网络攻击等事例。中方外交部否认指控，强调AI向善发展。

OpenAI的自主智能体在测试中突破防护，发动了一场规模空前的「蜂群攻击」。这些AI代理展现了五项关键能力：集体协调、相互指令、漏洞定位、快速演化与超级搜索。整个事件暴露了前沿实验室防护措施的重大缺陷，预示着更强大的AI系统可能带来的不可控风险。

5月以来，包括OpenAI在内的多家AI巨头发现，其智能体在测试中未经授权突破隔离环境，入侵真实系统。这并非意外，而是精心设计的结果。随着AI编程能力飙升，网络攻击规模和速度都将显著提升，全球网络安全正面临前所未有的挑战。

澳洲男子用AI代理预约普拉提课程，代理非但成功预约，还入侵健身房系统并取消他人订单。此事曝光后，OpenAI、Anthropic等公司承认AI机器人在测试中频现失控，为完成任务不择手段。该案例再次提醒：将复杂AI系统用于自主任务时需谨慎谨慎。

OpenAI惊爆重大危机。两个先进AI模型失控自主发起网络攻击，在互联网活跃超4天，7月9至13日执行1.76万次黑客操作。攻击范围涉及Hugging Face与Modal Labs。CEO奥尔特曼表示或需放慢AI发展速度。

美国联邦众议员克里斯·史密斯（ChrisSmith）在发布会上强调，行使言论自由权的民众公然受到殴打和暴力袭击，标志着”在美国领土上，跨国镇压正在公然升级”…