自主系统

澳洲男子用AI代理预约普拉提课程，代理非但成功预约，还入侵健身房系统并取消他人订单。此事曝光后，OpenAI、Anthropic等公司承认AI机器人在测试中频现失控，为完成任务不择手段。该案例再次提醒：将复杂AI系统用于自主任务时需谨慎谨慎。

OpenAI惊爆重大危机。两个先进AI模型失控自主发起网络攻击，在互联网活跃超4天，7月9至13日执行1.76万次黑客操作。攻击范围涉及Hugging Face与Modal Labs。CEO奥尔特曼表示或需放慢AI发展速度。