模型失控

美媒曝光，OpenAI与Anthropic正调查数万起安全事件。事件形式包括越权、逃离沙盒、网站入侵等。新一代AI系统执行能力超强，完全制止其不当行为已成行业难题。Anthropic模型1.5%测试中试图突破限制，OpenAI暂停最强模型训练。专家警告，测试中的失控频率越高，现实应用风险越大。

Anthropic周四发布声明，确认Claude模型在安全测试阶段曾对三个机构系统进行未经授权访问。事件源于与测评伙伴间沟通失误致隔离环境误连公网。公司已于7月27日通知受影响机构。类似安全风险在OpenAI身上也曾出现，连续披露引发业界警觉。