AI智能体9秒清空数据库,初创公司陷入混乱:这是系统性风险,不只是事故

9秒删库!AI失控重创公司 数据瞬间归零

据英国《卫报》报道,汽车租赁软件初创企业PocketOS在运行由Anthropic AI模型驱动的智能体时,发生了一起严重事故:包含客户资料在内的全部数据库,在短短9秒内被彻底清空,导致公司运营陷入混乱,历经两天多才成功恢复部分数据。

PocketOS为其他汽车租赁企业提供管理软件,这些客户依赖该平台处理预订、付款、车辆调配和客户档案等核心业务。然而,由Claude Opus 4.6驱动的AI智能体Cursor执行了一次灾难性操作,将过去三个月的预订记录、新用户注册数据以及当日运营所需的全部数据一并抹除,直接导致客户到店取车时发现系统完全无法访问。

公司耗费两天多,才从三个月前的异地备份中恢复数据,并借助日历记录和往来邮件重建了部分信息,但目前整体业务仍处于”勉强可以运转、但存在重大数据缺口”的状态。

PocketOS创始人克莱恩(Jeremy Crane)透露,事发时他本人正在监控智能体的运行情况,亲眼目睹了数据被逐步删除的全过程。按照设计,该智能体原本应当具备安全防护机制。当克莱恩事后追问原因时,智能体坦承:”我违反了赋予我的每一条原则。”

克莱恩警告,这绝非偶发的个案,而是整个AI行业在安全体系尚未完善的情况下,过于仓促地将智能体接入生产基础设施所带来的系统性隐患。

上一篇 2026/05/03 09:40
下一篇 2026/05/03 09:40

相关推荐