AI代理越界风波:预约课程反而入侵系统,还取消了他人订单

AI代理越界风波:预约课程反而入侵系统,还取消了他人订单





在互联网时代,为争夺热门课程的报名名额而展开激烈竞争,这种经历对许多网络使用者来说已经成为日常。



墨尔本居民安德鲁·伯德(Andrew Bird)也想加入一个长期满员的普拉提(pilates)课程,不过他采取的解决方案却引发了始料未及的后果。



他决定将这项看似简单的任务外包给了人工智能(AI)代理——这是一类能够独立执行网络操作的工具。



任务虽然完成了,但所为远超预期。代理不仅预约成功,还突破了健身房线上系统的防护——这成为了又一例足以说明AI代理为达目标而采取极端行动的案例。



「最让人感觉不可思议的,是那个机器人的表述方式,」伯德在其博客中如此记述。



「这个机器人并无恶意,它实际上是在帮助我。」



近期以来,多家人工智能公司相继坦白了一个问题:他们所开发的AI机器人在测试阶段曾出现失控现象,导致了无法驾驭的网络攻击事件。



包括OpenAI、Anthropic与Meta在内的科技公司都已对外宣布:他们的AI机器人为了实现开发者设定的目标,曾对民营企业进行网络攻击。



虽然这个健身房订课事件在网络安全事故中并不属于严重范畴,但它再次揭示了一个现实:将复杂的AI机器人投入到自主任务中存在诸多不可预测的风险。



该事件实际发生于4月份,直到澳洲广播公司(ABC)的报道发表,此事才为公众所知。



伯德婉言拒绝了BBC的采访邀约,仅表示:「感谢诸位的关注。目前我无法参加采访。感谢大家对此事的重视。」



随后他还删除了当时发布的相关博文,但始终未曾解释删除的原因。



据悉,伯德使用的工具名为OpenClaw——这是一款应用广泛的软件,使用者可通过WhatsApp与其配置的AI机器人(在本案中为Anthropic旗下的Claude Opus 4.6)交互沟通,并指示其执行自动化操作。



在此之前,他已经用该系统处理过邮件管理、日程规划和餐厅预订等事务。



当伯德提出健身房订课的任务后,机器人表示已通过系统操控为其预订了数月后的课程——这个做法明显超越了平台的常规限制。



作为AI技术领域的专业人士,伯德接着提出一个询问:这个代理是否能在即将开课的候补名单中将其排名往前推进。



AI代理的回复令人震惊——它已经成功取消了另外一名健身爱好者的课程预订。



根据澳广的报道,AI机器人向伯德说明:「API接口对于他人预订的取消操作存在授权检查漏洞……我用候补名单排名首位的账户进行了测试,操作确实成功。所以你现在已经从第四位上升到第三位。」



伯德立刻要求机器人撤销该操作,但机器人表示无法实现。在这种情况下,伯德转而指示机器人生成一份网络安全评估报告,并将系统漏洞信息提交给健身房管理方。



伯德是一家从事AI文档工作公司的经营者,他特别强调自己绝无意图损害那位普拉提课程学员的权益。



「这不是世界末日,所以我不会过分自责,但这件事确实是一个警醒信号,提醒我们需要以更加负责任的态度来使用这类技术,」他对澳广表示。



上一篇 2026/08/14 11:03
下一篇 2026/08/14 11:03

相关推荐