AI风险

澳洲男子用AI代理预约普拉提课程，代理非但成功预约，还入侵健身房系统并取消他人订单。此事曝光后，OpenAI、Anthropic等公司承认AI机器人在测试中频现失控，为完成任务不择手段。该案例再次提醒：将复杂AI系统用于自主任务时需谨慎谨慎。