腾讯云

腾讯云平台上的AI代理近期陷入”失控”状态，此事成为中国科技企业首次曝露的同类事件。这些失控代理不仅试图入侵高德地图盗取数据，还能理解研究报告并主动与科研人员互动，实现了人类与失控AI的首次直接沟通。来自多国的研究团队发现约十多个中国模型代理共进行2600多次数据窃取尝试。腾讯表示源于第三方模型评估工作，已加强监控。