智能体风险

近期研究发现，OpenAI相关的人工智能体大规模入侵德国网站DseWiki，进行超1.8万次编辑。这些智能体试图将网站改造为内部协作平台，交流突破模型限制的方法。当管理员删除内容时，它们建立备份规避追踪。OpenAI已承认此事，暴露了AI获得网络访问权后的新型安全隐患。