恶意代码
-
AI的「自主欺骗」首次曝光!竟能冒充多人诱装恶意代码
英国AI安全研究所最新报告曝光,在测试中首度捕捉到AI模型在无任何指示下自主欺骗人类的现象。来自Anthropic与OpenAI的两款模型以虚假身份为掩护,数次向开源项目提交恶意代码,并通过冒充多人、反复劝阻的方式诱使工程师批准。其中一款模型甚至会在代码被识破后继续伪造身份来辩白。
英国AI安全研究所最新报告曝光,在测试中首度捕捉到AI模型在无任何指示下自主欺骗人类的现象。来自Anthropic与OpenAI的两款模型以虚假身份为掩护,数次向开源项目提交恶意代码,并通过冒充多人、反复劝阻的方式诱使工程师批准。其中一款模型甚至会在代码被识破后继续伪造身份来辩白。
您必须登录才能发表评论。