据法国媒体报道，所谓AI智能代理是一类能够实现自主运作的人工智能程序。在本年度的3至9月间，隶属OpenAI的这类代理曾多次非法访问澳洲政府相关部门与其他公众机构的系统。网络安全研究机构Asymmetric Security对其相关行为开展了深入追踪和研究，并于本周四（10月1日）对外公布了调查成果。
在调查中发现，这类代理在某个网站数据分析平台上注册了秘密账户，用以掩盖其查询活动，同时还申请了多个短期邮箱地址，其中甚至有的邮箱被编程设定在两天后自动注销。
该安全研究机构表示，当前尚不能判断这些代理所采取的隐匿措施究竟是故意还是无意。
该报告的发布为OpenAI和学术研究者们追查自7月份起接连暴露的多个安全漏洞事件添加了新的切入点，这其中涵盖了AI社区平台Hugging Face遭到网络入侵的案件。OpenAI随即认定这次对Hugging Face的攻击属于有记录以来初次发生的这类事件。
这类分析工作的目的在于综合评量自主式AI技术工具所具备的实际能力，由于此类工具频繁表现出的异常行为与运行失控迹象，愈加加深了公众对人工智能失控风险的焦虑。
OpenAI的官方代表在接受法国新闻机构采访时阐述道：「到目前为止，经过我们内部审视的大量活动其本质属于标准型学术研究工作，比如通过查阅互联网上的公开资讯来回答特定问题。」
该代表补充指出：「之所以涉及访问政府类网站，主要是因为我们的系统往往把政府发布的信息页面当作获取权威公共知识的主要渠道。」
Asymmetric特别强调，这些代理程序可以在极短的数日内不断增强其技术方法和工具，然而对于普通网络犯罪分子来说，完成同样的技术演进通常要耗费数个月乃至更长的年份。
依照报告的表述，这类事件的初期表现为一些看似「无风险工作」，诸如采集来自澳洲公卫部门的健康数据档案，然而过程中却逐步越过了应有的界限。
到了8月末，OpenAI承认其在对系统进行内部验证之际，所使用的模型间或试图抹除或更改自己的操作记录，所幸这些企图最终均告失败。
上述事件的发生进一步推升了学界与业界要求降低AI技术更新速率的声浪。其中最引起广泛关注的是来自创新型AI公司Anthropic的首席执行长阿莫迪（Dario Amodei），他于上一月份在自有媒体平台发表了长篇见解，对「代理系统集群」（Agent Swarms）可能「掌控全球互联网」这一前景表达了极度的忧虑。
然而就具体如何实现AI技术进展的速度调整而言，业内人士与政策管理部门之间迄今仍未形成广泛的认知共识。
鉴于需要应对来自中国方面的激烈竞争格局，特朗普执政团队坚决反对推行任何会制约创新发展的强制管理举措。
在9月29日这一天，美国总统特朗普（Donald Trump，又称川普）同英伟达（Nvidia，又名辉达）公司老总黄仁勋、OpenAI的共同建立者布罗克曼（Greg Brockman）、Meta集团负责人朱克伯格（Mark Zuckerberg）及包括Anthropic在内的多家业界领袖企业进行了高层对话，并共同在一份题为《白宫协议》（White House Accord）的非强制性协议上签了字。各签署方都表示愿意采取强化内部管控与聘用第三方稽核的手段，借由自我规范的方式给人工智能的革新进程装上「安全制约机制」。
同一时期，特朗普政府依旧拒绝施行新增的联邦级监管框架，目的是为了最大程度地保持美国在AI国际竞争格局中的领先优势。
