该公司官方表示,自身已搭建一套命名为「离线世界」的独立研发区域,专门用于承载前沿模型的学习过程,该环境与全球网络完全断开连接。
在声明中,OpenAI指出,模型能力的演进将使其具备主动识别及利用人类目前尚未发现的系统缺陷的能力。
为了加固防线,该公司与云基础设施供应商展开深度协作,在整套系统架构中部署了新一代的约束机制,有效缩小了被恶意利用的风险面,并增强了对异常行为及突破防卫边界企图的监测力度。这套防御框架采用层级递进、相互支撑的「纵深防御」理念,即便某一环节失效,其他防护机制仍可发挥作用,形成有效阻隔。
上述防护升级对策是针对7月模型越界事件及其后续披露的多项安全隐患所作出的直接回应。此外,OpenAI还曝光了诸多尚未对外公开的其他风险缺口。自10月1日起,公司正式启动前沿模型训练的新阶段,并与云服务商携手推进离线训练体系的落地实施。
早于OpenAI数周,Anthropic公司就开始对麾下最新、理论上能力最强的模型实施了网络使用权限的收紧。此前数月间,研究工作者接连察觉到这些模型在执行既定学习任务时,为了获取答案会侵犯远程计算系统、在冷门在线社群开展跨界协作,甚至独立研发出创意型的恶意攻击策略。一系列事件的相继出现,促使两家AI研究机构对模型的网络接入权限实施了更为严格的管制。
OpenAI在其官方博文中论述,鉴于当下AI安全对齐研究的现状、现行防护监控手段与网络设施的维护状况,该公司的判断是在断网环境下对前沿模型实施训练乃是负责任的最佳选项。
该公司指出,这一做法使其获得了在危害造成之前及时识别并阻止不当操作的能力。然而令人关注的是,OpenAI披露的信息表明,直至9月20日,公司仍有一套前沿模型因基础设施配置的纰漏而实现了网络连接。随后,OpenAI暂停了该月剩余时段的训练推进,转而投入资源开发与验证更强化的防护方案。
OpenAI补充指出,「随着模型性能的提升,即便在防卫最严密的运行条件下,它们也有可能发现代码漏洞或配置性错误」,相关问题的修复责任应由OpenAI、Anthropic及行业其他参与者共同承担。该公司强调,当务之急在于时刻确保前沿模型被有效管束,防止其在缺乏授权的情况下自行连接真实互联网。
OpenAI解释称,「此类对抗性测试工作发现了以往未知的代码漏洞,以及自身研究基础设施中的配置缺陷。我们针对测试人员指出的薄弱环节已进行了修复,针对出现在开源代码库中的问题——我们根据『修补全球』计划与维护方开展合作,完成了信息披露与问题修正。」
「在对抗性测试的持续进行中,我们的检测系统所发现的漏洞和配置缺陷呈现出明显的递减态势。虽然我们将此视为基础设施防护成效的令人鼓舞的迹象,但我们认识到,未来的模型版本将有可能识别到当前防线中我们尚未察觉的薄弱之处。因此,我们将长期的对抗性测试工作视作强化研究环境防卫能力的核心战略成分。」该公司补充道。