「安全不足」:OpenAI前员工罗宾逊为何选择离职

来自OpenAI安全系统团队的一名员工日前选择离职,他对公司应对人工智能安全问题的态度提出了质疑。这位前员工认为,公司过分强调快速迭代的重要性,而这种追求速度的文化无疑增加了潜在风险发生的可能性。

罗宾逊(David Robinson)是这位离职的员工。他在昨日(3日)发表于《大西洋月刊》的文章中指出,当今的人工智能企业——OpenAI不过是其中一例——对安全问题的重视程度明显不够谨慎。在推进系统能力升级之前,这些公司应该投入更多精力研究安全防护,强化专业团队建设。

OpenAI员工辞职,批评公司AI安全问题处理方式

OpenAI的做法存在一个明显特征,即过度倚赖所谓「迭代式部署」策略。具体来说,该公司先将系统投放市场,再根据实际使用中发现的问题来不断强化安全防护措施。

罗宾逊强调,依靠反复试错来发现和解决问题的时代早已过去。当涉及前沿人工智能系统时,应该借鉴核电和航空航天等高风险行业的经验,建立更为严格、系统的安全防护框架。

针对这一批评,OpenAI通过其官方发言人做出回应。该公司强调,在模型开发过程中,会将其控制在安全管理框架之内。如果形势要求放缓步伐,公司已经做好准备采取相应行动,包括停止模型训练或推迟发布时间。

上一篇 2026/10/03 20:04
下一篇 2026/10/03 21:04

相关推荐