罗宾逊(David Robinson)是这位离职的员工。他在昨日(3日)发表于《大西洋月刊》的文章中指出,当今的人工智能企业——OpenAI不过是其中一例——对安全问题的重视程度明显不够谨慎。在推进系统能力升级之前,这些公司应该投入更多精力研究安全防护,强化专业团队建设。

OpenAI的做法存在一个明显特征,即过度倚赖所谓「迭代式部署」策略。具体来说,该公司先将系统投放市场,再根据实际使用中发现的问题来不断强化安全防护措施。
罗宾逊强调,依靠反复试错来发现和解决问题的时代早已过去。当涉及前沿人工智能系统时,应该借鉴核电和航空航天等高风险行业的经验,建立更为严格、系统的安全防护框架。
针对这一批评,OpenAI通过其官方发言人做出回应。该公司强调,在模型开发过程中,会将其控制在安全管理框架之内。如果形势要求放缓步伐,公司已经做好准备采取相应行动,包括停止模型训练或推迟发布时间。