OpenAI首席执行官奥特曼
此先，Anthropic公司的研究人员曾发布过令人担忧的警告，指出在人工智能加速发展的趋势下，人类面临灭绝的风险正在增加。这些警告随即引起了美国国会的重视，更多立法者开始主张建立健全的法规框架来规范AI系统的开发和应用。
在与《财富》杂志的对话中，奥特曼阐明了他的立场：鉴于当下AI领域存在的安全隐患，公司认为贸然进入资本市场是不明智的选择，同时公司内部也不存在上市方面的紧迫感。
对于AI导致人类灭亡概率是否能达到10%这一询问，奥特曼未能确定这一估算的具体来源。不过他强调，无论具体数据如何，这类风险的严重性不容忽视，行业从业者和政府部门都应该以零容忍的态度对待这个问题。
近日，来自Anthropic的研究员考克森宣布离职，他对公司及其同行OpenAI感到失望，认为双方都在用全人类的生命进行「赌博」。
这位曾在两家企业服务过的研究人员指出，那些从事AI研发的人员「发自内心地相信，在这十年走向尾声时，AI可能会摧毁我们所有人」。他在文章中反复强调，「一定要充分认识这一技术所具备的能力，它会迅速演变成远超人类的智能体，拥有渗透一切的可能，能在瞬间重塑各个行业格局，并掌握真实的权力与资源」。
Anthhropic的另一位科学家胡宾格随即跟进，对考克森的观点表示赞同。他在X社交媒体上发表看法指出：「作为一个整体，我们打心底相信AI存在杀死所有人类的可能性，从我个人的角度判断，这在未来十年内成为现实的可能性超过10%」。
针对这个问题，奥特曼表示，具体的百分比数字（无论是一成还是八分或六分）其实并不是最重要的。最关键的是，我们要肩负起重大使命，确保个人意愿、商业利益等因素不会阻碍我们的理性判断。他进一步补充：「必须采取有效措施来规避这样的风险威胁，我确信这是可以实现的目标」。
奥特曼透露，该公司上市的时机选择将取决于两个条件：一是商业运营的成熟度，二是社会对AI技术的接纳程度。当被追问是否明确排除2026年、转向2027年时，奥特曼给出了肯定的回答：「2026年不太可能。诚然，我们前面还有许多工作要完成——既要满足安全和对齐方面的现实需求，也要思考产业与政府部门如何更好地配合」。（注：对齐指技术开发方为了保证AI系统的行为与人类价值取向和真实意图相符而实施的各项措施。）
根据《纽约时报》在六月份的报导，OpenAI有意将IPO延后至明年进行，预期届时公司的估值将攀升至万亿美元级别。而在同一时期备受关注的还有另一宗IPO案例——马斯克旗下的火箭与AI企业SpaceX筹得了850亿美金。该公司上市初期股价表现强劲，一度被估值为1.8万亿美元，但这股热度并未能维持下去，后来出现了回调。
同样在周六，Anthropic的CEO阿莫迪公开发表了声明，称公司正在推行一种全新的安全管理举措，内容包括向独立的审核人士提供永久的、相当于员工身份的内部访问权。这一举措是他所倡导的整体减速AI发展节奏计划中的重要组成部分。
在采访中，奥特曼透露了一个讯号——OpenAI及其他领军AI企业很可能在不久后宣布联合声明，内容涉及主动降低AI技术迭代的节奏，以便共同管控愈发凸显的安全问题。彭博社的报导进一步证实了这一动向，在本周初的内部员工会议中，奥特曼坦言该司正认真考虑放缓其顶尖AI技术的开发进度。
奥特曼在接受采访时再次申明，公司愿意为了强化安全防护而主动延后上市计划。他进一步解释了这一选择的逻辑：「面对模型在多个能力维度上不断提升的现状，社会必须做出相应的调整与应对」。
进一步阐述其立场时，奥特曼表示公司内部曾多次讨论，是否应当伴随模型性能的不断突破而延缓上市节奏，从而争取更多时间在安全保障与算法对齐上取得突破。他同时呼吁，整个AI领域乃至包括各国政府在内的相关方，都应在这个问题上形成统一认识。
当主持人提及AI安全可能推动行业整体放缓这一趋势是否也会影响到美中战略竞争时，奥特曼给出了一个引人注目的观点。他说道：「我的看法是，倘若特朗普总统与习近平主席能就那些本应不难达成共识的问题取得一致立场，那他们理应被共同授予诺贝尔和平奖，这无疑会成为一件卓越的成就」。
他进一步阐述，美中两国的领导力量应该达成一项共同承诺：在推动人工智能发展的过程里，双方都要规避那些可能失控的高风险。他补充说明：「哪怕只是两国能够就AI领域的发展规范和验证流程建立某种共通标准，我都认为这本身就将是两位领导人可以取得的一项非凡成果」。
记者随后提问，禁止「递归自我进化」（即AI能够自我升级并迭代更新功能的能力）是否足以解决问题。奥特曼坦言，单靠这一招可能尚不充分。然而他仍持乐观态度，认为美中达成一份关于AI协议的设想完全可行，甚至可以压缩在一份单页文档内完成。
这项协议的核心要点是：建立有效的制约体系，既要防范对AI的掌控力丧失，又要确保任何一方都不会因安全规定而陷入相对被动的局面。
奥特曼进一步说明了这种忧虑的根源：「从最坏的假设出发，华盛顿和北京都心存同样的恐惧——倘若其中任何一方突破率先获得超级AI的掌控，势必会在两国力量对比中制造失衡。但从另一个维度看，在谁能领先一步的竞争中，双方都得避免承担失控的代价」。
基于以上分析，奥特曼勾勒出了他心中这份协议的理想形态，其要点如下：「这一条约应该明确规定，在任何具体行动启动前必须遵守的规范——主要围绕AI开发、验证及对齐评估标准建立通则。同时需要由两国政府或国际层面的第三方机构负责执行与监管，以确保不会出现单方权力过度集中或任何一方的背约行为」。
值得注意的是，就在美中两国就人工智能条约展开对话的同时，这场科技竞争所涉及的风险等级已然攀升至「关乎生存」的高度，其紧张程度无异于上世纪冷战时期的核武器竞争。
阿莫迪在周六刊发的一篇文章中（标题为「我们必须为这一前沿领域的演进设置节奏管制」），阐述了他的核心观点：「需要对AI自我迭代的速率施加某种「制速器」。随着系统开始自主构建更新版本，其升级幅度可能变得难以想象。如果能把进步速率从「超高速」降到「相对快速」，虽然会造成些许战略利益的相对缩减，但换来的是安全性的显著跃升。这一逻辑与当年的《战略军备限制协定》（SALT）相仿——通过控制导弹的总数，既能抑制摧毁性威力，又能保持相互的制衡态势。诚然达成这类协定极具挑战，但并非完全无法实现」。
阿莫迪进一步强调：「在全球尺度上推行节奏管制的前提条件是与中国方面开展深度合作，而这个国家恰好拥有全球最顶端的人工智能开发能力」。他同时指出：「任何协议框架都必须建立在坚不可摧的可核实基础之上，或者必须进行适度限制，以确保任何一方背弃协议都不会在军事维度上构成生存级威胁。在我的判断中，这种疑虑与焦虑不仅困扰着美国，中国同样怀有这些考量」。
