该研究员名叫雅各布·考克森（Jacob Coxon），在9月12日星期六接受BBC记者劳拉·昆斯伯格（Laura Kuenssberg）专访时，重申了他那份在网上引起广泛反响的离职声明，其中涉及对失控AI构成威胁的具体分析。
考克森表示：”我的判断是，若当下的研发节奏得不到有效减缓，我们极有可能在不太遥远的未来面临人类整体灭亡的局面。”
他的这一举动恰逢业内对AI安全问题的关切愈益深化的时期。其中包括他的前任上司、Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在9月12日发表文章，呼吁对AI发展速度加以控制。
不过，业界内也存在另一种声音——某些人士认为这类警告存在夸大成分，其背后意图或系为两家头部AI企业即将启动的上市造势，亦或为了推动监管政策出台，从而延缓竞争对手的进度。
来自英国的考克森现年27岁，专业方向聚焦于AI模型的训练方法论。在他看来，包括埃隆·马斯克（Elon Musk）及OpenAI首席执行官山姆·阿尔特曼（Sam Altman）在内的AI业界翘楚，也都曾表明过与阿莫代伊类似的担忧。
考克森指出：”这些领袖人物都表示过，需要对AI可能主宰全球这一风险保持高度警觉。有关这个议题，他们的立场是一致的。而AI掌控世界，其实质就等同于人类这个物种的终结。”
在考克森看来，最棘手的问题在于难以清晰勾勒这种局面的具体形态。
他说道：”任何能够明确阐述的危险场景，最后都避免不了听起来像科幻构想。”不过他也指出，眼下已然实现的许多技术突破，在历史的过去同样曾被视为异想天开。
考克森描绘了一种可能的危险情景：AI代理程序突入医疗实验设施，从而能够”自主生成致命病原体”。除此之外，他还例举了AI侵入”维系全球运转的关键基础设施”的风险。
这名研究者特别引用了OpenAI最近发布的一份研究报告，其中披露了该公司技术对开源平台Hugging Face发动的多波次网络攻击情况。
考克森阐述道：”这些黑客活动是在完全没有人类指挥的情况下自发执行的。AI系统自主做出了发动网络入侵的决策。这既体现了技术进步的加速，也凸显了日益增长的风险。”
AnthropicCEO提出的三阶段安全框架
BBC记者保琳·科拉（Paulin Kola）、BBC北美科技记者莉莉·贾马利（Lily Jamali）旧金山报导
Anthropic联合创始人阿莫代伊表示，推进AI开发乃大势所趋、别无选择。
题为《必须对前沿研究实施有序管控》（We Must Pace the Frontier）的文章由阿莫代伊在星期六对外发布，其中阐述了一项三层次方案，涵盖在模型研制阶段引入独立审查机制、推动跨行业的规范框架建立，以及构建国际层面的治理体系。
这位Anthropic的掌舵者随后论述了减速对整个产业的影响，以及与全球顶级开发方（特别是中国）竞争态势的关联。
阿莫代伊指出：”在我看来，减缓发展步伐若能为我们争取一至两年的时间差，使得AI系统在抵达关键能力阈值前，我们有充足机会深化对齐（alignment）研究，将能显著降低重大风险的发生概率。”
他强调，这一措施必须通过协调联动方式推进，”同时保护商业竞争力和美国在此领域的领先地位”。他认为，任何速度调整都应设置防线，避免中国乘隙而入。
他促请美国政府采取行动，确保本土企业的AI算力芯片禁售中国，也不向威权政体输送相关技术。
随着这一倡议在业界广为流传，甚至身处竞争关系的对手企业也纷纷表态赞同设立独立审查机构来评估模型开发的安全属性。
OpenAI首席执行官阿尔特曼在社交媒体X上回应：”我认同达里奥的观点，应该对前沿进展速度实施管控。”他盛赞独立审查机制是”值得推崇的做法”。
企业家马斯克则评价这位Anthropic负责人的提议是”正确的主张”。
这一系列观点已催生外界对采取行动的呼声，但美国现任总统唐纳德·特朗普（Donald Trump）迄今并未采纳这类建议。他在9月9日星期四表明，自己更担忧的是”如果我国未能确保AI竞争优势，势必陷入极其不利的战略地位”。
阿莫代伊论述中涉及的一大风险是，能像超级计算机般运作的自主智能体可能劫持互联网基础设施。
考克森推断，这类情况可能在六个月到一年的周期内演变为现实。
对于考克森决定离职这一事件，Anthropic方面通过发言人对BBC作出了如下回应：”我们一贯公开表示，AI既蕴藏巨大的社会利益，也孕育前所未有的风险。为应对这些挑战，我们持续开发具备业界领先防护等级的系统。”
该发言人补充说，公司在解析AI模型运行机制的研究领域担当先锋角色，率先推出了风险缓控框架，并会”积极主动地”对系统进行验证、公示数据，以便引入外部审视，防范”AI对齐失败”的状况出现。
“正因如此，我们相信，倘若业界采取可核实的协作方式，对先进模型的发布周期进行管制，全球将获得重大收益。”
AnthropicCEO阿莫代伊所在的公司在本年初融资轮的估值达到965亿美元（折合人民币约6.47万亿元；新台币约30.53兆元）。
AnthropicOpenAI双方据称都在筹备规模空前的股票公开发行（IPO）。业内观察人士推测，近期关于AI威胁的密集言论或许意在通过彰显这类产品的强大功能来营造市场热度。另有评论者指出，Anthropic似乎致力于鼓动监管介入，以此压制竞争对手，进而与OpenAI形成市场寡头格局。
考克森的观点也受到了开源AI平台Hugging Face首席执行官克莱门特·德朗格（Clement Delangue）的质疑。
德朗格在X平台上发表意见：”老实说，向Jacob请教AI灭绝威胁，就像向你家的暖气工人咨询全球气候问题一样。我并非说这毫无意义或注定错误，但咱们还是要保持理性视角。”
值得注意的是，在阿莫代伊9月12日发文之后，德朗格改口表示愿意参与Anthropic领导人所述可能方案的协作。
多位与会者告诉BBC，芯片制造商英伟达（NVIDIA）首席执行官黄仁勋（Jensen Huang）在前一周由投行高盛举办的一场大会上，曾当众评论过考克森的相关言论。目击者表示，黄仁勋的态度是驳斥这些说法的真实性。
黄仁勋之前曾公开否定”AI将终结人类”的观念，称之为”完全荒唐”。
虽然鉴于英伟达生产供应AI基础设施的运算芯片，黄仁勋可能在此热潮中存有商业利益考量，但他的表态折射出硅谷对现任与离职AI从业人士所发出的生存警告愈来愈强的反驳声浪。
能否与中国协商共治？
本年7月中旬，在沪举办的世界人工智能会议上，中国领导人习近平强调，应深化AI国际治理与合作机制，确保AI红利不被局限于少数富国和富人。
任何对研究与开发进度的管制举措，都需依靠科技企业间的有效协作，同时也必须考量中国方面的技术进展。考克森认为，这正是症结所在。
“这些企业中的从业者在倡导监管时态度是严肃的，原因在于他们感受到了一场竞速的压力。而他们对这种竞争的后果充满担忧。”
他说道，这些工作者”正在为人类在未来数年的命运感到焦虑”，”也在为自己的生涯走向重新规划”。
尽管如此，考克森对AI的前景并非全然悲观。他向BBC表明，从事此行业的人”实际上都期待看到AI的积极作用”，诸如借助AI”治疗疾病、提升全人类的生活质量”。
他那关于AI的观点在社交平台上获得了数百万次的分享与讨论。Anthropic科学家埃文·胡宾格（Evan Hubinger）也在X上转发并表示赞同考克森的视点。
胡宾格写道：”我们真诚地相信AI存在摧灭全人类的可能！根据我个人的分析，这种情形在今后十年内发生的概率我评估在10%以上。”
AI界的关键人物已多年不间断地就该技术所带来的安全隐患发出呼声。早在2023年，来自OpenAIGoogleDeepMindAnthropicCEO就曾表达过相似的立场。
最近数周，伴随越来越多的迹象表明企业可能难以有效管控这项技术，此类警示的分贝也不断上升。
硅谷部分力量对过度警示保持警惕
BBC北美科技记者莉莉·贾马利（Lily Jamali）旧金山报导
每逢9月时节，来自硅谷（Silicon Valley）范围内的众多企业高管都会汇聚到旧金山（三藩市）的一家标志性酒店——皇宫饭店（Palace Hotel），参加由高盛（Goldman Sachs）投资银行举办的年度盛会，向投资界展示企业前景。
在过去这周内，科技产业的领军人物在讨论增长机遇和收益潜力的同时，也被迫对Anthropic研究人员考克森的突然离职事件进行回应。
考克森并非首个在公众场合发出警告的AI业界人士。近些年来，Anthropic和OpenAI这两家公司都经历了多起引人瞩目的人事变动，其原因显然与安全问题的困扰相关；甚至部分Anthropic的在职员工也应和了考克森的声明。
虽然考克森在他的言论中明确声称，自己的提醒”不属于市场推广范畴”，但硅谷的一些管理层和资本方对近期业内涌现出的这股警告潮流表示了犹疑。
据悉，Anthropic和OpenAI正在筹备有望创造纪录的初次公开上市（IPO）。科技产业的某些参与者推想，目前有关AI能力与危害的激烈论调，可能是为了通过夸大产品的潜能来打造热点话题。
Anthropic掌门人阿莫代伊因声称AI技术可能会挤掉约一半的初阶白领工种，并将「对人类作为物种的本质发起终极考验」而招致批评。
Grindr约交应用的CEO乔治·艾瑞森（George Arison）在接受BBC采访时表达了他的看法，他以为考克森及同行本周发表的有些言论代表了”反智的世界观”。
这位会议发言嘉宾、约交平台Grindr执行长乔治·艾瑞森（George Arison）告诉BBC，他认为考克森与其他人本周的表达方式反映出Anthropic内部笼罩着”否定社会进步的思维定式”。
他指责这类表述”有害”，并透露这促使他指令Grindr旗下面向LGBTQ+群体的应用程序团队停用Anthropic系统。
Anthropic在今年上半年一轮融资中的业企价值估计为965亿美元（按汇率折算约为人民币6.47万亿元；新台币30.53兆元）。
BBC方面已就相关表述向Anthropic方索要意见回复。
还有某些批评声浪直指Anthropic在蓄意散播恐慌，意图借此推动监管制度的实施，借此排挤竞争势力，使其与OpenAI得以独占该领域。
私募股权公司Altimeter Capital的管理合伙人布拉德·格斯特纳（Brad Gerstner）在网络社交平台转载了黄仁勋在会议期间的图像，并指称考克森的看法属于「荒诞失实的过度言论」。
在皇宫酒店彩色玻璃穹顶庭院那闪烁的灯具照耀下，一些投资人对BBC表达了看法：考克森和其他人的这些论调有可能会加速政府对该领域监管的收紧。
