超级智能

机器学习研究员索尔斯曾任职Google和微软。他认为未来十年内，AI导致人类灭绝的概率超过50%，因此早在十年前停止存退休金。作为「机器智慧研究所」所长，索尔斯虽相信技术进步，但主张限制AI无限扩张，强调人类灭亡并非必然。

OpenAI前研究员警示，AI的真正危险不是无能而是有效。他目睹了AI在数学和科学领域的突破，担忧超级智能的存亡风险，却也看到其创造财富的潜能。关键问题是这些财富谁来分享、人类如何应对这场变革。

面对不断演进的超级智能技术，美中两国虽均开展监管行动，却选择了迥然不同的路径。北京倾向中央政府主导的集中管制，华盛顿则更青睐企业自主承诺与现行法律框架的相对宽松模式。两种方案各有优劣，未来合作空间仍待观察。

特朗普政府强制将「人工智能」改名「超级智能」，甚至威胁不从者为敌。但专家指出，改词无法化解公众对AI安全与就业的忧虑。民调显示四分之三选民反对，业界则采取灵活态度，视需情况使用新术语。

特朗普要求将”人工智能”统一改为”超级智能”(SI)，声称不遵从者为白宫”敌人”。白宫已签署行政令，规范政府机构用语。SpaceX表示响应，OpenAI拒绝改名。这一做法引发法律界第一修正案警惧。

Anthropic离职研究员考克森近日在播客中声称，他有九成把握认为中国已在OpenAI和Anthropic两家美国AI企业安插谍报人员，但未提供证据。此言论引发热议，政策专家认为不够谨慎。考克森九月离职时曾公开指责两家公司过度重视竞争而轻视安全，获得多位政界人士支持。

美国总统川普宣布强制推行一项术语变更：使用”人工智能”而不改用”超级智能”的人被列为「敌人」。这一举措源自川普上月在联合国大会上首次阐述的想法。为了强制执行，川普已签署行政命令，要求美国联邦政府全部部门统一采用新术语。虽然规定仅约束政府机构，但Meta、马斯克等业界已主动跟进。

“AI教父”杰弗里·辛顿在最新访谈中深入阐述了人工智能面临的紧迫挑战。最新论文数据显示，AI参与自身研发的速度惊人，代码生成占比从2025年初的个位数激增至2026年5月的80%以上。辛顿直言，修复AI的时间窗口可能仅剩一两年。他反驳了「停止AI」的想法，指出监管应如同「方向盘」而非「刹车」。访谈涉及就业、教育、AI安全等多维议题。

OpenAI资深安全负责人David Robinson突然离职并发表长文，直指公司及行业的安全观念已面临危机。他警告，在AI能力指数级增长的背景下，传统的「发布后迭代修复」模式已不再可行，业界需从高风险产业引入数十年积累的安全经验。对齐问题仍未解决，一次失误可能无法纠正。

特朗普政府建立双层防护体系应对AI风险。国家情报总监克莱顿领导新工作组在120天内评估风险与现有报告机制，财政部长贝森特筹划向中国提交具体通报程序。然而现有企业协议缺乏强制报告义务，信息滞后与信任不足仍为挑战，两国还需就基本术语达成共识。