科技政策

本文通过回顾历史危机，指出AI具有自我进化能力，其潜在危害前所未有。作者呼吁中美两国政府与AI企业合作建立防护机制，防止失控引发网络、生物、核和金融危机，同时强调监管能增强信任而非阻碍创新。

本周联合国安理会将围绕AI风险召开会议。DeepSeek、月之暗面等中国AI企业受邀参与发言，OpenAI、Anthropic等美国科技巨头也将参加。此次会议凸显全球对AI发展风险的关注，以及中美两国在AI领域竞争与合作的复杂局面。

特朗普在Truth Social平台发起投票，建议将「人工智能」改名为「卓越智能」等。特斯拉CEO马斯克表示，AI最终会聪慧到人类无法理解。同时，马斯克预测AI将使美国GDP增速翻倍，但这与主流经济机构的判断存在差异。

美国总统特朗普20日宣布将建立「人工智能部队」，近期任命新的「AI沙皇」。他将AI与网络革命相提并论，强调政府支持而非阻碍产业发展。这是他任期内的第二次此类任命。美中AI竞争将成为下周中美高层会谈的重要议题。

围绕人工智能发展速度问题，美国政府监管部门与科技企业产生了根本分歧。政界人士主张建立更严格的安全审查体系，而商业领袖则认为过度谨慎会削弱国家竞争优势。双方在技术创新与风险防控之间存在难以调和的立场差异。

近日，美中两国高层就人工智能发展密集表态。美国科技领导者担忧AI失控，主张放缓开发；中国强调政治安全防护。两国虽都谈「安全」，但对安全的理解和优先级却大相径庭，反映各自国情和战略差异。

人工智能快速发展引发安全隐患。Anthropic联合创始人克拉克建议依法建立AI系统应急断电机制，由独立第三方验证有效性。公司高管呼吁放缓技术进度，研究人员警示十年内灭绝风险超10%。美国国会推进「AI断电法案」，总统川普反对减速发展。

在人工智能安全议题升温之际，英伟达执行长黄仁勋在洛杉矶活动中突然接到美国总统川普的来电。川普直言AI末日论是骗局，反对放缓技术发展。黄仁勋表示赞同但更谨慎，强调应区分真实安全问题与极端预测。

AI行业高层联手呼吁放缓发展速度，声称存在安全隐患，但特朗普强调中美竞争不能放松。然而，具体如何减速、谁来监管等问题依然无解，地缘政治阴影下，技术发展的困局愈加凸显。

前Anthropic研究员考克森因AI灭绝风险言论离职，引发硅谷分裂。阿莫代伊提出监管方案获支持，但批评者认为这是IPO前商业炒作。业界就AI真实威胁认知存在根本分歧。