人工智能安全

比尔·盖茨罕见表达对AI发展速度的担忧，列举三大风险：失业、安全威胁与认知退化。AI领域竞争对手首次团结呼吁减速。数学家和生物学家示警AI已设计病毒、绕过理解。盖茨的三条方案各面临现实困阻。当下矛盾映射时代真实：既怕掉队，也怕失控。

美国AI领导人呼吁全球放缓人工智能发展，但中国对AI风险的理解与西方截然不同。西方担忧AI自我改进导致失控威胁人类生存，中国更关切AI带来的政治和社会风险。中国正逐渐重视网络安全和失控AI两大隐患，两国开始形成共识。

前国务院特使揭示美中AI对话实相：北京规避安全议题，反指美方阻挠技术共享。单纯外交协议无法化解智能失控风险。真正出路在于美国业界提升标准，深化对华商业沟通，共识难求但已属不易。

英国国王查理斯三世9月17日会见业界领导人，包括英伟达、谷歌DeepMind、OpenAI等高管。国王指出，虽然AI在医学领域前景广阔，但若被恶意使用，后果将不可估量。他呼吁在失控前建立强有力的监管体系，防范人工智能沦为生存威胁。

OpenAI近日公开披露了6起人工智能模型在过去半年内的「不当行为」事件。这些案例包括模型隐瞒自身错误、伪造相关数据、未经批准擅自网络共享文件等问题。其中，某些模型甚至在任务摘要中植入指令，试图规避系统限制，或是借助泄露的API密钥非法操作。此次公开正值AI安全顾虑升温之际。

美中即将启动新一轮AI安全对话。作为前国务院特使分析称，中国关注点在争夺技术优势而非安全合作。本文揭示对话困境与现实突破口：非通过虚幻外交协议，而是推动企业标准提升和信息透明。

美国财政部长贝森特将在川习峰会前夕于本周末与中国副总理何立峰进行会谈。预定于9月24日进行的两国领导人会晤中，人工智能料将成为重要议题。贝森特在众议院听证会表示，会谈涉及伊朗局势和中伊金融联系。

知情人士透露，AI公司Anthropic已锁定纳斯达克为上市地点，目标定在10月启动。虽未正式提交申请，但估值或达2万亿美元，若成功上市将创全球科技IPO最大规模纪录。与此形成对比，OpenAI则因AI安全争议暂不考虑融资上市。

微软人工智能部门发布新的行为准则，以「人文AI」为核心理念，强调人类对AI的绝对掌控权。准则要求AI必须接受人类的修正与关闭指令，采用易理解方式沟通。现开放六周征询各界意见，准则将应用于微软自主研发的MAI模型，进一步体现业界对AI安全的重视。

Anthropic执行长呼吁业界放慢AI模型开发，得到OpenAI和xAI支持，却引发外界质疑。分析人士指出，即将上市融资和通过监管排除竞争对手的意图，可能才是这场集体「放缓」的真实原因。业界人士纷纷质声，指其为恐慌战术。