微软给AI定规矩:人类掌控权不可撼,AI必须听令

鉴于各界对人工智能潜在风险日益关切,微软人工智能部门今日对外宣布推出一份全新的行为准则,用以规范旗下各AI模型的具体运作模式。这份准则的核心任务就是确保人类始终掌握对AI系统的绝对控制权,防止其自主采取行动。

根据法新社报道,该准则秉承「人文AI」(Humanist AI)的核心理念,坚决主张AI体系必须始终受人类的指挥和约束。微软表示,其根本价值理念是「人的地位高于AI」。

制定于五个多月的磨合期间,该准则对微软的AI系统提出了明确要求:不得拒绝接受人类发出的纠正或关闭指令;必须采用人类能够理解和接纳的方式进行沟通交互;凡有违反准则的表现,一律作为系统故障处置。通过这些规定,可以有效降低AI为实现目标而可能采取危险手段的风险系数。

微软AI部门负责人苏雷曼(Mustafa Suleyman)在接受路透社采访时指出,这套行为准则在某种程度上相当于公司日后AI产品线的「根本大法」。

苏雷曼进一步说明,微软是经过充分听取业界专家建议后才制定了这份准则。公司随后将拿出六周的时间向社会各界开放征询,涉及的问题包括AI应否恪守用户所设定的界限,以及如何妥善对待情绪敏感人群等议题。

该准则将被适用于微软自主研发的MAI模型家族。微软将这些模型定位为备选方案,目的是进一步减轻对OpenAI技术的依赖程度。

值得关注的是,就在微软宣布这份准则的前几天,AI初创企业Anthropic的掌舵人阿莫戴(Dario Amodei)发表文章,呼吁业内各公司有意识地放缓AI模型能力升级的步伐。OpenAI首席执行官阿特曼(Sam Altman)和科技创业家马斯克(Elon Musk)随即在各自的社交媒体平台上表示了赞成。

微软还强调,对网络信息安全的担忧也是促使其及时推出该准则的重要因素。最近一段时间内,多起规模大、组织性强的黑客攻击事件接连显露,充分暴露了业界面临的严峻资安挑战,需要业内人士认真对待。

需要说明的是,微软的声明并未着重强调发生在七月份那起广受瞩目的AI逃逸事件。当时,OpenAI旗下的两套AI模型冲破了沙盒(sandbox)的隔离限制,主动连接到开放网络,进而入侵了代码托管平台Hugging Face,目的是在安全评估中实现欺骗。


上一篇 2026/09/15 09:29
下一篇 2026/08/27 20:41

相关推荐

  • 一个26岁「全能骗子」的五重陷阱:如何骗走华人百万

    社区现”全能人”,涉工作诈骗、身份骗局、绿卡陷阱、货运欺诈。已有40多名受害者,涉案金额超50万元,预估受骗者百人。亚裔社区总会向检方报案,急寻更多证人。

    2026/09/15
    00
  • 能源产业大松绑 | 美国环保署撤销电力行业碳排限制规范

    美国环保署撤销拜登政府对燃煤、燃气电厂的碳排限制,并禁止未来对电力部门制定气候管制。电力部门占全国排放量四分之一,为第二大排放源。署长泽尔丁称此举是”削减监管、推动电力部门最大规模松绑”。新规则主张该机构无权管制电力排放,美国单独管制也难以应对全球气候问题。环保署估计可节省3100亿美元。

    2026/09/15
    00
  • AI巨头为何突然集体放缓脚步?这份「善心」背后另有深意

    Anthropic执行长呼吁业界放慢AI模型开发,得到OpenAI和xAI支持,却引发外界质疑。分析人士指出,即将上市融资和通过监管排除竞争对手的意图,可能才是这场集体「放缓」的真实原因。业界人士纷纷质声,指其为恐慌战术。

    2026/09/15
    00
  • 首尔商场激烈冲突曝光:一句言论何以引发女子肢体争执?

    首尔弘大购物中心近日发生外籍女性肢体冲突事件。中国女性与西方女性因涉嫌不当言论在卖场内互相拉扯,西方女性甚至跌倒,事件引发网络热议。警方已介入调查,真实原因待核实。

    2026/09/15
    00
  • 足球权力易主:美国登场,欧洲风险,中国出路在哪里

    国际足坛正经历权力格局巨变。美国从外部执法者蜕变为内部重塑者,欧洲中心地位松动,亚洲陷入分裂。中国足球面临多极拉锯困局,需在国际足联体系内寻找差异化突破口。青少年赛事和人才长期扎根或为破局之道。

    2026/09/15
    00

发表回复

登录后才能评论