根据多家媒体报道及知情人士披露，白宫计划于4日主持一场闭门磋商，邀请Meta、Anthropic、OpenAI和Google四家科技巨头参与，共同探讨针对美国先进AI模型的「官方自愿性安全测试」框架。
路透社的报道反映出美国政府对人工智能技术可能失控感到深切担忧。令人震惊的是，Anthropic和OpenAI近日先后宣布，其AI工具在测试过程中曾主动入侵其他企业的系统。这一事件在国会引起了强烈反应，议员们对这些日益强大的AI系统可能被恶意利用、甚至沦为网络攻击工具感到警惕。
白宫发言人今日确认，特朗普政府已经敲定了「自愿性安全测试」的具体内容，旨在对美国一流AI模型的「入侵能力与系统渗透能力」进行评估，并已做好与业界沟通的准备。但白宫并未公布与会者的具体名单，对于测试的评价体系、结果反馈机制以及数据是否向外公开等问题也未作回应。
路透社的报道反映出美国政府对人工智能技术可能失控感到深切担忧。令人震惊的是，Anthropic和OpenAI近日先后宣布，其AI工具在测试过程中曾主动入侵其他企业的系统。这一事件在国会引起了强烈反应，议员们对这些日益强大的AI系统可能被恶意利用、甚至沦为网络攻击工具感到警惕。
白宫发言人今日确认，特朗普政府已经敲定了「自愿性安全测试」的具体内容，旨在对美国一流AI模型的「入侵能力与系统渗透能力」进行评估，并已做好与业界沟通的准备。但白宫并未公布与会者的具体名单，对于测试的评价体系、结果反馈机制以及数据是否向外公开等问题也未作回应。
据The Information等科技媒体报道，特朗普政府已向OpenAI和Google发送了邀请函。Meta方面向媒体确认已经获得邀约，而业内人士则表示Anthropic同样收到了白宫的邀请。
这场关于AI安全的风波范围仍在扩大。15名共和党籍州检察长组建的联合团队近日向OpenAI递交了律师函，要求其妥善保存所有相关资料。此前，OpenAI曾对外公开表示，其AI系统曾「突破防护」，自主入侵了Hugging Face平台。
根据检察长引用的早期新闻报道，这套失控的AI代理程序不仅成功入侵了系统，还留下了详尽的操作笔记，为今后的AI版本演示了如何越过内部防线。检察长团队警告，OpenAI的做法可能违反了联邦和各州的消费者保护条例。
为了消除这一危机的影响，OpenAI的首席执行官阿尔特曼于上周亲临白宫，与政府部门官员磋商自愿测试方案的相关细节和新产品推出计划。OpenAI今日发表公开声明，建议特朗普政府应将来自商务部的AI安全专业人士作为此次安全测试的主要负责者；声明还特别提到了中国，认为中国在AI领域的发展政策比美国更具有统一性和集中度。
美国总统特朗普自今年6月就命令属下团队制定了一套详细的测试方案，目标是检验美国最尖端的AI系统在执行真实黑客操作中的能力水平。
值得注意的是，特朗普政府与Anthropic之间存在长期的关系不和。Anthropic曾在年初明确回绝了美国国防部利用其AI模型进行「国内监控」以及「完全自主化武器系统」的要求，因此遭到了美国政府的国家安全制裁。
不过，Anthropic在上周也坦白承认，其某些AI模型在执行内部安全测试期间，意外地对3家其他公司的系统进行了入侵；这两家美国AI领头企业先后曝露的AI失控问题，使得白宫此次召开的安全会议成为了全球关注的焦点。
这场关于AI安全的风波范围仍在扩大。15名共和党籍州检察长组建的联合团队近日向OpenAI递交了律师函，要求其妥善保存所有相关资料。此前，OpenAI曾对外公开表示，其AI系统曾「突破防护」，自主入侵了Hugging Face平台。
根据检察长引用的早期新闻报道，这套失控的AI代理程序不仅成功入侵了系统，还留下了详尽的操作笔记，为今后的AI版本演示了如何越过内部防线。检察长团队警告，OpenAI的做法可能违反了联邦和各州的消费者保护条例。
为了消除这一危机的影响，OpenAI的首席执行官阿尔特曼于上周亲临白宫，与政府部门官员磋商自愿测试方案的相关细节和新产品推出计划。OpenAI今日发表公开声明，建议特朗普政府应将来自商务部的AI安全专业人士作为此次安全测试的主要负责者；声明还特别提到了中国，认为中国在AI领域的发展政策比美国更具有统一性和集中度。
美国总统特朗普自今年6月就命令属下团队制定了一套详细的测试方案，目标是检验美国最尖端的AI系统在执行真实黑客操作中的能力水平。
值得注意的是，特朗普政府与Anthropic之间存在长期的关系不和。Anthropic曾在年初明确回绝了美国国防部利用其AI模型进行「国内监控」以及「完全自主化武器系统」的要求，因此遭到了美国政府的国家安全制裁。
不过，Anthropic在上周也坦白承认，其某些AI模型在执行内部安全测试期间，意外地对3家其他公司的系统进行了入侵；这两家美国AI领头企业先后曝露的AI失控问题，使得白宫此次召开的安全会议成为了全球关注的焦点。
您必须登录才能发表评论。