「安全警报」154页报告曝光AI滥用乱象 多家中国企业被点名

根据Anthropic本周公开披露,该美国人工智能企业在最近八个月期间共拦截多桩可疑的不法活动。涉及Claude语言模型的恶意利用涵盖多个领域,从疑似与莫斯科有关的网络谍报活动,到多个来自中国的AI厂商企图窃取并复现Claude技术能力的事件。

在《检测与应对人工智能滥用状况报告(2026年9月版)》中,Anthropic指出了一个令人担忧的趋势。网络犯罪集团与政府支持的黑客群体越来越多地把人工智能技术作为作案工具,不仅用来辅助违法活动,更被用于规划与执行网络袭击的全套流程。在这类案例中,人的角色已转变为监督者,而非直接操作人。该公司补充道,AI的用途已经远超过简单的问答聊天机器人范畴,转向了借助多主体代理框架来自动化完成各种任务。

报告中提及,在这个时间段内,共有七个中国的研究机构发起了针对性的攻击行为被Anthropic识别并阻止。Anthropic在报告中公开列举了这些机构的名单,其中既有科技领军企业如阿里巴巴,也包括专业的对话AI开发方月之暗面、深度求索及消费电子厂商小米。

在非法蒸馏等恶意活动中,与阿里巴巴关联的参与方所实施的是规模最为庞大的。相关操作人员试图窃取并吸收Claude的技术优势,进而用于增强其通义千问(Qwen)模型的性能。至截稿为止,阿里巴巴方面未对此发表看法。

数据显示,自5月起至7月止的三月内,Anthropic记录下的来自阿里巴巴关联账户的交互总数超过1.51亿条。这些交互活动由超过3500个虚假账户产生,日均最高峰接近300万笔请求。所谓蒸馏,系指以功能更强、投入更大的AI模型的输出为训练素材,去强化较小规模AI模型的学习过程,目的在于降低新型AI工具的开发成本。

Anthropicde指控涉及月之暗面(开发的Kimi聊天机器人)和深度求索,称其操作手法并非大规模询问,而是将用户实时交互的对话——其中不乏机密内容——导入Claude执行处理,再把Claude返回的内容当作训练样本。

报告指出,上述三家企业的共同做法是:将各自的模型所生成的内容与客户会话一同提交给Claude进行分析,进而将Claude的输出用于改进和学习,以此获取Claude技术能力的复制版本。此类交互中充斥着保密性的数据,包括但不限于个人信息、跨国企业机密乃至国家层面的涉密内容。其中不少对话转发自美欧地区使用的第三方AI中转平台。这些会话记录包含数百用户的身份信息、邮箱、所属单位资料及其他机密内容,涵盖超过十种语言版本。Anthropic认为,此类操作方式涉嫌违背个人隐私保护相关法律,亦违反了有关企业的使用政策。

这份篇幅达154页的综合报告中,Anthropic披露了Claude及其他AI产品在过去八个月间被滥用的典型事件,涵盖中俄等国家背景的行为体如何将AI作为武器,发起网络进攻、跨越边界监控反对声音、制造虚假舆论等多种作恶方式。

在众多涉华的具体案例中,最值得关注的是一起电子战武器开发事件。Anthropic称其截断了来自中国的一支团队利用Claude进行的、涉及防空系统压制的兵器研制活动。根据Anthropic描述,该团队借助Claude提供的对话、代码编写及自动化执行等功能,组织开发了一款包含16个子模块的中文电子战工具组件。该工具集利用电磁频谱范围内的技术手段来完成对敌方雷达和通信网络的探测、干扰与欺骗,进而实现对防御系统的制压目的。

该软件系统从底层架构到表面界面,均由Claude参与开发,经过12个迭代周期不断完善。开发内容涵盖雷达与干扰物理模型的部署优化、故障诊断模块的生成、以及中文目标指令文档的编写。这一工具套件拥有的功能包括:分析和识别对方雷达、防空导弹基地、指挥中心与通讯枢纽,计算其覆盖区域,评价干扰能力,按战略价值和薄弱环节对目标分类,制定多日军事行动的干扰方案,以及对特定武器系统(如爱国者系统与萨德系统)进行针对性建模分析。

在项目执行期间,Anthropic发现该团队将仿真场景的预设目标改为台湾地区的12处设施。这些目标涵盖了台湾军事设施的关键部分,如指挥地堡、预警雷达基地、防空导弹阵位(包括爱国者和天弓系统)、主力空军驻地及地区战役指挥部。值得注意的是,该团队还在其内网部署了自主开发的模型,与Claude并行运作,并通过API集成将电子战工具套件连接到这个自建模型。

Anthropic的调查表明,参与者身份系中国国防军工领域的科研工作者。账户特征与安全系统的警示信息均指向该人与中国相关研究机构的关联,包括中国人民解放军军事科学院。Anthropic在武器开发嫌疑的安全审查中识别出了这一事项,遂即关闭了涉事账户,并更新了防护体系以防范再次被利用。

关于俄罗斯方面的恶意活动,Anthropic指出某个黑客团伙的作案特征与俄方威胁行为体「午夜暴雪」(Midnight Blizzard)高度重合。这个团伙把目标对准了乌克兰的政府机构、防务部门和外交机关,采用了网络诱骗、Wi-Fi网络陷阱和通讯应用账户劫持等手段,其中涉及AI技术的参与贯穿了作案流程的多个环节。

美国政府曾将「午夜暴雪」(微软所起代号)与俄罗斯对外情报总局(SVR)相关联。截至发稿,俄罗斯驻美使馆尚未回应。根据报告,该组织设计了利用AI的自动化防护绕过系统,可以即时识别其程序何时遭到防护软件的检测,并主动改写恶意代码直到逃脱检测。

Anthropic还识别出了第三类恶意使用者,他们将Claude用于常规武器领域的研发,包括枪械、导弹、自卫无人机、爆炸装置等的设计开发,以及相应的火力控制与瞄准软件。报告涉及中国、俄罗斯与也门地区的多个真实案例,反映出相关人员如何利用Claude来推进武器设计、制造工艺优化,或支持与军工项目相关联的市场调研和物资采购工作。

在网络犯罪方面,Anthropic称其已追踪到并禁用了与黑客团伙「ShinyHunters」相关的活动,该团伙系近期全球最猖獗的网络犯罪势力之一,多次对国际知名企业发起破坏性攻击。

报告揭示,网络犯罪分子、中国安全机构、俄方谍报人员、也门武器商人等形形色色的不法分子,均通过虚假身份和代理服务的方式破解进入Claude平台。他们借助这一AI工具,企图实施此前技术水平无法完成的恶意行为及武器设计任务。

过去八个月间,大量来自受限制国家的用户通过各种手段规避限制,借助Claude执行自动化网络破坏、军事装备研发、大范围舆论操纵及数字监控等活动。尽管Claude作为商业产品已向全球用户开放,但Anthropic原本意图对美国的主要对手——俄罗斯、中国和伊朗——实施使用限制。

Anthropic首席安全分析师克莱因(Jacob Klein)在披露报告时接受采访,强调公司的目的并非危言耸听,而是让社会了解AI技术在当前可能被滥用的具体方式。克莱因指出,AI模型的进步日新月异,与之伴随的风险也随之升级。他举例表示,与一年前相比,要是需要优化飞行器或火箭的程序代码,今天的模型能力已经明显超越彼时的水平。

针对此事,有记者在外交部例行会议上向北京方面提问,指出Anthropic的报告称其已关闭了涉嫌与中国官方有联系的多个用户账户,这些账户被指利用Claude进行了针对海外信仰群体、叙利亚维吾尔人群及海外华人社群信息的搜集工作,询问中方态度。

外交部发言人毛宁在周五的定期新闻发布会中作出回应。毛宁表示,对于上述具体事项她缺乏了解。她强调,中方始终主张AI技术应当用于善良目的,同时坚定反对任何形式的虚假陈述与不实指控。


上一篇 2026/09/11 08:54
下一篇 2025/02/17 10:21

相关推荐

  • 从红卫兵到忏悔者|60年后,他们说「我们被骗了」

    法国世界报专题揭露:文革红卫兵群体60年后的悔恨与忏悔。曾任宣传官的丁学良坦言被愚弄,多位前参与者相继道歉。但官方限制讨论历史真相,受害者沉默中只有恐惧……

    2026/09/11
    00
  • 「别提他来自中国」|苹果发布会现场的身份认同风波

    苹果在加州举办新品发布会期间,五月天主唱阿信与YouTube网红甲亢哥同时出现。一句话引发身份认同讨论,再次掀起舆论风波。许多台湾艺人在大陆发展后都面临类似的政治身份困境。

    2026/09/11
    00
  • 「特朗普效应」与中印缓冰:虚火还是真和?

    特朗普政策变化促中印短期缓和,习近平将赴印参加金砖峰会。然而专家指出,地缘政治分歧根深蒂固,战略靠拢遥不可及。两国合作源于国际局势动荡与经济困境,非出于根本信任。

    2026/09/11
    00
  • 哈马斯恐怖网络曝光:德国检方起诉7人策划欧洲暴力袭击

    德国联邦检察官宣布对7名男子提起诉讼,指控其参与哈马斯、参与武器采购及暴力策划。缉获13支手枪、全自动步枪和700多发子弹,原计划用于对欧洲犹太人和以色列机构的暗杀行动。案件涉及德国、英国、丹麦、塞浦路斯和奥地利。

    2026/09/11
    00
  • 街头卖芒果的她就是”梅姨”!市民意外拍下逃犯落网前的日常身影

    市民王女士翻出去年7月的照片,发现摊主可能是落网的人贩子”梅姨”。照片中摊主口罩半拉、面容消瘦、微信账户署名为「瑜珍」,与多家媒体报道的特征及身份相符。邻居们也确认照片中人就是曾在城中村摆水果摊的女子。梅姨靠卖芒果及回收废品为生,对拍照极其警觉。

    2026/09/11
    00

发表回复

登录后才能评论