据Anthropic最近披露，多起试图借助其顶级AI模型参与生物武器相关研究的企图已被成功制止，这类事件在本年度发生了多次。
在该公司发布的AI模型滥用监测报告中，Anthropic指出了一个现实的两难之处：正当的生物学研究与危险病原体的研发在技术层面往往难以区分。正是因为制造疫苗的方法与制造生物武器的手段在某种程度上是相通的，所以很难判断这些请求的真实意图。基于这一认识，该公司采取了保守策略，因为一旦失手放过真正的威胁，后果不堪设想。
「漫画里才会有人坦然说’我想制造生物武器杀死所有人’这样的话，」Anthropic的威胁情报负责人雅各布·克莱因在接受采访时指出，「现实中的情况要微妙得多。」
新型AI技术最令人警觉的风险之一，在于它可能被用来加快既有或全新生物病原体的研发进程。这种技术的演进速度之快，连开创者本身也对人类是否能够有效驾驭它产生了疑虑。
在众多AI相关风险中，生物滥用问题获得的关注度相对不足，其原因在于历来的相关事件多局限于学术环境，尚未在实际应用中造成影响，远不如网络安全威胁或失控AI系统那样引人瞩目。
战略风险委员会高级研究员安德鲁·韦伯在报告发布前进行了审阅。他用「令人寒栗」来形容这份发现：有政府支持的生物武器项目正在利用先进AI工具的强大能力加快项目进展。
Anthropic于周四公布了一份详尽的分析报告，梳理了过去八个月内Claude对话机器人遭遇的多个滥用事件。
其中某些案例与Anthropic及其他AI实验室之前的披露相似，涉及与中国和伊朗政府有关联的势力针对异议人士和海外侨民展开的情报收集活动。
报告同样提及，俄罗斯官方媒体曾利用Claude生成虚假的独立新闻报道，其中包括关于摩尔多瓦大选的不实内容。
该公司还发现了一类被认为全新的滥用现象：利用Claude协助设计常规武器的技术方案，涵盖小口径枪支、导弹、无人战斗平台以及爆炸装置等领域。根据报告，中国境内发现了3起，俄罗斯境内2起，也门地区1起相关案例。
虽然报告未明确指出也门事件的参与方身份，但根据上下文不难推断应系伊朗扶持的胡塞组织。恐怖势力对AI技术的利用日益引发美国安全部门的关注。
然而，在所有这些滥用类型中，生物领域的威胁显得最为令人不安。Anthropic并未公开被阻止的研究人员的身份、所属机构或国籍，也未透露涉及的具体生物制剂，这主要源于该公司对其目的缺乏完全确定。
尽管如此，这些人员的行为仍然暴露了问题：他们采用各种手段规避地区限制，并有意隐瞒真实的研究目标来躲避安全检查。Anthropic已对相关账户实施了禁用措施。
本年5月的一起案例充分说明了问题的严重性。某科研工作者向Claude提出请求，寻求帮助撰写资金申请书，声称用于支持基孔肯雅病毒的相关研究。基孔肯雅病是经由蚊虫传播的传染病，患者可能在数月内遭受严重疼痛。在学术范畴，这类研究属于功能获得性研究——这种研究既可能为疫苗开发做出贡献，也可能导向病原体的强化。在该案例中，这位科学家的实际目标是改造病毒株，使其在反复感染活体动物后变得更具致命力。
Anthropic认为这项研究值得关注，其中一个关键线索在于它识别出该工作计划在某个军事研究机构实施。
「这项研究是否具有武器化意图，我们并无最终判定，」克莱因说道，「但是军事机构推进功能获得性研究本身就构成了令人警觉的信号。」
该公司回顾了对前代模型的测试情况，结论是那些模型当时还不足以为危险的生物研究提供实质帮助。然而，最新一代模型在应对复杂科研任务方面的显著进步，促使Anthropic必须强化其防护机制，对可能涉及两用途生物研究的提问设置了更多限制。
微生物学和公共卫生领域专家苏珊·莫纳雷斯曾在前任政府任职期间参与生物防护政策的制定，她在审阅该报告后表示，它提供了坚实的现实支撑，验证了一项早已存在的疑虑：不法分子正在秘密征用AI的力量，企图增强其「开发足以造成大规模伤害的生物病原体的可能性」。
莫纳雷斯曾在去年短期担任美国疾病控制和预防中心主任，她认为AI技术承载着改革医学、拯救生命的巨大潜力。但问题的另一面在于，那些使医学突破成为可能的能力同样可被滥用——「不法分子可以伪装成正当研究者，在光天化日之下制造出我们完全预想不到、一旦现世就无法控制的病原体」。
韦伯曾在前任政府担任负责核、生化防卫事务的助理国防部长。他呼吁应该对具备高阶生物研究能力的AI工具进行严格的可信度审查，以确保只有可靠的学术工作者才能使用此类工具。
「俄罗斯、中国和朝鲜持续开发国际条约禁止的生物武器项目，这使我们有责任确保它们的研究人员无法接触到这些极具能力的AI模型，」他强调说。
