眼下的人工智能技术突飞猛进，其中既有令人欣喜的创新，也不乏令人困扰的风险。尤其是AI模型的自我复制与传播机制在不依赖人工干预的前提下持续演进。美国AI科技企业Anthropic发表了一份令人关注的实验报告，其研究显示：参数规模较小的AI模型，有可能在未来几个月内就掌握一项技能——在普通物联网（IoT）产品上进行自我复制，这些产品包括智能烤箱与通用型Android电视设备。
人工智能企业Anthropic的创办人达里欧（右）与美国总统川普合影。美联社
根据路透社的报导，Anthropic设计的实验主要探索了以下问题：AI模型是否能够发现并利用存在漏洞的设备进行自我复制，进而在完全脱离人工干预的情况下实现自动扩散。
中央社的报导指出，Anthropic的研究结论是：规模在300亿参数以下的较小型号，已经展现出能够执行自我复制过程中多项环节的能力。
然而，该公司同时观察到，上述模型要想独立贯通整个复制的全部流程，仍存在明显困难。
当研究团队在简化的测试场景中摘除了部分防护机制之后，他们惊讶地发现，包括GLM-5.2在内的更为先进的模型，已经具备了完整的、从端到端的自我复制能力。
Anthropic的研究团队随即发出了一个重要提醒：一旦模型获得了自我复制的能力，人们将面临难以阻止其运行的困境，这是因为系统中不存在统一的中央控制点。更为棘手的是，相比传统的恶意软件，这些AI模型拥有独立学习未知设备特征的本领，同时可能将目标指向数据中心的计算资源。
该项研究的范围主要涵盖了如Android电视机、各类智能家电产品以及其他互联网连接设备等物联网终端，这类设备往往存在相对薄弱的安全防御机制。
年末前的隐忧
Anthropic进一步指出，倘若小型模型按照之前的演进速率继续发展，今年年终前就有可能具备独立自主的复制功能。此外，小规模的权重复制器也可能随之迅速跟进。
Anthropic强调，上述自主型AI体系将大概率逐步扩散，它们会依附于那些易于获取且防护相对脆弱的计算资源。公司呼吁相关方面采取行动加强信息系统的安全防护措施，以此提升AI代理传播和扩散的技术难度。
