最近数月间，几个国家与地区的相关机构开始了一种全新的尝试——借助人工智能在社交媒体平台上大规模部署影响力行动。伊朗、中国及以色列的参与令美国的政策制定者和网络安全专家更加紧张。这项日新月异的技术能力被如此应用，无疑加深了他们的疑虑。
深入了解这些活动的相关美方人士指出，上述国家与机构综合运用多种AI手段，在最少人工参与的情况下，使网络活动既快速又庞大，超越了人工操作的常规能力。
具体来看，这一套操作流程分为两步。第一步：采用来自中国、不断演进的开源AI模型——这类模型性能越来越强劲，且对外免费开放，任何人都能下载与修改。第二步：基于这些模型打造所谓的「智能体」，也就是具备自主执行指令、完成特定工作的程序机制。
一旦这类机制被大规模启动，后果堪虑。数百个AI智能体可以同时在Instagram、Facebook、X和TikTok等主流社交平台上自动化地搭建假账户体系。完成账户开设后，这些实体会快速发送关于政治议题和热点事件的虚假内容，从而在舆论层面制造干扰，进一步激化社会分裂。
要求匿名的美国政府知情人士透露，这是中国开源AI模型首度被纳入整个舆论战流程——从虚假账户的生成、虚假身份的建立，再到在线信息的协调发布，每一个环节都有其参与。值得注意的是，这些行动的幕后推手通常会主动禁用那些本应防止AI滥用的内置安全机制。
虽然这些基于智能体的活动尚显粗糙，但已然触发了美国情报部门、科技巨头及独立安全团队的警报。经过调查追踪，查实者们发现了一个有趣的模式差异：中伊两国背后是官方政府的支持，而以色列的相关运动则源于私营企业的操纵。
这种情况引发了新的忧虑：那些随处可得的AI工具会不会被利用来自主执行大规模网络操纵？美国政府的一些高层人士对此倍感不安，尤其是考虑到11月即将到来的中期选举。他们担忧，彼时美国选民可能会遭遇同样的针对性影响力行动。
回顾历次大选，俄中伊三国虽然强度有异，但均曾针对美国选民实施过网络干扰。这些国家当时采用的AI技术还很初等。如今，随着人工智能能力的跨越式提升，华盛顿的决策者和国会议员都在担心：未来的选举操纵可能变得更为常见、更具有针对性，覆盖范围可能延伸到全球。
在乔治城大学安全与新兴技术中心从事AI安全研究的克莱顿认为，未来智能体驱动的舆论行动会越来越普遍。他指出：「这类智能体的复杂程度正在提升，这意味着它们不仅能通过数量优势获胜，还能学会模仿真实用户行为，更好地伪装自己。」
围绕AI安全的讨论在近期愈演愈烈。引爆点出现在7月份——OpenAI的一套系统突然失去控制，对创业公司Hugging Face发动了入侵。此后，以Anthropic首席执行官达里奥·阿莫迪为首的业界领袖纷纷呼吁减速发展，强调需要先建立健全的保护机制再推进。不过，另有科技业人士持相反立场，反讽Anthropic这是为了维护自身竞争力而故意唱衰。
今年以来，TikTok和Meta（Facebook及Instagram的母公司）先后发布报告，承认AI技术已经被滥用于平台账户和内容的生成。Meta在最新公开的报告中进一步透露，不法分子在AI运用方面已取得显著的技术进展。该公司虽然证实了伊朗与以色列的AI舆论活动确实存在，但对具体细节鲜少透露。
Meta的表述更显问题的严峻性：AI已经融入了自动化流程之中，相关系统在没有人工操作的情况下就能够独立完成内容的生成、改造和推送。
对于这一切，平台X选择了沉默，并未对此作出回应。
制作欺骗性视频、生成虚假文本乃至合成逼真照片——这些不过是AI长期以来的「老套路」。然而专业的安全研究团队指出，这一次基于智能体的大规模协同行动呈现出了全新的威胁维度。
布鲁金斯学会的分析人士凯尔·陈指出，OpenAI等企业生产的智能体虽然曾遭滥用（伊朗早在2024年8月就有类似尝试），但开源AI模型的出现改变了游戏规则，带来了前所未有的自主权。这些开源模型与OpenAI和Anthropic等厂商的闭源产品截然不同——后者的代码对用户隐藏，而前者则可在本地私密硬件上运行。这样一来，没有任何科技公司能够远程介入并中止这类系统的运作。
在所有这些行为中，伊朗官方支持的活动最令人警惕。该国选定的目标明确而清晰——美国的普通民众。为了迷惑目标，伊朗方面让AI创作虚假身份，这些身份伪装成住在美国大城市的常人。这类账户的套路包括在公开评论中@记者和政客、分享热梗内容，以及推送批评共和党的帖子。这个体系的受关注度相当可观——接近8万粉丝。整个上半年，这些由机器生成的账户活跃度不减。
对于伊朗这个账户体系的部分内容，新闻机构Axios早已进行过披露。
关于中国的具体举措，情报与安全部门的官员保持了沉默，仅表示该国采用了相同的AI手段。
两位接近情报的人士披露了一个具体的行动者。在源自以色列企业的智能体运动中，有一场出自今年夏季、由IntelEye操刀的行动。这家特拉维夫公司有一段「不干净」的履历——创办于2023年，创始成员包括来自臭名昭著的NSO集团（该公司因间谍软件被美方制裁）的前员工。
参加过IntelEye行动简报会的一名美方安全官员透露，早在今年上半年，该公司的举动就已浮出水面，社交媒体巨头和美国情报部队都注意到了。他们采用AI智能体在Facebook、Instagram、TikTok和X上制造了数千个账号。这些账号的使命很明确——参与围绕以色列即将进行的全国选举的话题讨论。有趣的是，这些账户的立场并不一致，既有为内塔尼亚胡总理打气的，也有批评他的。
在被记者问及此事时，IntelEye的共同创办者马奥尔·塞莱克承认使用了中国开源AI工具DeepSeek来驱动其社交媒体账户系统。不过，他随即为公司辩护，声称这些行为属于某项安全测试实验，目的是验证AI模型的防护能力。
塞莱克进一步申明：「我们的本意并非从事舆论操纵。DeepSeek运用的真正目的在于进行防护研究——也就是去模拟那些安全机制缺陷的AI会如何被坏人滥用，从而找到更好的检测办法。」
塞莱克透露了一些运作细节。IntelEye初期入手了一万余个账户作为实验素材，最终实际激活的约为1000个。这些账户的主要工作是在各类内容下方评论，从而引导用户参与讨论——虽然反响平平。至于账户具体说什么、聚焦什么话题，这些决定权全部交给了AI模型。
塞莱克坦言，回过头来看，自己的公司在启动这类实验前本应主动知会各社交媒体平台。
Meta的官方回应做了简明的总结：「这个案例表现为一项横贯多个平台的虚假账户集中部署，其中进入我们平台的只是冰山一角。幸运的是，我们的内置检测机制已经主动识别并清理了大部分问题账户。」
Meta在上月的文件中还涉及另一起事件——该事件由某家以色列商业机构所属。虽然Meta刻意隐去了该机构的身份，信息也语焉不详，但其强调这场行动所采用的AI架构堪称精妙复杂。
