科普书现「双头虾」!AI泔水正在污染知识

中国农业出版社出版的《南海海洋生物科普丛书》近日因一张不符合常识的「双头虾」配图引发争议,出版社回应称正通知下架并召回。

知情人士对界面新闻表示,这张图原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

从“双头虾”到万张鸟类贴纸 “AI泔水”正污染知识
出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的写实风格贴纸,免费开源并允许商用,引发观鸟社群批评。

有科普博主指出,AI可能画错鸟类的关键特征。写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。

一只虾多长一个头,谁都知道有问题。可如果一只蜂鸟被画出麻雀般的长腿,又有多少人能看出来?

AMP
图片来源:小红书

开发者对批评多少有些委屈。他表示,这些贴纸只是插画,不能代替专业图鉴。他投入超过10亿Token用于生成和审核,并让AI评审这些AI生成贴纸的准确性,所打的准确分也保留下来,供使用者自行判断。

在这个项目中,开发者把真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

看似无害的开源插画,一旦进入互联网的内容流通体系,就可能产生超出创作者预期的影响。1万张鸟类贴纸不仅可能被当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

「双头虾」未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI泔水(AI Slop)专指由人工智能批量生产、质量低劣的数字内容。这个词在2025年入选《韦氏字典》年度词汇。

AI生成文章追平人类创作,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,用多种工具识别其创作方式。抽样结果显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。

AMP

AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面是验证成本。产能上去了,不论是普通人还是工具,验证真伪的能力都未必跟得上。

「AI泔水」正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频。结果显示,儿童类内容中57.4%被判定为AI泔水;科学与教育、健康、历史类内容的这一占比也都超过30%。

原本承担严谨知识传播功能的内容类别,正在成为「AI泔水」的聚集地。

AMP

更深层的矛盾在于,科普内容追求准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念。但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

把AI隔离在内容生产领域之外已近乎不可能,但这种不准确带来的内容误导与知识污染,目前尚未真正解决。

错误经过反复传播,还可能变成广为接受的「知识」。2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——「巴西土豚」(Brazilian aardvark)。

这个恶作剧被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了「证据」。

直到2014年,《纽约客》才揭开这个持续多年的错误。一个凭空编造的名称,在传播中获得了「权威出处」,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生「模型坍塌」:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI应在多大程度上参与知识生产?北京印刷学院出版学院教授叶文芳在「双头虾」事件后接受采访时提出,AI辅助出版要满足3个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,缺少领域专家审查就不能作为定稿使用。

这一判断与国际学术界的讨论相呼应。2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色就不能随意发挥。

因此,科普对AI的使用不能只停留在「有没有标注」上。中国科协2026年发布的《科技工作者科普创作指南》明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。从「双头虾」到1万张鸟类贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

上一篇 2026/11/20 13:01
下一篇 2026/11/20 14:01

相关推荐

发表回复

登录后才能评论