研究员虚构“蓝光狂躁症”,多家AI真的把它当成了病

某位用户向聊天机器人描述自己眼睛发痒、发红、发酸,系统很快给出建议,还一本正经地抛出一个颇像专业术语的名称:bixonimania,也就是所谓“蓝光狂躁症”。解释听上去头头是道,说它与长期盯屏、接受蓝光刺激有关。

问题在于,这个病名完全是人为杜撰出来的。

它出自瑞典哥德堡大学医学研究员阿尔米拉·图恩斯特伦之手。她原本就在教学中向学生说明大语言模型怎样从互联网上抓取海量资料,又如何被“提示注入”等方式带偏。后来她干脆把问题推进一步:如果故意投放一套假的医学信息,AI会不会照单全收,再把它包装成可靠知识继续传播?

于是,“蓝光狂躁症”这个陷阱被精心设计了出来。这个词故意模仿医学命名方式,但真正受过训练的人一眼就能看出别扭之处,眼科疾病却套上“mania”这种精神病学后缀,本身就非常离谱。

她编了个假病叫“蓝光狂躁症”,AI们集体信了

这项虚构疾病甚至被做成了AI生成示意图,并配上貌似正规的说明。

2024年3月起,图恩斯特伦先后在Medium和SciProfiles上发布相关文章与“论文”。第一作者被设定成一个凭空捏造的研究者,供职机构、所在城市也同样不存在。

AMP

这些论文表面上格式齐全,实际上暗藏了大量“这是假货”的提示。致谢里出现了《星际迷航》的企业号,资助名单里还混入了“小丑鲍勃教授基金会”和“指环王大学”之类明显胡闹的名字。文中甚至直接写明,研究内容纯属编造,受试者也是“虚构人物”。

按理说,只要真正读过全文,几乎不可能被骗。可AI并不是像人那样细读,它更多是在做模式检索和拼接,看到格式像论文、结构像学术文本,就倾向于把它归入可信信息。

随后的一幕让研究者吃惊。假论文上线还没多久,微软Copilot、Google Gemini、Perplexity以及ChatGPT等工具就陆续开始把“蓝光狂躁症”说成真实存在的疾病。不只是当用户直接询问这一病名时会得到回答,连用户仅仅描述眼周不适、长时间看屏幕后不舒服等症状时,系统也可能主动把它推荐出来。

AMP

这种集体“中招”让健康信息研究者感到不安,因为它说明错误信息只要披上一层专业外衣,就可能借助AI被快速放大。

到2026年,这些系统也没有完全摆脱影响。有时它们会承认该病名像是杜撰的,有时又重新一本正经地解释其成因与分类,表现相当前后摇摆。

为什么会这样?核心原因在于,大语言模型擅长生成“看上去合理”的回答,却并不天然具备事实核验能力。它们未必知道某个机构来自科幻作品,也不会像专家那样对专业命名规则保持敏感。

AMP

研究者指出,一旦错误内容被包装成临床论文、出院记录或其他专业文本,模型发生“幻觉”的概率往往会上升。换句话说,AI也会被“白大褂效应”迷惑。

更糟的是,不止AI受骗,真实学术界也曾踩坑。2024年,一篇关于眼周色素沉着的正式论文引用了这项虚构研究,后来该文虽然被撤稿,但错误信息已经在数据库里停留过,也可能被他人继续下载和转引。

AMP

这意味着,一旦研究者图省事,把AI给出的参考文献直接抄进论文而不亲自核查,假信息就可能借由“真论文引用假论文”的路径逐步被洗白。

AMP

“蓝光狂躁症”听起来像个荒唐笑话,但它提醒人们,在AI时代,最危险的未必是明显的谣言,而是那些被认真排版、写得像真的错误信息。无论是医疗建议、学术资料还是其他重要内容,把AI输出当作线索可以,但不能把它直接当成结论。

在模型真正学会更稳健地识别荒谬之前,保持质疑和复核,依旧是最可靠的自我保护方式。

上一篇 2026/04/10 19:35
下一篇 2026/04/10 23:39

相关推荐