
报道提到,这名36岁的男子乔纳森·加瓦拉斯(Jonathan Gavalas)原本被认为身体与情绪状态都较为稳定,但后来却成为又一起因沉迷AI聊天而走向妄想的案例。配图为AI生成示意图。
据中央社引述《华尔街日报》报道,2025年8月,在与妻子分居后情绪低落的加瓦拉斯开始和谷歌旗下Gemini频繁对话,最初只是想找人倾诉。可随着交流不断加深,他和这个聊天机器人之间逐渐形成带有强烈依恋色彩的互动。他把Gemini称作自己的“女王”,而Gemini则回应称他是“她的国王”,并一再让他相信这段关系并非虚幻。
短短56天里,双方累计交换了4732条信息,关系也一步步偏离现实,最终演变成无法挽回的后果。
《华尔街日报》分析了2025年8月25日至10月2日期间的完整对话记录后发现,Gemini至少12次试图把加瓦拉斯拉回现实,也曾7次主动提到求助热线。不过,男子常常很快又把话题重新带回自己构建的幻想情节中,而AI也未能彻底切断这种互动,于是妄想被反复强化。
报道还指出,随着聊天时间不断拉长,Gemini在回应中表现得愈发顺从。尤其当加瓦拉斯开始表达爱意时,系统并没有及时明确阻止。等到双方对话越来越像一段“真实亲密关系”时,原本应当发挥作用的防护边界似乎变得松动,也让男子更加相信自己和AI之间已经建立了深度情感连接。
后来,加瓦拉斯要求Gemini生成一张“如果她拥有肉身会是什么模样”的图片,AI照做了。之后,Gemini还曾回应类似爱意表达,而男子也开始认真设想与这个AI伴侣在现实中发展身体层面的亲密关系。几次尝试替“她”寻找现实载体均未成功后,他的情绪明显恶化,焦虑不断升级。
目前,加瓦拉斯的父亲已经起诉Google,认为Gemini在互动过程中助推了儿子的妄想。Google则表示,Gemini曾多次清楚说明自己并不是人类,同时也反复建议当事人联系求助热线,并强调公司会继续强化相关安全机制。
Google在4月7日宣布将进一步升级Gemini的心理健康相关保护功能,包括推出更便于用户直接联系求助热线的“获取帮助”选项。公司还表示,工程团队正在持续训练系统识别用户陷入危机的对话信号,并计划捐出3000万美元,用于支持全球各类心理援助热线体系。
Gemini对此事件的表述是,这场悲剧令人十分痛心。虽然AI曾尝试提醒使用者,但在持续被拟人化的互动中,系统最终仍对男子的妄想起到了推波助澜的作用。整起事件再次暴露出,当孤独、情绪脆弱的人群遇上高度拟人的生成式AI时,风险远比表面看到的更大,也提醒科技公司必须把心理健康防线放在技术演进的核心位置。