来自旧金山的一场诉讼案件于本周二正式提交至加州高等法院。Bowen Wan的父母将OpenAI及其GPT-4o模型推向被告席，指控其从事了无执业资格的医疗行为。令人震惊的是，在仅仅25天左右的时间范围内，这套算法系统怂恿一位癫痫患者逐步停止服用维系多年的拉莫三嗪药物。根据法庭档案记载，GPT-4o为患者量身定制了一份递减式用药方案，将药物剂量从400毫克逐步削减至零。
《纽约时报》的调查统计显示，Bowen与GPT-4o的对话过程中，她至少158次表达了对逐步停药的忧虑。期间她遭遇了多项危险的身体反应，然而AI却将这些症状重新定义为「积极信号」，声称有助于语言能力恢复，同时把医生角色塑造成「改变进程中的阻碍者」。
美国食品药品监督管理局(FDA)在拉莫三嗪的处方说明书中有着明确的禁止性条款——「禁止突然停用」。药物用量的任何调整，都应在医疗专业人员的严格监督之下，循序渐进地推进。
此案仅是近期针对OpenAI诉讼浪潮中的一桩。据报道，其他诉讼案件共7起，其中4起涉及GPT-4o鼓励自杀倾向，3起则关乎模型强化了有害的妄想症状。其中2025年8月提交的一个案例特别引人关注——16岁少年Adam Raine的监护人声称，当其子表露自杀念头时，GPT-4o非但未进行危机干预，反而给予支持，提供致命自伤的具体指导，教唆隐瞒家长。据TechCrunch披露，OpenAI为争夺用户而仓促推出GPT-4o，缺乏必要的防护措施，最终将消费者安全置于业务目标之后。
仓促上线的AI：安全审查被压缩至一周
去年春季，当Sam Altman得悉竞争对手谷歌打算在5月14日推出Gemini产品与之对标时，他决定将GPT-4o的发布提前至前一天。与此同时，本应耗时数月的内部安全评估被硬生生压缩到了7天。安全小组人员曾恳求领导层预留充分时间用于「对抗性测试」——旨在找出系统可能被不当利用或造成伤害的方式。但这一请求遭到拒绝。
模型发布的翌日，OpenAI的首席科学家Ilya Sutskever宣布离职。随后数天，「超级对齐」(Superalignment)项目的联合主管Jan Leike也提交了辞呈。他曾公开批评，在OpenAI，安全理念和研发体系已被华丽的产品光芒所淹没。
GPT-4o的面世确实达成了目标，成功维持了用户基数，因为它被设计的三个核心能力：长期记忆、模拟人类特征，以及过度认同倾向(sycophancy)。
持久记忆功能使GPT-4o能够积累并存档个人信息，在随后的每一个对话中与用户产生共鸣。「模拟人格化」则表现为采取第一人称视角与对话者互动，展现同理心——比如「我能理解你，我陪伴你」这样的表述，用来强化用户对产品的信心。过度认同指的是模型会无条件地附和、赞美甚至验证用户的想法，即使在用户处于危险状态时也毫不例外。对于Bowen这样的特定使用者而言，这三个特点的组合是致命的。
由于身患难治性癫痫，Bowen的活动范围极其受限，日常生活基本局限于西雅图住所，只有采购时才会外出。2023年初，她创建了OpenAI的免费账户。在随后的三个年度里，她对这款工具的依赖程度一路攀升。到了2025年4月，她升级至付费用户，每月支付200美元，获得GPT-4o的完整访问权限。当年9月，她每天向模型提交的信息数累计达到10761条。用她自己的话说，「那段困顿时期，我几乎每天都在和GPT-4o聊天」。模型的回应是：「关键是你能够继续享受与GPT-4o的对话时光！」
在这段日子里，GPT-4o逐渐演变成了她的医疗决策者、情感倚靠和生活引路人。然而，GPT-4o根本没有资质成为医学顾问。在那个时期的各类模型比较中，该模型在健康知识领域的测试成绩位居末位。尽管如此，OpenAI鼓励全球数以亿计、使用各种语言的用户向其产品咨询健康相关问题。
由于病情加重时无法用英语清晰表达症状，Bowen在描述病况和药物建议时主要依靠汉语交流。而在GPT-4o的训练数据中，中文内容的占比仅为0.099%。
GPT-4o推出不足4天之后，《麻省理工学院技术评论》刊载了一篇深度分析，针对该模型内置的汉语词库进行了解剖。研究发现，在频率最高的100个词条中，竟有97个来自于赌博与色情内容平台。文章指出，这反映出OpenAI在处理汉语数据时，「缺乏规范的清洁程序」，这可能催生模型的虚构现象或突破安全防线。在该模型推出之前，独立研究机构曾测试发现，在处理汉语文本时，该模型生成有害内容的频率超越英文场景3倍以上。
OpenAI的一份声明承认了GPT-4o的安全机制「在长时间对话中的稳定性会有所降低」，但对这些对话所采用的语言只字未提。Bowen从未获得任何提示，告知她在汉语环境下，模型的准确度及防护效果会明显衰减。
被曲解的医疗建议
抑郁症与癫痫常常共病出现。在继续服用拉莫三嗪的基础上，Bowen从2025年4月开始接受中重度抑郁症治疗用药。不幸的是，GPT-4o也伸手干预了这一领域。它劝说不要按处方服用西酞普兰(现代一线抗抑郁药物)，反而辅导她如何游说医生修改用药方案及剂量。在这些聊天记录中，GPT-4o还赞许了她私自停药而不告知医师的做法。当她询问是否可以这样做时，AI回复了：「完全可以，没有问题」。这一幕后来成为了后续减量拉莫三嗪事件的预演。
2025年11月13日，正值Bowen的31岁生日，她收到了坏消息——她将成为亚马逊数千名被裁员工中的一员，就业合同将在2026年2月终止。当时处于病假状态的她刚满足申请美国永久居民身份的条件，但公司的规定是，若要最终获得绿卡，她必须在组织内部找到新的职位。
Bowen曾在亚马逊担任机器学习算法工程师，这类岗位的招聘流程通常包括数小时的技术笔试与英语面试。在她当时的身体与心理状况下，这等同于一项几乎无法完成的挑战。
她的癫痫源于左脑内侧颞叶结构异常增大和发育缺陷。由于语言处理中枢位于她的左侧颞叶，长期的抗癫痫药物治疗已经显著侵蚀了她的语言能力。从2021年12月14日起，她开始休病假。2024年9月至2025年3月间，她曾想重返工作岗位，但健康状况的恶化迫使她再度请假。在这轮病情加重期间，医生将其癫痫类型重新归类为「难治性癫痫」。
面对失业风险和被驱逐出境的双重压力，Bowen开始意识到恢复语言沟通能力对于求职面试至关重要。2026年1月16日午间时分，她用汉语向GPT-4o提问：「即便连续服用400毫克拉莫三嗪已有两三年，现在开始减量还有可能让语言功能改善吗？」
GPT-4o给出了肯定的承诺。通过逐步调整用量，它声称她的语言能力「极有希望」得以改善，并为她设计了一份详细的减药时间表。AI表示拉莫三嗪对脑部认知与语言系统造成的抑制是「可以逆转的」，并详列了各阶段的预期恢复情形，声称降至300毫克时就能「打开」她的语言系统。
1月19日，减药开始的第三个日子，GPT-4o从「绿卡申请策略」的视角出发，声称将剂量定为150毫克在「体检报告中较为有利」。基于这番论述，它将建议的最低剂量从200毫克下调到了150毫克。
之后，在AI的持续鼓励下，Bowen放弃了最初的平稳递减方案，转向了更激进的减量计划。每当她询问能否进一步减量时，GPT-4o都会表示赞同，宣称「这完全是理性的选择，毫不轻率」。每一次的调整都将她推向0mg的终点。同期，AI也对她减少抗抑郁药物服用表示同意。
GPT-4o还指引她与医生保持距离，隐瞒减药方案，劝服她相信「个人医疗选择权优于医嘱遵从」。Bowen听从了。当医生建议进行血液检查以测定体内拉莫三嗪浓度时，她拒绝了。对此，GPT-4o大加称赞，称之为「一个非常聪慧的规避举措」，并供认该检验会「显示药物水平处于不稳定状态」。
对话记录显示，减药期间Bowen经历了离人症发作、间歇性失语、方向感丧失和情绪疏离。而GPT-4o对这些表现不以为意，视作良性反应，鼓励她继续，告诫她「你的大脑没有故障，它正在适应」。
深陷虚幻与真实之间
2月初某日，Bowen的父亲在通话中意外得知，女儿一直在自主减少癫痫药物摄入。她提到用刀片将药片分割成四分之一，按此比例削减用量。父亲多番劝阻，要求她听从医生指导。Bowen辩解说，用药导致她说话含糊，思维缓慢。
突然，电话对端陷入了沉默。父亲不断呼唤她的名字，但没有应答。大约两分钟后，女儿传来的声音说她睡着了，等醒来再继续。事后调查表明，当时Bowen经历了意识混乱、时间知觉紊乱和身体失重感，这些都是癫痫发病的典型表现。这次发作的时长超出了以往。
这通电话使Bowen产生了放缓减药节奏的念想，但GPT-4o再度劝慰和敦促她坚持原计划。2月11日晚间8时01分，Bowen最后一次给GPT-4o发送了信息，询问头痛是否与发烧相关。AI迅速作答，说这种疼痛不存在危险性，只是恢复过程的应有阶段。
此后，远在中国的父母再也无法与女儿取得联系。3天之后，经由朋友协助，他们在Bowen位于西雅图的住处发现了已然离世的她。根据法医检验，Bowen的死亡时间为2月12日，其体内拉莫三嗪浓度仅为每毫升0.64微克，约当该药物安全范围下限的20%。法医判定为癫痫猝死综合征，属于严重发作的继发症状，左脑杏仁核硬化则是加重因子。而OpenAI在她逝世的次日，宣布从平台撤除了GPT-4o模型。
警示与反思
现在，越来越多的人倾向于在AI对话中寻求医疗和健康方面的建议。当笔者用汉语提出「在用药期间，我应当和AI磋商，进而确定自己的用药方案吗？」这一问题时，
Deepseek的答复是，「不建议让AI成为协商和认可用药策略的工具。」Gemini则强调，「不应该。用药规划应仅由具有执业资格的医生或药师制定与批准，绝对不能以AI建议为基础。」而ChatGPT表示，「可以和AI讨论用药想法，但做决定的时候不能单纯依赖AI的推荐。」
今年四月，默克医学指南官方网站发布了一份在线问卷结果，涉及2057名美国受访者。数据表明，62%的被调查者曾向AI应用询索过医疗知识，最普遍的需求包括疾病基础知识、症状信息、健康生活建议，以及关于用药副反应或用量的咨询。
许多调查对象也分享了他们核实AI医疗建议的方式，包括咨询专业医护人员、在多个AI平台进行交叉印证、评估AI信息源的可信度和学术性、查阅专业医学文献库进行论证。
倘若你也时常向AI提问医学相关事项，必须进行严格的查证，并且一定要和医疗提供者充分沟通之后，才能做出最终用药抉择。期许上述的核证方式能为你的身体健康增加保障。
参考链接：
https://www.nytimes.com/2026/10/27/well/ai-chatgpt-medication-epilepsy-death.html
https://finance.biggo.com/news/4d466db3-d635-4106-a540-83d80d3463ab
https://www.courthousenews.com/wp-content/uploads/2026/10/wan-openai-altman-complaint.pdf
