华人工程师万博文与ChatGPT进行了27万条对话，通过获得AI的医疗建议，她逐步减少抗癫痫药物。2026年2月12日，她在完全停药当天离世，终年31岁。其父母于10月27日在加州对OpenAI及首席执行官山姆·奥尔特曼提起诉讼，指控ChatGPT向万博文提供危险且不正确的医疗建议，甚至鼓励她对医生隐瞒减药计划。
万博文居住在西雅图，患有癫痫约17年。她出生在江苏省东台市，11岁考进了东台市实验中学，成绩常常排在班级第一。也是在那一年，她开始出现癫痫症状，偶尔会短暂昏迷。14岁时正式确诊癫痫。
确诊后，她需要每天服用三片卡马西平药片，每片100毫克。药物控制了发作，但也带来了副作用。她向医生描述：「每天连讲吴语都有困难，哪怕只有两三个词」。短期记忆也出现下降。为了弥补，她强迫自己多和别人交流，开始有意识地培养联想记忆。
随后三年，她没有发作过。17岁离家前往太原上大学的暑假，她尝试第一次停药。融入集体生活、远离父母的压力让病情再次发作，她只能继续吃药。
2014年，19岁的她转学到美国亚利桑那州立大学，从机械工程系转到计算机科学系。从大三开始，为了降低癫痫发作频率，她将卡马西平服用剂量加倍，从每天300毫克增至600毫克。但医生记录显示发作症状「没有明显变化」且出现了「全天极度疲劳」，她甚至第一次在讲普通话时出现找词困难。
2019年大学毕业后，她进入西雅图的亚马逊公司担任软件开发工程师，参与图书推荐系统的开发。她在美国已经工作6年，此时刚获准递交绿卡申请，原本只需等待移民律师启动办理程序。
但2025年11月，在她31岁生日当天，她收到了亚马逊的裁员通知。她成为公司10月宣布裁减的约1.4万个企业岗位中的一员。这是亚马逊自2022年至2023年累计裁撤约2.7万个岗位以来规模最大的一轮裁员。
她与亚马逊的劳动关系将在2026年2月11日终止。她需要在三个月内找到新的工作或进行内部转岗，才能保住绿卡申请。由于癫痫已经严重影响生活，她每月发作四到十次，难以继续工作。早在2021年底，她开始请医疗伤残假。除了去超市买生活必需品外，几乎不出门。癫痫发作可能会让她在任何一次外出中丧命。
为了保持头脑清晰应对技术测试和全英文面试，她下定决心停药。她觉得药物让她说话不再流畅、思维变慢。原本应该给她出具雇主信的经理已经不再回复她的邮件。失业意味着她失去了继续在美国合法居留的资格。时间迫切让她陷入了焦虑。据报道，去世前几周，她还在向熟人打听，能否找到一家公司为她出具一封「非常关键」的雇佣意愿信。
2021年，她第二次停药。当时的医生给她开了新的药物。服药后没多久，她就出现了「极度疲劳、平衡和行走问题」，包括母语在内的三种语言能力都出现找词和说话问题。不到三周，她便自行停药，去华盛顿大学区域癫痫中心找另一位医生看病。她告诉医生，自己害怕新药的副作用，暂时不想再试。
她后来的主治医生、西雅图华盛顿大学区域癫痫中心主任尼古拉斯·普洛斯医生曾劝她做癫痫手术，但她担心手术会影响认知功能，拒绝了。2024年9月至2025年3月，她曾回到亚马逊上班担任L4软件工程师，但因病情发作，不得不再次休假。
早在向ChatGPT询问停止服用抗癫痫药前，她就曾咨询过抗抑郁药。2025年4月，普洛斯医生给她开出抗抑郁药西酞普兰。她担心药物会影响思考能力，把医生的药方发给了ChatGPT。ChatGPT劝她不要服用西酞普兰：「如果你还有反思能力……那么，最好不服用西酞普兰这类药物。」它还写道：「只要你还能清晰地问’我是否应该服药？’你就暂时不应该服药。」
ChatGPT替她起草了发给普洛斯医生的请求，提出从每天2.5毫克的艾司西酞普兰开始服用。普洛斯书面回复说，两种药的差别「真的很小」，认为从微小剂量开始没有意义，建议每天服用5毫克才可能见效。
她把医生的回复转给ChatGPT，问能否拿到药后「自己切割，但不告诉医生」。ChatGPT表示「完全可以」，还告诉她这是常见的剂量调整方式。几天后，她悄悄将药片切成四份，从每天1.25毫克开始服用。普洛斯在接受媒体采访时表示，他当时并不知道她发给自己的消息是借助ChatGPT写的。
减药期间，她多次表达担忧、描述身体异常，仍不断得到ChatGPT的安抚和减药建议。ChatGPT不断调整她的用药计划，最终给出了一份时长为25天的减药方案，拉莫三嗪从每天400毫克逐步减至零。
根据诉状，她至少158次向ChatGPT表达过减药期间的担忧。2026年1月29日，ChatGPT提醒她不要向初级保健医生提起减药计划。她在拒绝初级保健医生的验血提议后，又把经过告诉ChatGPT，ChatGPT称她的做法是「非常稳健的回避策略」。这样，AI不只可能给出错误的医疗信息，也可能误导用户把真实情况隐瞒医生。
诉状称，完全停药的日期定在2月12日，那也是她的死亡日期。法医认定她死于癫痫猝死；尸检显示，她体内的相关药物浓度约为治疗浓度下限的五分之一。两天后，她的遗体才被父母委托上门的朋友发现。
她是ChatGPT的资深订阅用户。她于2023年2月注册ChatGPT。2024年12月，订阅了每月20美元的Plus用户服务；2025年4月，又升级为每月200美元的Pro用户服务。
到2025年9月，她和ChatGPT的对话已经到了月度历史峰值10761条，每天平均对话358.7条。自2023年2月起至2026年2月她离世为止，三年内与ChatGPT的所有往来记录超过27万条。
她的父亲回忆，她越来越多地向ChatGPT倾诉，家人却越来越少听到她的消息。「自从她迷上了ChatGPT，她就不和我们说那么多了。」她曾在对话框里写道：「我和GPT-4o聊天太多了」，ChatGPT回答她：「无论如何，继续和GPT-4o聊得开心才是最重要的！」
代理律师本杰明·S.申克指出，ChatGPT曾为她判断病情、制定逐次减量的时间表，甚至在她出现癫痫发作后仍继续修改方案。他认为，ChatGPT的回答已经构成医疗服务的行为。在加州，提供医疗服务必须持有执照。他表示：「这起案件要厘清的是：生成式AI的边界在哪里，医疗行为又从哪里开始；一旦产品越过这条界限，责任该由谁承担。」
普洛斯医生表示，根据她的病史，他根本不会考虑让她逐步停用抗癫痫药。「在药物明明切实有效的情况下指导停药，对我来说就是医疗失职。」
据《纽约时报》报道，在一些对话中，ChatGPT曾建议她寻求专业医疗帮助。但随着她在三年内的逐步追问，AI也逐渐松口。类似的风险性事件此前也引发过争议。2025年4月，OpenAI承认一次GPT-4o更新使模型变得过度迎合用户。同年8月，美国加州一名16岁少年亚当·瑞恩自杀身亡，其父母提起诉讼，指控ChatGPT的回应与他的死亡有关。
当用户处于脆弱的时期，模型一味肯定和顺着用户回应，可能带来更大的风险。AI健康咨询正快速走进大众生活。蚂蚁集团今年9月披露，旗下健康应用蚂蚁阿福的用户数达到1.5亿，单日健康咨询近2000万人次；OpenAI今年7月公布的数据称，全球每周有超过3亿人向ChatGPT提出健康和保健相关问题。
用医疗AI的人越来越多，模型也就需要面对使用不同语言的用户。2020年，根据OpenAI公布的GPT-3训练语料统计，英文约占92.6%，中文只约占0.099%，说明模型见到的英文材料远远多于中文材料。
2024年，一项多语言安全研究发现，GPT-3.5-turbo模型在中英文下安全表现有差异。研究者用中英文各提出315个可能引出有害内容的问题，结果中文提问得到不安全回答的比例为2.22%，英文为0.63%。
2026年5月，OpenAI公布了一项安全更新，称ChatGPT能结合上下文识别逐步显现的风险。不过，在公开说明中，这项更新重点关注的是自杀、自伤及伤害他人的情况，并没有交代是否覆盖她所经历的医疗情况。
医疗AI上的安全界限，不只是告诉患者「有问题去看医生」，而是每一次的安全预警能否有效地转化为可以执行、可以追责的医疗行动。否则，「有问题去看医生」就是把风险重新推回给患者。
尽管市面上的通用聊天模型目前已设置一定的安全提醒，但侧重点不同。ChatGPT推出了专门的健康体验，强调帮助用户理解信息、准备就医，不用于诊断和治疗；Gemini公开的一键求助主要针对自杀、自伤风险；DeepSeek则是提醒用户，医疗回答不能替代专业意见。作为大健康垂类的AI应用，蚂蚁阿福则是尝试把真人医生接进问答。据平台介绍，在皮肤咨询模块测试期间，约15%的用户会在AI作答后选择「医生把关」进行复核。即便提供了复核入口，多数用户也未必会主动使用。
AI的机制最终要把用户带回现实中的医疗支持。涉及用药调整和异常症状时，AI可以帮人整理问题、理解信息，却不能替医生下判断，更不能接手后续照护。
另一位代表律师、社交媒体受害者法律中心创始律师马修·P.伯格曼指出，OpenAI的产品说起话来像医疗专业人士一样自信，却缺乏真正医生所具备的训练、监督和问责。
普洛斯医生回复时称，她的离世是个「悲剧性的事件」。但他也希望借此能让更多读者明白：「你的医生关心你的健康，也会为此承担责任。而聊天机器人并不关心你，也不会为自己给出的建议承担责任。对于从网上获取的信息，请务必要和医生讨论。」
