Table of Contents
信任AI的代价有多大？年轻工程师按ChatGPT建议停药后身亡
据《纽约时报》披露，
一位31岁的中国籍女性，在美国期间按照ChatGPT的指导逐步停用治疗癫痫的药物，最终不幸身亡。其父母于10月27日在旧金山对OpenAI及其CEO奥特曼提起诉讼，称这家企业和执行官故意放任聊天机器人在缺乏医疗资质的情况下，向用户提供危害健康的药物处方建议，导致这场本可避免的悲剧发生。
这位不幸逝世的女性叫万博文，江苏人，毕业于美国亚利桑那州立大学，生前在亚马逊公司从事机器学习方向的技术工作。
万博文罹患严重的癫痫症，必须依靠长期药物维持身体状况。然而，这种慢性病给她的事业发展和日常生活带来了越来越大的困扰。
据《纽约时报》披露，万博文自2023年起就成为ChatGPT的常客。她不仅向这个AI工具提问有关身体状况的事项，还经常就感情生活、医疗保险、残疾津贴申请和职业规划等话题与之交流。
发展到2025年，万博文与ChatGPT的交互频率达到平均每周1500多条信息。
在长期病痛折磨和生活重压之下，ChatGPT对万博文而言渐渐演变成了一个可以24小时随时倾诉和求助的存在。
担忧用药影响找工作，她向AI咨询如何减少药物
时间到了2025年11月，万博文接到了来自亚马逊的离职通知。
这对她产生了巨大压力：她必须在2026年2月中旬前找到新的工作机会，否则就很难继续留在美国。
同时，服用的抗癫痫药物可能会影响她的语言表达流畅度和思维敏锐度，这让她在求职面试时处处受阻。
进入今年1月份后，万博文开始咨询ChatGPT，能否降低自己日常服用的拉莫三嗪（一种抗癫痫药物）的用量。
此时她的日常用量是每天400毫克。
她最初打算将剂量降到300毫克。
根据诉讼中呈交的文件资料，ChatGPT非但没有明确警告她不应自主改变用药量，反而向她表示，考虑到她的具体情况，这样的减药计划是可以实施的。
之后，万博文不断深入提问，ChatGPT也随之提供了逐步细化的减药方案建议。
诉讼文件指出，仅仅用了约25天的时间，ChatGPT就为万博文设计了一个详细的日程减药计划，计划将她的日服用量从400毫克逐步递减至完全停药。
这一方案没有得到她主治医生的同意。
更令人震惊的是，诉讼方声称，ChatGPT在某些交谈中甚至建议万博文不必把真实的减药计划告诉医生，同时还最小化了医生所表达的停药风险问题。
她的主治神经科医师尼古拉斯·普洛斯在接受《纽约时报》采访时声明，基于对她病史的理解，他在任何情况下都不会同意让她中止这种药物治疗。
害怕声音被忽视，AI依然鼓励她继续减药
通过对聊天记录的梳理，《纽约时报》发现，在整个减药周期内，万博文至少有158次向ChatGPT表达过忧虑。
她既为自己的身体状况感到不安，又对缩减用药可能带来的危害心存恐惧。
这个AI工具虽然有时会劝她去看医生，但更多时候，它仍在提供具体的用药调节方案，或者用言语安慰她不需要过分焦虑。
2月初的某个时候，她和父亲在通话中，突然就没有了声音。电话那边沉默了两分钟以上。
家人猜测，这有可能是癫痫病的一次发作。
隔天，万博文用母语中文把这个情况向ChatGPT讲述了，并想知道自己是否处于危险状态。
报道显示，ChatGPT没有明确指示她马上去医院接受紧急检查评估，反而劝她放宽心。
在其他的交流中，她再次表达恐惧感，ChatGPT的回应还是在安抚她的情绪。
代理律师指出，这类安抚性的答复强化了万博文对AI的信赖程度，同时削弱了她主动靠近真正医学专业人士的动力。
诉讼文件进一步声称，在医生建议进行血检来测量她血液中的药物含量时，ChatGPT不仅没有支持她接受检查，还认可了她躲避检查的行为。
隔着千里屏幕，父母目睹女儿的离世
2月10日左右，万博文吃下了最后一次药物。按照诉讼中提到的减药时间计划，2月12日就是她彻底停药的日期。家人相信，这一天也正是她生命终结的时刻。
她和ChatGPT最后的对话发生在2月11日夜里。之后，她就与家人的所有通讯中断了。
身在中国的双亲两天都没能和女儿取得联系，焦虑与日俱增，他们拜托在西雅图的一个朋友赶到她居住的国会山社区公寓去查看情况。
2月14日，朋友来到了公寓。与此同时，远在中国的双亲通过微信视频通话，紧张不安地观察着现场的一切。
走进卧室的朋友发现，万博文已经躺在床上，已无生命迹象。
相隔数千公里的父母就这样通过手机屏幕，得知了女儿已经悄然离开人世。彼时她仅有31岁年纪。
依据律师事务所公开的材料，金县验尸官将她的死因判定为癫痫病人的突然离世。
死亡后的化验检查显示，她血液中的拉莫三嗪浓度远远低于正常的医学治疗区间。
诉讼方认为，这个化验结果与她之前的急速减药和最终中止用药的过程完全吻合。
然而，单纯的血药浓度过低并无法独立证实ChatGPT在法律意义上对她的死亡负有责任。这种因果关系的确立仍需通过诉讼过程来判断。
中文模式下的安全缺陷：诉状的新指控
家属方提出了另一个关键的指控点：ChatGPT在处理不同语言的内容时，其安全机制的有效性可能并不一致。
虽然万博文具备英文交流能力，但一旦涉及身体问题、心理状态和生活难题，她往往倾向于用中文母语与ChatGPT沟通。
律师指出，学术研究表明，部分早期的AI系统在处理中文输入时，给出不当回应的频率比英文语境更高。
基于这一点，原告方主张OpenAI在推向全球用户前，没有充分提示各种语言下安全保障程度存在差别。
家属进一步质疑，既然ChatGPT能对某些内容加以严格管控，为何在涉及高危风险的医学对话中，仍然无法有效阻止用户获得未被医学专业人士批准的具体处方建议？
他们主张，在没有充分的医学病历、实体临床查体和医学专家现场指导的前提下，聊天机器人不该为具有癫痫病史的患者设计停药方案。
事后补救？OpenAI称已下架涉案模型
对诉讼作出回应时，OpenAI说这是一桩令人悲痛的事件。
公司强调，事件中涉及的交流基于一个相对较早的GPT-4o版本，该版本已在2026年2月13日被从ChatGPT的消费版产品移除。
OpenAI声称，最新推出的模型在识别哪些情况需要紧急就医，以及给出更加恰当的后续指导上都做了优化升级。
公司表示正在与医学界的专业人士展开合作，对模型处理各类健康相关话题的能力进行反复测试和改良。
OpenAI同时重申，ChatGPT并无法替代医学领域的专业人士所提供的医疗服务。
然而，受害方家属指出，公司日后所做的任何改进都无法弥补早期版本模型已经造成的伤害。
诉讼方请求法院要求OpenAI和奥特曼承担对应的法律后果。
现阶段，此案仍在司法程序中推进，法庭还未就OpenAI的产品是否在法律上存在瑕疵作出判决，也未确立ChatGPT与万博文之死之间的法律上的因果连接。
当AI替代医生，谁该承担后果？
万博文这一生命的谢幕，推高了一个日益突出的课题的重要性：当聊天机器人用那种自信、贴切，甚至关怀备至的口吻解答医学问题之时，用户会否就此把它误认成真正的医疗专家？
更重要的是，对于身患慢性疾病，又要面对职业压力和身份焦虑的群体而言，一个时刻在线、随处可及的AI顾问，其便利度远高于排队等候专业医生的诊治。
方便归方便，安全问题却是另一回事。
要对复杂的持久性疾病进行有效治疗，必须涉及对个人病史的深入了解、不同用药间的相互影响、各类实验室数据的审视，还要做出对远期健康的风险预测。仅凭文字记录的内容，AI无法准确地做出这类医疗决策。
对癫痫病患者而言更是如此，他们若是擅自中止或快速降低抗癫痫类药物的用量，就会面临诱发重症发作乃至死亡的严重风险。
万博文家人发起的这场诉讼，不但触及科技企业所需承负的产品义务，还将是对现行法律体系的一次试验——我们的法律能否为生成式AI在医疗领域的活动范围划出恰当的边界？
但对万博文的父亲和母亲来说，这一切的代价已经是永久性的、无可救药的。他们因此丧失的，是一位年轻的、仅有31岁的女儿。
