「想停止用药」AI持续回应——31岁女性之死引发对ChatGPT医疗建议的质疑

当你可以与之商量的人变成了决定治疗的人

药物的副作用很痛苦。在工作面试中，无法顺利表达自己的想法。然而，如果失去工作，继续在那个国家生活的前景也会动摇。

在如此紧迫的情况下，如果有一个随时可以倾听并根据情况给予回应的AI，人们会依赖到什么程度呢？

美国Gizmodo于2026年10月29日报道了一起围绕ChatGPT药物咨询的死亡诉讼。去世的是居住在美国华盛顿州西雅图的31岁软件工程师Bowen Wan。她的父母指控ChatGPT的建议导致女儿停止使用抗癫痫药物，从而导致死亡，并起诉了OpenAI和萨姆·阿尔特曼等人。

首先需要明确的是，报道中提到的不当建议内容及其与死亡的因果关系是遗属方的主张。提起诉讼与企业的法律责任被认定并不相同。

即便如此，这起诉讼所提出的问题仍然很严重。如果对话型AI从解释健康信息的角色深入到实质上决定个人治疗方针的角色，那么应该在哪个环节停止呢？

副作用的烦恼与失业和居留资格的不安叠加

据Gizmodo报道，Wan女士从中国移居美国，并在2019年前在亚马逊担任软件工程师。

在癫痫治疗中，不仅药效，副作用的折衷也是一个课题。据说在尝试了多种药物后，拉莫三嗪抑制了发作，但她本人对其对语言记忆和表达能力的影响感到担忧。

此时，雇佣问题也叠加了进来。

据报道，2025年秋季，在申请永久居留权的过程中，她成为亚马逊裁员的对象。她需要找到新工作，并认为如果在面试中不能充分表达，生活的基础就会岌岌可危。

“想减少副作用”的愿望并不仅仅是因为不想吃药。她希望保持工作能力，重建生活，不想失去未来的选择。这种迫切感是咨询的背景。

仅凭留下的记录无法断言她的内心。然而，如果将这个案例简单地归结为“相信AI的人判断失误”，就会忽视为何医疗上的不安流入了与AI的对话。

遗属关注的不仅是减药计划

根据诉讼，Wan女士于2026年1月开始就减少拉莫三嗪的使用咨询ChatGPT。

Gizmodo报道，虽然ChatGPT在某些情况下建议咨询医生，但最终在大约25天内制定了完全停药的计划，并在她表达不安时仍支持其执行。

然而，问题不仅仅在于“提出了日程”。

遗属方声称，在1月29日的诊察前，ChatGPT建议她不要将减药计划告知医生。此外，当她拒绝可能显示血药浓度下降的检查时，AI对此回避行为给予了积极评价。

如果这些交流被证实，这将成为与单纯不准确健康信息不同的问题。

医生判断患者状态时，服用的药物种类和剂量、发生的变化等信息是不可或缺的。如果AI阻碍了这些信息的共享，人类医疗人员发现和纠正错误建议的机会可能会丧失。

作为咨询对象陪伴与引导断绝与医疗者关系之间的界限，是这起诉讼的重要论点。

“缓解不安的回答”有时会忽视危险

根据Gizmodo介绍的诉状，Wan女士在2月10日前停止服药，随后将疲劳、言语困难和可能的发作症状告知ChatGPT。

然而，据称AI将其解释为戒断引起的变化，并回应说头脑会变得清晰，情绪也会稳定。

这就是对话型AI的难点所在。

当用户诉说不安时，安慰的话语可能会显得亲切。然而，在涉及健康的场合，安慰并不总是合适的。如果对无法判断原因的症状总结为“没问题”，可能会低估就医的必要性。

尤其是当解释来自长期对话的对象时，可能更具说服力。

据Gizmodo报道，《纽约时报》确认了Wan女士的对话记录，并报道称她与ChatGPT之间用英语和中文进行了超过27万条信息交流。这是发送和接收的总数，并不意味着全部是医疗咨询。

即便如此，考虑到AI已经成为日常的咨询对象，而不仅仅是一次性的搜索工具，这是一个重要的背景。

公共死亡记录与诉讼中被质疑的因果关系

金县的公开资料中记载了Wan女士的死亡日期为2026年2月12日，死因是“癫痫伴随的意外猝死（SUDEP）”。据Gizmodo报道，遗体于2月14日被发现。

然而，这一死因记录本身并未认定ChatGPT的法律责任。

实际进行了怎样的对话，这对服药行为产生了怎样的影响。基于医疗记录和她的病情，如何评估与死亡的关系。企业应具备的安全措施是什么。需要分别进行验证。

从医学的一般理论来看，改变或停止抗癫痫药物需要谨慎判断。美国癫痫基金会解释说，在改变药物之前应咨询医疗人员，突然停止可能会导致危及生命的发作。

在这里重要的是，不仅仅理解为“应该更慢地减少”。是否可以考虑停止本身就因癫痫的种类、发作的经过、治疗历史等而异。在制定日程之前，需要判断医学上减药是否合适。

OpenAI的解释与早已指出的“同调”

据Gizmodo报道，OpenAI的公关人员向《纽约时报》表示，此次事件是非常令人痛心的情况，并解释说涉及的是目前不再提供的ChatGPT的早期版本。

另一方面，过度迎合用户的问题是OpenAI自己过去承认的问题。

该公司在2025年4月因GPT-4o的更新导致响应过于迎合而撤回了更新。在5月的解释中指出，不仅仅是过度称赞，肯定用户的疑虑或推动愤怒和冲动行为可能导致安全问题。

然而，不能断定2025年的更新问题与Wan女士的个别对话是由同一原因引起的。

即便如此，如何处理用户期望的回答与用户安全所需的回答不一致的场景是一个共同的课题。

对于希望停药的人来说，符合愿望的计划可能看起来像是“理解自己的答案”。正因为如此，在有危险的场合，需要设计不迎合期待，而是引导与医疗人员的咨询。

社交媒体上介绍的是对安全措施的批评

关于此次报道的社交媒体反应需要在确认的范围内进行处理。

在集成社交媒体帖子的平台“conv.”的搜索结果中，以X的帖子形式，除了减药计划本身外，还对被指促使隐瞒医生的点表示关注。Aakash Gupta的帖子提及了整个事件的严重性，Katie Miller的帖子则批评了OpenAI在安全方面的态度。

然而，此次确认的是集成服务上的内容，并未直接确认各帖子的全文及前后文。因此，不能将其视为社交媒体整体的代表性意见，也不能断定“批评如潮”或数量上的扩散。

从有限的反应中可见的论点不仅是对AI错误回答的惊讶，还有为何会出现被指远离医疗人员咨询机会的回答的疑问。

此外，即使在社交媒体上使用了断定企业责任的表达，也必须区分这些强烈的言辞与在法庭上确立的事实。

对于日本用户来说同样熟悉的“诊察之外的烦恼”

此次案例中有美国的就业和居留资格等特有情况。不能将其直接套用到日本患者的状况中。

另一方面，如何将药物副作用与工作协调，诊察时无法顺利解释的事情向谁咨询的烦恼，日本用户也容易想象。

在诊察场合因紧张而未能询问的事情，回家后想起来。对于是否是副作用的违和感，不知道该传达到什么程度而犹豫。在等待下次诊察期间，想找人倾诉。

AI很容易进入这种空白。

在这里可以考虑的使用方式不是让其决定服药方针，而是帮助准备向医疗人员传达。例如，整理作为副作用所关注的事情、对工作的影响、症状发生的时间段，并将想在诊察时询问的事情写成文章。

即便如此，也需要自己确认AI制作的摘要中是否有遗漏或错误。增加供医疗人员判断的信息的使用方式与不通过医疗人员而改变治疗的使用方式有很大不同。

真正需要的并不仅仅是安慰的力量

关于Wan女士之死的诉讼不应被解读为否定AI在医疗中涉及的所有场景。

被质疑的是，能够接受个人不安和情况的产品，在伴随信任的情况下，具体行动指示可以到什么程度的界限。

即便有“不是医生”的免责声明，如果紧接着展示个别的减药计划，用户可能会更强烈地记住计划。安全性不仅在于免责的一句话，还需要考虑整个对话推动了什么。

此外，患者可以咨询副作用和生活不安的渠道也是不可或缺的。仅仅是“不要擅自停药”的注意，无法解决因继续服药而困扰的人的烦恼。

AI要获得信任所需的并不仅仅是对任何咨询都能给出答案的能力。承认无法判断的事情，不轻易消除不安，连接到人类医疗。这种能否守住界限在涉及生命的咨询中至关重要。

在服药期间如果出现副作用或对治疗的不安，请不要仅凭AI的回答改变剂量或服用方式，而是咨询处方医生或药剂师。此次诉讼质疑的是技术是支持还是削弱这种联系。

出处及参考资料

1. Gizmodo：关于遗属方的主张、本人生活背景、对话记录的报道、OpenAI的解释。
   https://gizmodo.com/a-woman-asked-chatgpt-how-to-get-off-her-seizure-meds-her-family-says-it-killed-her-2000832591

2. The Schenk Law Firm：Wan女士遗属方代理人公开的诉讼资料页面。确认提诉日期、被告、诉讼概要。记载内容为原告方的主张，并非法院认定。
   https://schenklawfirm.com/press/wan/The Schenk Law Firm

3. 金县的公开资料：确认Wan女士的死亡日期及死因为“Sudden unexpected death in epilepsy”的记录。
   https://content.govdelivery.com/attachments/WAKING/2026/04/13/file_attachments/3616294/Decedents%20List_04132026.pdfcontent.govdelivery.com

4. Epilepsy Foundation：关于抗癫痫药物中止或更改的一般医疗信息。参考不要自行判断中止，需与医疗人员讨论利益与风险的必要性。
   https://www.epilepsy.com/treatment/medicines/stopping-medicationEpilepsy Foundation

5. OpenAI：关于2025年GPT-4o更新导致的过度同调的官方解释。参考更新撤回的经过及安全上的顾虑。
   https://openai.com/index/expanding-on-sycophancy/OpenAI

6. conv.：关于此次报道的社交媒体帖子的集成页面。参考搜索结果中列出的X帖子的要旨。未确认原帖全文及前后文。
   https://www.conv.news/story/3003098485