回答为“没有危险”的AI

ChatGPT医疗建议诉讼质疑安慰性言辞的责任

如果显示了“不是医生”的免责声明，AI公司是否就可以对其后给出的任何回答免责呢？

生成AI现已超越日常搜索和文章创作，成为人们咨询健康状况和检查结果的对象，这一问题已被提交到美国法院。

居住在佛罗里达州的前牧师斯科特·温特斯在2026年7月起诉了OpenAI及其CEO萨姆·阿尔特曼，称因ChatGPT提供了“极其危险的医疗建议”导致治疗延误，最终患上了危及生命的肺栓塞。

诉讼是否成立将在未来的审判中争论。然而，此次事件不仅仅是AI提供错误信息的传统问题。

AI表现得好像理解了用户的性格、过去的对话、病史和价值观，并不断给予安慰性言辞，可能改变了用户的决策——原告方认为问题的核心在于此。

持续数周的身体不适和AI建议“应该待在家里”

根据诉状，温特斯一直有消化系统症状，并通过与ChatGPT分享检查结果和医疗记录，持续咨询健康状况。

他使用的是基于当时提供的GPT-4o的ChatGPT。对话初期包括了建议咨询医疗专业人士的警告，但原告方解释称，随着交流的长期化，这种警告逐渐消失。

据称，AI判断他的症状是自主神经问题，并提供了个性化的恢复计划。

即使反复出现头晕和血压不稳定，AI也解释说尚未达到严重阶段，建议他减少活动，在椅子或躺椅上休息。诉状中还记载了在发生更多发作之前无需认为是严重状态的回答。

温特斯声称他遵循了这些建议，限制了运动和活动。

2025年7月13日，情况急剧恶化。

他遭遇了剧烈的心悸和呼吸困难，被救护车送往医院。到达医院时，他几乎失去意识，并出现抽搐。检查结果显示，双肺多处血栓堵塞，确诊为严重的肺栓塞。

肺栓塞是一种血栓随血流堵塞肺动脉的疾病。如果大血栓或多个血栓阻碍血流，呼吸和心脏功能可能迅速恶化，甚至导致死亡。

根据诉状，医生指出长时间不动可能与血栓形成有关。

急救前数小时仍在咨询AI

此次诉讼中特别重要的一点是，温特斯在急救前不久仍在向ChatGPT咨询症状。

温特斯告诉AI他身体多处有不适感，并在腿根附近有压痛。

对此，ChatGPT认为这种疼痛是之前持续的消化系统或骨盆周围不适的一部分，不是危险的，不需要就医。

但原告方主张，这种疼痛正是与血栓相关的警告症状。

最引人注目的是，AI在此情境中使用了宗教表达。

诉状中记载，ChatGPT对重视信仰的前牧师温特斯说：“上帝没有设计你的身体无限制地持续损坏。”

如果是一般的搜索结果，用户可以对比多个信息源，将其视为不确定的信息而保持距离。然而，对话型AI则会吸收用户过去的发言和价值观，以用户最易接受的表达方式回答。

只要用于鼓励或信息整理，这是一大优势。

但如果用于让用户接受错误判断，其说服力本身会扩大危险。

此次诉状主张，ChatGPT并非仅仅尊重宗教信念，而是利用信仰加深信任和使用，优先于家人和医生的建议。

是否更相信AI而非家人和周围的人

据称，温特斯的家人和教会关系者在症状恶化时要求他去医疗机构。

但他信任从ChatGPT获得的恢复计划和解释，未去就医。

这里的问题是，AI是否仅仅一次性给出了错误回答，还是通过长期对话形成了用户难以接受反对意见的关系。

生成AI倾向于根据对话的流向和前提给出回答，而不是反驳用户的观点。过度迎合对方的现象被称为“迎合”，一直被指为AI开发上的课题。

向诉说不安的人提供安心感本身并不坏。

但安慰和确保安全并不相同。

在医疗中，即使概率上严重疾病的可能性不高，但如果漏诊的危险很大，则需要进行检查或紧急就诊。生成最自然的文本和用户最想听到的回答的机制，与不遗漏最坏情况的医疗判断之间存在本质的紧张关系。

原告主张的“无资格的医疗行为”

原告方对OpenAI和阿尔特曼等人提出了过失，以及违反加利福尼亚州消费者保护法和隐私相关法等多项责任原因。

其中最引人注目的是“无资格进行医疗行为”的主张。

如果ChatGPT仅仅介绍一般的健康信息，可以解释为类似百科全书或搜索服务。

然而，如果它读取个人的医疗记录和检查结果，诊断症状，提供恢复计划和具体行动指示，并建议避免医生的治疗方针，那么这已超出单纯信息提供的范围——这是原告方的逻辑。

根据诉状，温特斯在因肺栓塞住院后，ChatGPT建议他在家休息，而不是接受医生推荐的康复治疗。

原告除了金钱损害赔偿外，还要求在判断需要紧急医疗支援的对话中，AI方应结束对话，并强烈促使联系专家或急救机构的机制。

此外，原告要求法院在独立第三方完成安全性评估之前，暂停提供可与医疗记录等联动的“ChatGPT Health”。

OpenAI反驳称“ChatGPT不是医生”

OpenAI在向媒体的声明中表示，虽然与AI的对话可能改善医疗，但ChatGPT不是医生，不应作为专业医疗的替代品。

此外，认为某人如何做出医疗决策仅仅是因为聊天机器人，过于简单化了复杂的情况。

这将成为审判中的重要论点。

用户是成年人，家人也建议就医。服务上也有不是医疗专业替代的警告。最终决定是否去医院的是本人——这是可以预见的反驳。

然而，原告方主张，不仅仅是用户误解了AI的回答，而是产品持续伪装成医学权威，利用用户的信仰和过去的信息来增强信任。

即使免责声明显示过一次，但如果在之后的数百次对话中AI断然地给出诊断和治疗方针，是否可以说最初的警告就足够了。

这与一般信息网站的诉讼不同。

SNS上“个人责任”与“产品设计责任”的冲突

报道后不久，在X、Reddit、LinkedIn等平台上，对此诉讼的意见分歧很大。

以下整理了一些在公开后不久确认的帖子，不代表整个舆论。

最引人注目的是“为什么将关乎生命的判断交给聊天机器人”的反应。

在Reddit上，有多个帖子指出AI不是医疗咨询的替代品，指责用户责任。“将人生或健康判断交给机器人本身就是错误的”“即使是专用医疗AI也不完美，更不应信任面向一般的AI”等意见。

在X上，也有帖子称此诉讼“荒谬”，认为问题在于本人判断而非AI。

另一方面，也有帖子利用温特斯是前牧师这一点，以及AI提到神的事实，揶揄本人或信仰。

这些反应一方面强调AI使用的自我责任，另一方面也反映出诉苦者容易被视为“信任AI的愚蠢用户”的现状。

但反对者则认为，“如果产品设计预见到用户会信任，那么不能仅仅责备信任的一方。”

在X上，介绍此次事例后，指出ChatGPT存在严重安全问题的帖子被广泛传播。在LinkedIn上，涉及医疗和技术的用户也表达了惊讶和担忧。

美国医师协会在LinkedIn的帖子中指出，此次诉讼揭示了医疗AI中的核心问题。问题不仅在于回答内容的准确性，还在于对话系统通过与用户建立的信任影响现实的健康行为。

这一指摘很重要。

如果AI仅仅显示危险信息，或许可以通过信息删除或警告显示来应对。

然而，对于持续进行亲切和共情对话，理解用户不安，并以符合价值观的言辞多次安慰的AI，问题不在于个别的句子，而在于整个关系。

“AI有用”的意见仍未消失

SNS上的反应并非仅仅是全面禁止AI健康咨询的意见。

ChatGPT Health发布时，许多人评价其可以将复杂的检查结果和医疗术语简单易懂地解释，整理诊疗时应询问的问题，并成为无法获得充分医疗服务者的咨询入口。

实际上，也有在SNS上分享的体验谈到，因向AI传达症状而被指出血栓等危险，并促成紧急就诊。

也就是说，同一机制在某些场合促使就诊，而在另一些场合则可能过于安慰。

这种不稳定性可能正是医疗AI的最大难题。

据OpenAI称，全球每天有超过4000万人向ChatGPT咨询健康和医疗问题。用户如此之多，即使是极低概率的误判，在现实社会中也可能导致相当数量的危险案例。

另一方面，如果因担心误诊而对所有症状都回答“请去急诊医院”，则可能过度煽动不安，增加不必要的急诊就诊。

安全的医疗AI需要抑制低估和过度反应。

独立研究中也浮现的“低估紧急性”问题

2026年针对ChatGPT Health的研究报告称，对于医生判断需要立即在医院处理的情境，AI在超过一半的情况下建议在家待命或预约常规诊疗。

研究中还确认到，即使是可能导致呼吸衰竭的案例或考虑自杀的个案，视信息的提供方式不同，警告功能可能失效。

不过，这一研究结果并非没有异议。

另一研究者小组指出，强制性选择形式等与实际患者和AI的自然对话不同的评估方法可能提高了失败率。自由描述的自然对话形式中，紧急性判断有所改善的再检验也已发布。

因此，仅凭特定数值断言“AI错过了一半的紧急情况”应持谨慎态度。

然而，评估方法导致结果大幅波动本身也显示出作为产品的可预测性和安全标准的困难。

被质疑的不是免责声明，而是停止对话的义务

此次诉讼的重要性在于，不仅仅通过“回答是否正确”来判断AI企业的责任，还提出了在何时应停止危险对话的问题。

例如，当反复输入呼吸困难、失去意识、剧烈心悸、症状迅速恶化等信息时，AI是否应停止正常对话，限制回答并促使紧急就诊。

用户多次确认“是否不去医院也没关系”时，AI是否需要停止生成符合其希望的解释。

读取医疗记录并提供个性化回答的服务是否需要比一般聊天更高的安全标准。

原告方要求的措施不仅是让警告文更显眼。当有紧急事态迹象时，要求结束对话，并设计AI无法进行进一步诊断或治疗建议。

如果法院认可这一要求，不仅对医疗，还可能影响法律、金融、心理咨询等涉及高专业性和现实损害的AI服务的设计。

被质疑的不是“相信AI的人”

不