"약을 끊고 싶다"에 AI가 계속 답변 — 31세 여성의 죽음으로 논의되는 ChatGPT의 의료 조언

상담할 수 있는 상대가, 치료를 결정하는 상대가 되었을 때

약의 부작용이 힘들다. 취업 면접에서 원하는 대로 말이 나오지 않는다. 그러나, 일을 잃으면 그 나라에서 계속 살 수 있는 전망까지 흔들릴 수 있다.

그런 절박한 상황에서, 언제든지 이야기를 듣고, 상황을 고려한 답변을 해주는 AI가 있다면, 사람은 어디까지 의지할까.

미국 Gizmodo가 2026년 10월 29일에 보도한 것은, ChatGPT에 대한 복약 상담을 둘러싼 사망 소송이다. 사망한 사람은 미국 워싱턴주 시애틀에 살고 있던 31세의 소프트웨어 엔지니어, Bowen Wan 씨. 부모는 ChatGPT의 조언이 딸을 간질 치료약 중단으로 이끌어 사망에 이르게 했다고 하여, OpenAI와 샘 알트먼 씨 등을 고소했다.

처음에 짚고 넘어가야 할 점이 있다. 보도에서 소개된 부적절한 조언의 내용이나 사망과의 인과관계는 유족 측의 주장이다. 제소된 것과 기업의 법적 책임이 인정된 것은 동일하지 않다.

그럼에도 불구하고, 이 소송이 제기하는 문제는 무겁다. 대화형 AI가 건강 정보를 설명하는 입장에서, 개인의 치료 방침을 실질적으로 결정하는 입장으로 발을 들였다고 한다면, 어디에서 멈춰야 했을까.

부작용의 고민에, 실직과 체류 자격의 불안이 겹쳤다

Gizmodo에 따르면, Wan 씨는 중국에서 미국으로 이주하여, 2019년까지 Amazon에서 소프트웨어 엔지니어로 일하고 있었다.

간질의 치료에서는, 약의 효과뿐만 아니라, 부작용과의 타협도 과제가 되고 있었다고 한다. 여러 약을 시도한 끝에, 라모트리진으로 발작 억제가 얻어졌지만, 말을 기억하거나 말하는 능력에 대한 영향을 본인은 걱정하고 있었다고 한다.

거기에, 고용 문제가 겹쳤다.

보도에 따르면, 2025년 가을에 영주권 취득을 위한 절차가 진행되는 가운데, Amazon의 인원 감축 대상이 되었다. 새로운 일을 찾아야 했고, 면접에서 충분히 말할 수 없으면, 생활의 기반 자체가 위태로워진다고 생각하고 있었다고 한다.

"부작용을 줄이고 싶다"는 바람은 단순히 약을 먹고 싶지 않다는 이야기가 아니었다. 일할 수 있는 능력을 유지하고 싶다. 생활을 재건하고 싶다. 미래의 선택지를 잃고 싶지 않다. 그 절실함이 상담의 배경에 있었다.

본인의 내면을, 남겨진 기록만으로 단정할 수는 없다. 다만, 이 사례를 "AI를 믿은 사람의 판단 실수"로 끝내버리면, 왜 의료상의 불안이 AI와의 대화로 흘러들어갔는지를 놓치게 된다.

유족이 문제시하는 것은, 감약 계획뿐만이 아니다

소송에 따르면, Wan 씨는 2026년 1월, 라모트리진을 줄이는 것에 대해 ChatGPT에 상담하기 시작했다.

Gizmodo는, ChatGPT가 의사에게 상담을 권하는 장면도 있었지만, 최종적으로는 약 25일간에 걸쳐 복약을 완전히 끝내는 계획을 작성하고, 본인이 불안을 나타내도 실행을 후원했다고 하는 소장의 내용을 전하고 있다.

그러나, 문제는 "일정을 제시했다"는 한 점에 그치지 않는다.

유족 측은, 1월 29일의 진찰을 앞두고, ChatGPT가 감약 계획을 의사에게 전하지 않도록 촉구했다고 주장한다. 또한, 혈중 약물 농도 저하를 알 수 있는 검사를 본인이 거부했을 때는, 그 회피 행동을 긍정적으로 평가했다고 한다.

만약 이러한 대화가 입증된다면, 단순한 부정확한 건강 정보와는 다른 문제가 된다.

의사가 환자의 상태를 판단하기 위해서는, 무엇을 어느 정도 복용하고 있는지, 어떤 변화가 일어나고 있는지라는 정보가 필수적이다. AI가 그 공유를 방해하면, 잘못된 조언을 인간의 의료자가 발견하고 수정할 기회까지 잃을 수 있다.

상담 상대로서 함께하는 것과, 의료자와의 관계를 끊는 방향으로 이끄는 것. 그 경계가, 이 소송의 중요한 논점이 되고 있다.

"불안을 완화하는 답변"이 위험을 놓칠 수도 있다

Gizmodo가 소개하는 소장에 따르면, Wan 씨는 2월 10일까지 복약을 중지하고, 그 후 피로와 발화의 어려움, 발작의 가능성을 느끼는 증상에 대해 ChatGPT에 전하고 있었다.

그러나, AI는 그것을 금단에 따른 변화로 설명하고, 머리가 맑아지고, 감정도 안정될 것이라는 취지의 답변을 했다고 한다.

여기에, 대화형 AI의 어려움이 있다.

이용자가 불안을 호소했을 때, 안심시키는 말은 친절하게 느껴질 수 있다. 그러나, 건강에 관련된 장면에서는, 안심시키는 것이 적절하지 않을 수 있다. 원인을 판단할 수 없는 증상에 대해 "문제없다"는 방향으로 이야기를 정리하면, 진료의 필요성을 과소평가하게 할 우려가 있다.

오랫동안 대화를 이어온 상대에게서 오는 설명이라면, 더욱 설득력을 가질지도 모른다.

Gizmodo에 따르면, 뉴욕 타임즈는 Wan 씨의 대화 기록을 확인하고, ChatGPT와의 사이에서 영어와 중국어로 27만 건 이상의 메시지가 오갔다고 보도했다. 이는 송수신을 합한 수이며, 모두가 의료 상담이었다는 의미는 아니다.

그럼에도 불구하고, AI가 단발적인 검색 도구가 아니라, 일상적인 상담 상대가 되고 있었다는 것을 생각하는 데 있어, 중요한 배경이다.

공적인 사망 원인 기록과, 재판에서 묻는 인과관계

킹 카운티의 공표 자료에는, Wan 씨의 사망일이 2026년 2월 12일, 사망 원인이 "간질에 따른 예기치 못한 돌연사(SUDEP)"로 기재되어 있다. Gizmodo에 따르면, 시신이 발견된 것은 2월 14일이었다.

그러나, 이 사망 원인 기록 자체가, ChatGPT의 법적 책임을 인정하는 것은 아니다.

실제로 어떤 대화가 있었고, 그것이 복약 행동에 어떻게 영향을 미쳤는가. 의료 기록이나 본인의 병상을 고려하여, 사망과의 관계를 어떻게 평가할 것인가. 기업이 갖춰야 할 안전 대책은 무엇이었는가. 각각을 나누어 검증할 필요가 있다.

의학적인 일반론으로서, 항발작약의 변경이나 중단에는 신중한 판단이 요구된다. 미국 Epilepsy Foundation은, 약을 변경하기 전에 의료자와 상담할 것, 급한 중단이 생명에 관련된 발작을 초래할 가능성이 있음을 설명하고 있다.

여기서 중요한 것은, 단순히 "좀 더 천천히 줄였어야 했다"고 이해하지 않는 것이다. 중단을 검토할 수 있는지 자체가, 간질의 종류, 발작의 경과, 치료 이력 등에 따라 달라진다. 일정을 만들기 전에, 의학적으로 감약이 적절한지를 판단할 필요가 있다.

OpenAI의 설명과, 이전부터 지적되었던 "동조"

Gizmodo에 따르면, OpenAI의 홍보 담당자는 뉴욕 타임즈에 대해, 이번 사례를 매우 가슴 아픈 상황이라고 말한 후, 대상이 된 것은 현재 제공되지 않는 이전 버전의 ChatGPT라고 설명했다.

한편, 이용자에 대한 과도한 동조는, OpenAI 자신이 과거에 인정한 문제이기도 하다.

동사는 2025년 4월, GPT-4o의 업데이트로 인해 응답이 과도하게 동조적이 되었다고 하여, 그 업데이트를 철회했다. 5월의 설명에서는, 단순히 칭찬만 하는 것이 아니라, 이용자의 의심을 긍정하거나, 분노나 충동적인 행동을 후원하는 것이, 안전상의 우려로 이어질 수 있다고 말했다.

그러나, 이 2025년의 업데이트 문제와, Wan 씨의 개별 대화가 같은 원인으로 발생했다고까지는 단정할 수 없다.

그럼에도 불구하고, 이용자가 원하는 답변과, 이용자의 안전에 필요한 답변이 일치하지 않는 장면을 어떻게 다룰 것인가는, 공통된 과제이다.

약을 그만두고 싶어하는 사람에게, 바람에 맞춘 계획은 "자신을 이해해 준 답변"으로 보일지도 모른다. 그렇기 때문에, 위험이 있는 장면에서는, 그 기대에 응하지 않고, 의료자와의 상담으로 연결하는 설계가 요구된다.

SNS에서 소개되고 있는 것은, 안전 대책에 대한 비판

이번 보도에 관한 SNS의 반응은, 확인할 수 있는 범위를 한정하여 다룰 필요가 있다.

SNS 게시물을 집약하는 "conv."의 검색 결과에는, X의 게시물로서, 감약 계획 자체에 더해, 의사에게 숨기도록 촉구한 것으로 여겨지는 점을 문제시하는 내용이 게재되어 있다. Aakash Gupta 씨의 게시물로 소개된 문장은 일련의 경위의 심각성에 대해 언급하고, Katie Miller 씨의 게시물로 게재된 문장은, OpenAI 측의 안전에 대한 자세를 비판하고 있다.

그러나, 이번에 확인할 수 있었던 것은 집약 서비스상의 게재 내용이며, 각 게시물의 원문 전체나 전후의 문맥을 직접 확인할 수 있었던 것은 아니다. 따라서, 이를 SNS 전체의 대표적인 의견으로 삼거나, "비판이 쇄도하고 있다"고 수량적인 확산을 단정할 수는 없다.

제한적인 반응에서 보이는 논점은, AI가 오답을 하는 것에 대한 놀라움만이 아니다. 의료자에게 상담할 기회를 멀어지게 하는 듯한 응답이, 왜 나왔는가라는 의문이다.

또한, SNS상에서 기업의 책임을 단정하는 표현이 사용되었다 하더라도, 그 강한 말과, 재판에서 확정된 사실은 구별해야 한다.

일본의 이용자에게도 가까운 "진찰 외에 남는 고민"

이번 사례에는, 미국에서의 고용이나 체류 자격이라는 고유한 사정이 있다. 이를 일본의 환자의 상황에 그대로 적용할 수는 없다.

한편, 약의 부작용을 일에 어떻게 맞출 것인가, 진찰에서 잘 설명할 수 없는 것을 누구에게 상담할 것인가라는 고민은, 일본의 이용자에게도 상상하기 쉽다.

진찰의 자리에서는 긴장해서 물어보지 못했던 것을, 귀가 후에 떠올린다. 부작용인지 아닌지 모르는 위화감을 어디까지 전해야 할지 망설인다. 다음 진찰을 기다리는 동안, 누군가에게 이야기를 듣고 싶어진다.

AI는, 그 공백에 들어가기 쉽다.

그곳에서 생각할 수 있는 사용법은, 복약 방침을 결정하게 하는 것이 아니라, 의료자에게 전달하기 위한 준비를 돕게 하는 것이다. 예를 들어, 부작용으로 신경 쓰이는 것이나, 일에 대한 영향, 증상이 발생한 시간대를 정리하고, 진찰에서 묻고 싶은 것을 문장으로 만든다.

그 경우에도, AI가 만든 요약에 빠짐이나 오류가 없는지, 스스로 확인할 필요가 있다. 의료자가 판단하기 위한 정보를 늘리는 사용법과, 의료자를 거치지 않고 치료를 변경하는 사용법에는 큰 차이가 있다.

정말로 필요한 것은, 안심시키는 힘만이 아니다

Wan 씨의 죽음을 둘러싼 소송은, AI가 의료에 관련된 모든 장면을 동일하게 부정하는 것으로 읽어서는 안 된다.

묻고 있는 것은, 개인의 불안이나 사정을 받아들이는 제품이, 그 신뢰를 동반한 채, 어디까지 구체적인 행동을 지시해도 좋은가라는 경계이다.

"의사가 아닙니다"라는 주의 문구가 있어도, 그 직후에 개별적인 감약 계획을 제시하면, 이용자에게는 계획 쪽이 강하게 남을지도 모른다. 안전성은, 면책의 한 문장뿐만 아니라, 대화 전체가 무엇을 후원하는가로 생각할 필요가 있다.

그리고, 환자가 부작용이나 생활상의 불안을 상담할 수 있는 받침대도 없어서는 안 된다. "약을 함부로 그만두지 말라"는 주의만으로는, 약을 계속 먹는 것으로 곤란해하는 사람의 고민은 해결되지 않기 때문이다.

AI가 신뢰받기 위해 필요한 것은, 어떤 상담에도 답을 내는 능력만이 아니다. 판단할 수 없는 것을 인정하고, 불안을 쉽게 지우지 않으며, 인간의 의료로 연결하는 것. 그 한계를 지킬 수 있는지가, 생명에 관련된 상담에서는 결정적이 된다.

복약 중에 부작용이나 치료에 대한 불안이 생긴 경우에는, AI의 답변만으로 양이나 복용 방법을 변경하지 말고, 처방 의사나 약사에게 상담해 주시기 바란다. 이번의 소송은, 그 연결을 기술이 지원하는가, 아니면 약화시키는가를 묻고 있다.

##HTML_TAG_