https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/AI가 작성한 "존재하지 않는 판례"로 재판 중단──변호사가 읽지 않은 서류의 대가

미국 법정에서 생성 AI 시대를 상징하는 이례적인 문제가 발생했다. 쟁점은 AI를 사용한 것 자체가 아니다. 문제는 AI가 출력한 내용을 인간 전문가가 확인하지 않고 법원에 제출한 것이다.

미시시피주 북부 지역 연방 지방 법원에서 다루어진 것은 변호사 톰 위저스 씨와 미시시피주 애버딘 시 간의 계약 분쟁이었다. 위저스 씨는 시에서 미지급 변호사 비용이 있다고 주장했다. 일반적으로는 소송 중에 준비 서류가 교환되고, 사실과 법률상의 주장이 정리되어 재판으로 진행된다. 그러나 이 사건에서는 그 전에 법원이 중대한 이상을 발견했다.

제출된 서류 중에 법원이 찾을 수 없는 판례가 포함되어 있었다.

처음에는 단순한 인용 실수나 표기 오류로 보일 수도 있다. 그러나 문제의 인용은 하나가 아니었다. 피고 측의 서류에도, 원고 측의 서류에도 확인할 수 없는 판례가 나열되어 있었다. 법원이 조사한 결과, 그것들은 실재하지 않거나 적어도 제출된 형태로는 확인할 수 없는 "환각"에 의한 인용이었다.

환각이란, 생성 AI가 그럴듯한 문장이나 정보를 만들어내는 한편, 그 내용이 사실에 기반하지 않는 현상을 말한다. 법률 분야에서는 특히 위험하다. 왜냐하면, 판례나 법령의 인용은 단순한 장식이 아니라 주장의 근거 그 자체이기 때문이다. 존재하지 않는 판례를 인용하는 것은 요리 레시피에 가상의 재료를 쓰는 것과는 차원이 다르다. 판사, 상대방, 의뢰인, 그리고 사법 제도 전체의 시간과 신뢰를 낭비한다.

이번 사건에서 더욱 이례적이었던 것은, AI로 인한 문제가 한쪽 진영만의 것이 아니었다는 점이다. 원고 측도 피고 측도 AI를 사용한 서류에 문제가 있었다. 마치 AI가 만든 주장에 대해 다른 AI가 만든 주장으로 응수하는 듯한 구도였다. SNS상에서 "의뢰인은 높은 변호사 비용을 지불하고, 실질적으로 AI끼리의 말다툼을 보고 있었던 것이 아니냐"는 비아냥이 나온 것도 이 기묘함이 이유다.

제재 명령에 따르면, 원고 측 변호사 캐슬린 윌슨 씨는 생성 AI를 사용해 서류를 작성하고, 그 안에 포함된 법적 근거를 확인하지 않았다. 피고 측 변호사 캐슬린 윌리엄스 씨는 AI를 사용한 법률 조사 도구를 이용하고, 그 출력을 독립적으로 확인하지 않은 채 서류에 포함시켰다. 게다가 양측의 현지 변호사도 서류에 서명했음에도 불구하고 내용을 충분히 확인하지 않았다.

법원은 AI의 사용 자체를 전면 부정한 것은 아니다. 오히려, AI는 적절히 사용하면 유용한 도구라는 전제를 인정하고 있다. 그러나 그 위에서 법원은 명확히 선을 그었다. 서류에 서명하는 변호사의 책임은 AI에도, 공동 대리인에도, 소프트웨어 회사에도 전가할 수 없다. AI가 문장을 만들 수 있어도, 그 내용에 진실성과 책임을 부여하는 것은 변호사 본인이라는 생각이다.

이 판단은 생성 AI 시대의 전문직에 공통되는 무거운 메시지를 포함하고 있다. AI는 편리한 초안 작성자가 될 수 있다. 검색의 입구에도, 논점 정리에도, 문안 작성에도 사용할 수 있다. 그러나 최종적으로 제출하고, 발표하고, 청구하고, 진단하고, 판단하는 단계에서는 인간의 확인이 필수적이다. 특히 법률처럼, 말 한 마디가 권리나 의무, 금전, 자유에 직결되는 분야에서는 "AI가 그렇게 말했다"는 이유가 되지 않는다.

판사 샤리온 에이콕 씨는 예정된 재판을 취소하고, 소송 절차를 중단했다. 게다가 사건에 관련된 변호사 4명을 모두 이 사건에서 제외했다. AI를 사용해 문제의 서류 작성이나 법률 조사에 직접 관여한 2명에 대해서는 미시시피주 북부 지역 연방 지방 법원에의 출정을 2년간 금지했다. 벌금도 부과되어, 윌슨 씨에게는 2500달러, 윌리엄스 씨에게는 3500달러, 현지 변호사 2명에게는 각각 1000달러의 지불이 명령되었다. 윌슨 씨에게는 AI 이용과 윤리에 관한 지속 법조 교육의 수강도 명령되었다.

이 처분은 단순한 벌금으로 끝나지 않는다. 법원은 관련된 변호사 단체에도 명령을 송부한다고 하고 있다. 즉, 이번 문제는 하나의 소송 내의 실패에 그치지 않고, 직업 윤리상의 문제로 다루어질 가능성이 있다.

SNS의 반응은 분노와 어이없음, 그리고 현실적인 논의가 뒤섞인 것이었다.

법률계 커뮤니티에서는 "이미 과부하된 사법 제도의 시간과 돈을 낭비했다"는 반응이 두드러졌다. 법원은 많은 사건을 안고 있다. 거기에 변호사가 확인하지 않은 AI 생성 서류를 가져와, 판사가 원래는 불필요했던 검증 작업에 쫓기게 된다. 이는 단순히 변호사 본인이 창피를 당한 이야기가 아니다. 사법 리소스를 갉아먹고, 다른 당사자의 재판을 지연시키는 행위이기도 하다.

또한, 의뢰인의 입장에 동정하는 목소리도 많았다. 변호사에게 의뢰하는 사람은 법률의 전문 지식이 없기 때문에 전문가에게 맡기는 것이다. 그런데 그 전문가가 AI의 출력을 읽지 않고 제출하여, 결과적으로 재판이 중단되고, 대리인도 교체해야 한다. 의뢰인으로서는 전문가에게 맡겼다고 생각했지만, 최종적으로 "전문가의 감독 부족"의 위험을 떠안게 된 셈이다. SNS에서는 "내가 변호사 비용을 지불하고 이걸 당했다면 격노할 것"이라는 취지의 게시물도 보였다.

한편으로, "AI를 사용했기 때문에 처벌받았다"라고 받아들이는 것은 오해라고 지적하는 목소리도 있다. 기술계 커뮤니티에서는, 제목만 보면 AI 이용 그 자체가 문제시된 것처럼 읽힐 수 있지만, 본질은 "존재하지 않는 판례를 인용하고, 그것을 확인하지 않은 것"이라는 의견이 나왔다. 실제로, 법률용 AI 도구나 검색 지원 도구는 존재하며, 적절한 검증과 결합하면 업무 효율화에 도움이 될 가능성이 있다. 문제는 도구를 사용한 것이 아니라, 도구에 일을 전적으로 맡긴 것이다.

이 점은 중요하다. AI를 사용하지 말라는 이야기로 단순화하면 문제의 본질을 잘못 볼 수 있다. 과거 법률 사무에서는 판례 데이터베이스, 문서 템플릿, 계약서 작성 소프트웨어, 전자 신청 시스템 등이 도입되어 왔다. 루틴 문서의 대부분은 이전부터 어떤 소프트웨어나 정형문의 조합으로 작성되고 있다. AI도 그 연장선에 있는 도구로 사용할 수 있다. 그러나 기존의 도구와 생성 AI의 차이는 그럴듯한 거짓을 자연스러운 문장으로 만들어낼 수 있다는 점에 있다.

SNS상에서도 "참조된 판례가 실재하는지 정도는 자동으로 체크할 수 없는가"라는 의문이 제기되었다. 확실히, 기술적으로는 판례 데이터베이스와의 대조, 인용 형식의 검증, URL이나 문헌 ID의 확인 등, 일정한 자동 체크는 가능할 것이다. 실제로, AI에 의한 환각 판례를 추적하는 연구자 중에는 참조 체크 도구를 개발하는 사람도 있다. 그러나 그럼에도 마지막에 책임을 지는 것은 제출자다. 체크 도구도 또한 만능이 아니며, 확인 작업을 보조하는 것에 불과하다.

이번 사건에는 또 하나 놓칠 수 없는 논점이 있다. 그것은 AI의 오류가 "초보자만의 문제"가 아니라는 것이다. 생성 AI의 등장 직후에는 AI를 사용해 자력으로 소송을 제기하는 일반인이나, 경험이 부족한 사용자의 실수가 주목받기 쉬웠다. 그러나 이번에는 법원에 정식으로 출석하는 변호사들이 관여하고 있다. 게다가 한쪽이 아니라 양쪽 진영이다. 전문가라도 바쁨, 방심, 과신, 도구에 대한 과도한 기대가 겹치면 같은 함정에 빠질 수 있다.

AI의 환각이 법정에서 문제가 되는 사례는 이제 더 이상 드문 예외가 되어가고 있지 않다. AI에 의한 가공 판례나 오인용을 추적하는 데이터베이스에서는 세계 각지의 법원에서 확인된 관련 사례가 다수 기록되어 있다. 미국만 해도 많은 사례가 쌓여 있으며, 법원 측의 인내는 분명히 줄어들고 있다.

특히 최근에는 법원의 대응도 엄격해지고 있다. 이전에는 벌금이나 경고로 끝나는 경우도 있었지만, 최근에는 출정 금지, 담당 사건에서의 배제, 변호사 회에의 통보, 교육 수강 명령 등, 더 실무상의 고통을 수반하는 제재가 증가하고 있다. 왜냐하면, 소액의 벌금만으로는 억제력이 되지 않는다는 견해가 확산되고 있기 때문이다. SNS에서도 "벌금만으로는 자금력이 있는 자에게는 아프지 않다" "본보기가 필요하다"는 등의 엄격한 의견이 보였다.

다만, 처분의 무게에 대해서는 논의의 여지도 있다. 이번 변호사들은 법원에 사과하고, 적어도 일부는 오류의 원인을 인정하고 있다. 현지 변호사 2명에 대해서는 AI를 직접 사용한 것은 아니며, 공동 대리인의 서류를 확인하지 않은 것이 문제로 지적되었다. 그럼에도 법원은 서명한 이상 책임이 있다고 판단했다. 이 판단은 앞으로의 공동 수임이나 현지 대리인의 방식에도 영향을 미칠 것이다. "이름만 빌려줬다" "주 담당이 아니었다"는 법정에서는 통용되기 어렵게 될 것이다.

이 사건이 던지는 가장 큰 질문은 AI 시대에 "전문가의 가치"란 무엇인가 하는 점이다.

AI가 문장을 쓸 수 있다면, 변호사는 무엇을 하는가. AI가 판례 같은 것을 찾을 수 있다면, 인간 법률가는 불필요해지는가. 이번 사건은 오히려 반대의 답을 제시하고 있다. AI가 내놓는 정보가 그럴듯해질수록, 인간 전문가에게는 더 높은 수준의 확인 능력과 책임감이 요구된다. AI가 초안을 만들 수 있기 때문에, 전문가가 그것을 간파하고, 깎고, 대조하고, 필요하다면 버리는 판단을 해야 한다.

이는 법률 업계에 국한되지 않는다. 의료, 금융, 교육, 보도, 행정, 광고 제작, 소프트웨어 개발 등, AI가 업무에 침투하는 모든 분야에서 같은 문제가 발생한다. AI가 만든 것을, 누가 확인했는가. 어떤 정보원에 대조했는가. 오류가 발생한 경우, 누가 책임을 지는가. 이 기본 설계가 없는 채 AI 도입을 서두르면, 효율화는커녕 신뢰의 붕괴를 초래한다.

생성 AI는 사용 방법을 잘못하면 "시간 단축 도구"가 아니라 "실수를 고속으로 양산하는 도구"가 된다. 게다가 그 실수는 자연스러운 문장에 포장되어 있기 때문에, 겉으로는 훌륭해 보인다. 이번 변호사들은 아마도 백지에서 악의를 가지고 가공 판례를 만든 것은 아닐 것이다. 그러나 악의가 없다는 것은 면죄부가 되지 않는다. 법원에 제출하는 서류에는 확인이라는 최소한의 책임이 따른다.

AI가 법정에 들어오는 흐름은 멈추지 않을 것이다. 법률 조사, 문서 작성, 증거 정리, 계약서 리뷰 등, AI가 도움이 되는 장면은 확실히 있다. 그러나 AI를 도입할수록, 직업 윤리와 검증 절차는 오히려 엄격해야 한다. 어떤 도구를 사용했는가. 출력을 누가 확인했는가. 인용원은 실재하는가. 판례의 내용은 정말로 주장을 지지하는가. 그러한 지루한 확인이야말로 AI 시대의 전문직의 중심 업무가 된다.

이번 법원의 판단은 AI에 대한 거부가 아니라, AI 시대의 책임의 소재를 분명히 하는 것이었다. 생성 AI는 말을 만들 수 있다. 그러나 책임은 만들 수 없다. 책임을 지는 것은, 마지막에 그 말을 선택하고, 서명하고, 제출한 인간이다.

출처 URL

Gizmodo: 사건의 개요, 양측 변호사가 AI 생성 서류를 확인하지 않았던 점, 판사의 대응을 보도하고 있다.
https://gizmodo.com/judge-cancels-whole-case-after-lawyers-admit-they-didnt-read-ai-generated-filings-2000769668

404 Media: 이 사건을 초기부터 상세히 보도한 기사. 법원의 제재 명령, Rob Freund 씨에 의한 SNS상의 지적, SNS에서 확산된 "AI끼리 싸운 것 같은 사건"이라는 문맥을 확인.
https://www.404media.co/judge-learns-lawyers-on-both-sides-of-case-used-ai-cancels-trial-kicks-everyone-off-the-case/

미 미시시피주 북부 지역 연방 지방 법원의 제재 명령 PDF: 사건 번호, 당사자, 문제된 AI 유래의 가공·확인 불가능한 판례 인용, 변호사 4명에 대한 제재 내용, 벌금액, 2년간의 출정 금지 등의 일차 자료.
https://storage.courtlistener.com/recap/gov.uscourts.msnd.50181/gov.uscourts.msnd.50181.123.0.pdf

Reuters: 사건의 개요, 제재 대상이 된 변호사 이름, 벌금액, 2년간의 출정 금지, 변호사 단체에의 통지 등을 확인.
https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/

Reddit r/law: 법률계 커뮤니티에서의 반응 확인. 사법 리소스의 낭비, 의뢰인에 대한 영향, 변호사가 AI 생성물을 확인하지 않았던 것에 대한 비판 등을 참조.