법정의 "진실" : "그 증거, AI인가?" 법정을 흔드는 가짜 이미지와, 간파하는 기술의 한계

「그 증거, AI가 만든 것 아닌가？」법정을 흔드는 가짜 이미지와, 그것을 간파하는 기술의 한계

스마트폰에 남은 녹음, 방범 카메라의 영상, SNS에 게시된 사진. 문제가 발생했을 때, 이러한 기록은 주장의 차이를 풀어내는 단서가 된다.

그러나 그 기록에 대해 "생성 AI로 만든 것이 아닌가"라는 지적을 받는다면 어떻게 해야 할까.

겉모습이 자연스러워서 진짜인 것인가. 탐지 도구가 의심을 나타내면 가짜인 것인가. 애초에 몇 년 전 게시한 사진의 원본 파일은 아직 손에 있을까.

캐나다에서 진행 중인 연구는 이 문제의 어려움을 부각시키고 있다. AI가 만든 증거를 간파하기 위한 기술은 개발되고 있다. 하지만 실험실에서의 성과를 그대로 현실의 사법 절차에 도입할 수 있는 것은 아니다.

여러 탐지 AI를 모아도 결론이 나오지 않는다

Global News가 게재한 2026년 10월 30일자 캐나다 프레스 기사에 따르면, 연구를 공동으로 이끌고 있는 사람은 워털루 대학의 컴퓨터 과학 연구자 모라 그로스만 씨다. 요크 대학의 오즈굿 홀 로스쿨에서도 가르치고 있다.

팀이 목표로 하고 있는 것은, 법원이나 사법에 관련된 사람이 사용할 수 있는, 무료로 조작하기 쉬운 오픈 소스 도구이다. 이미지 등이 AI로 생성·가공된 것인지 조사할 때의 지원을 상정하고 있다.

시스템의 특징은 단일 알고리즘에 판단을 맡기지 않고, 여러 첨단 탐지 알고리즘을 결합하고 있다는 점이다. 각각이 판정하고, 일종의 위원회처럼 결과를 모은다.

하지만 2년간의 연구 계획이 반환점에 가까워지면서 과제가 드러났다.

그로스만 씨가 실제 상황에서 시도한 2건에서는, 유용한 결론을 낼 수 있을 만큼 알고리즘 간의 판단이 일치하지 않았다고 한다.

여기서 주의할 점은, 이 보고가 "모든 AI 탐지 기술은 쓸모없다"고 증명한 것은 아니라는 것이다. 원 기사에는 이 2건의 상세한 조건이나, 대규모 평가에 기반한 정답률은 나타나 있지 않다. 법정에서 정식으로 채택된 검증이었다고도 쓰여 있지 않다.

그럼에도 불구하고, 현실의 자료를 앞에 두면 최신 기술을 결합해도 판단이 갈릴 경우가 있다. 그 사실은 "AI의 가짜는 다른 AI에 보여주면 해결된다"는 기대에 수정을 요구한다.

SNS에 게시한 시점에서, 검증의 단서가 줄어든다

왜 실험실과 현실 사이에 격차가 생기는 것일까.

그로스만 씨가 언급한 이유 중 하나가, 이미지가 유통되는 과정에서 변화하는 것이다.

촬영 직후의 파일과 SNS에 게시된 이미지는 같은 상태라고는 할 수 없다. 게시 시에 압축되고, 촬영에 관한 부수적인 정보인 메타데이터가 제거될 수도 있다.

게다가 그 이미지가 저장되고, 다른 장소에 게시되며, 스크린샷으로 공유된다. 사람이 눈으로 보는 그림은 비슷해도, 조사할 수 있는 정보는 원본 파일과 달라진다.

게다가, 법정 등에서 문제가 되는 것은 게시 직후가 아닐 수도 있다. 몇 년 후에 분쟁이 되었을 시점에 원본 파일이 사라졌을 가능성도 있다.

중요한 것은, 압축되어 있는 것과 메타데이터가 없는 것 자체가 조작의 증거가 되지 않는다는 점이다. 일반적으로 SNS를 이용하는 것만으로도 그런 상태가 될 수 있다.

진짜 이미지라도 검증 자료가 부족해진다. 그래서 "조사해도 알 수 없었다"와 "가짜였다"는 명확히 구분해야 한다.

법정에서 필요한 것은 "판정 결과"만이 아니다

평소의 SNS 열람이라면, "의심스러우니 확산하지 않는다"는 판단으로 끝날 수도 있다.

그러나 법정에서는 판단의 영향이 훨씬 크다. 어떤 기록을 믿을지 여부가 사람의 책임이나 생활을 좌우할 가능성이 있다.

그로스만 씨는 개발 초기부터 도구를 만능의 해결책으로 생각하지 않았으며, 인간의 관여와 판단이 필요하다고 강조하고 있다. 왜 그렇게 판단했는지를 설명할 수 있는 사람도 필요하다고 한다.

탐지 결과를 사용하려면, 무엇을 조사했는지, 어떤 조건에서 판단이 어려워지는지, 불확실성이 얼마나 남아 있는지를 다루어야 한다.

"AI가 가짜라고 했으니까"라는 이유만으로는, 다른 AI가 만들었을지도 모르는 증거를 충분히 검증한 것이 되지 않는다.

이 연구가 묻고 있는 것은 탐지기의 성능만이 아니다. 탐지 결과를 사람이 이해하고, 검토할 수 있는 형태로 사법 내에 위치시킬 수 있는가라는 문제이기도 하다.

무료 도구를 목표로 하는 이유는 검증 비용에 있다

워털루 대학의 연구 소개에서는, 전문가에게 AI 관련 증거를 조사하게 하려면 비용이 들고, 재판의 지연으로 이어질 수 있다고 설명되어 있다. 대규모 사건이 아닌 경우에는 그러한 대응이 어렵다는 문제의식이 있다.

무료로 사용하기 쉬운 도구에는, 본인만으로 소송에 임하는 사람이나, 충분한 전문적 지원을 이용할 수 없는 사람을 돕는 목적도 있다.

여기서 떠오르는 것은, 가짜를 만드는 부담과 그것을 검증하는 부담이 균형을 잃게 되는 위험이다.

의심스러운 이미지를 하나 제시할 때마다, 고액의 감정이 필요하게 된다면 어떻게 될까. 반대로, 진짜 기록을 제출한 사람이 그 진정성을 설명하기 위해 많은 시간과 비용을 부담하게 된다면 어떻게 될까.

이는 연구의 배경에서 생각할 수 있는 공정성의 문제이다. 증거를 확인하기 위한 수단을 얼마나 널리 이용할 수 있도록 할 것인가. 탐지의 정확도와 함께 그 조건도 묻고 있다.

SNS에서 이야기되는 것은 "가짜가 통하는 공포"만이 아니다

이 문제와 관련된 공개 토론으로, Reddit의 영국 경찰 관련 커뮤니티 "r/policeuk"에서는 AI로 생성·가공된 이미지나 동영상이 증거로 제출될 가능성이 화제가 되고 있다.

이하는 이번 Global News 기사에 대한 직접적인 반응이 아니라, 같은 주제를 다루는 다른 스레드에 있는 게시물의 요지다. 익명 게시물이며, 게시자의 직업이나 체험담의 진위를 독립적으로 확인할 수 있는 것은 아니다.

하나는 방범 영상 등에 "AI로 만든 것이 아닌가"라는 의심이 향해져, 진짜 기록의 설득력까지 손상될 것에 대한 우려이다.

한편, 촬영 원본에서 직접 데이터를 얻는 것과, 같은 사건을 기록한 여러 영상을 대조하는 것이 더 중요해진다는 의견도 있었다.

또한 탐지 도구의 시험용 데이터와 현장에서 일상적으로 다루는 영상은 같지 않다고 하여, AI를 초기 확인의 보조로 사용하고 그 후에 사람이 조사하는 방법을 지지하는 게시물도 보였다.

이들은 여론 전체를 나타내는 것은 아니다. 다만, 관심이 "가짜를 간파할 수 있는가"뿐만 아니라 "진짜에 대한 신뢰를 어떻게 지킬 것인가"에도 향하고 있음을 알 수 있다.

"이것은 AI다"라는 의심에도 검증이 필요하다

생성 AI가 초래하는 문제에는 두 가지 방향이 있다.

하나는 가짜가 진짜로 받아들여지는 것. 또 하나는 진짜가 가짜로 거부되는 것이다.

전자만 경계하여 모든 영상을 의심하게 되면 피해나 사건을 기록한 사람의 노력까지 무의미해질 수 있다.

반대로 겉모습의 자연스러움만으로 신뢰하면, 교묘하게 만들어진 자료를 받아들일 위험이 있다.

필요한 것은 "믿는다"거나 "의심한다"는 태도를 먼저 정하는 것이 아니라, 그 기록의 성립을 확인하는 자세다.

누가, 언제, 어디서 기록했는가. 원본 데이터는 있는가. 어떻게 공유되었는가. 다른 자료와 모순되지 않는가.

AI에 의한 가공의 가능성을 지적하는 측에도, 그 지적을 검토할 수 있는 자료가 요구된다. 가능성이 있다는 것만으로 개별 기록이 가짜가 된 것은 아니다.

일본의 우리에게도 관련 있는 "기록의 남기는 방법"

이번 보도는 캐나다의 연구에 관한 것이며, 일본의 법원이 같은 시스템을 채택하고 있다는 이야기는 아니다.

그럼에도 불구하고, 생활과의 접점은 많다.

교통사고의 드라이브 레코더, 업무상의 교류, 상점과의 문제, SNS상의 괴롭힘. 무슨 일이 있을 때를 대비해 사진이나 녹음, 화면의 기록을 남기는 사람은 적지 않을 것이다.

이번 과제에서 일상의 기록 관리에 대한 시사점으로 제시할 수 있는 것은, 공유용 복사본뿐만 아니라, 취득한 상태의 데이터도 남겨두는 것이다.

보기 쉽게 하기 위해 잘라낸 이미지가 있어도, 자르기 전의 것을 저장한다. 짧은 동영상을 만들어도, 앞뒤를 포함한 원본 동영상을 남긴다. 기록한 날짜와 상황도 나중에 추적할 수 있도록 한다.

이들은 특정 자료가 일본의 재판에서 증거로 인정받을 것을 보장하는 방법은 아니다. 다만, 나중에 확인할 수 있는 단서를 스스로 줄이지 않기 위한 사고방식이 된다.

"무엇이 찍혀 있는가"와 마찬가지로 "그 기록이 어떻게 남겨졌는가"가 중요해진다.

화질을 개선하는 것과 사실을 확인하는 것은 다르다

또 하나, 일상에서 주의하고 싶은 것은 생성 AI를 사용한 이미지 보정이다.

여기서 생각하고 싶은 것은, 그로스만 씨 등의 2건의 시도와는 별개의, 기록을 다룰 때의 문제이다.

어두운 영상을 밝게 하는 처리와 보이지 않는 부분을 생성 AI로 그려 넣게 하는 처리는 같은 의미가 아니다. 그럴듯한 얼굴이나 물체의 형태가 나타나도, 그것이 원래 장면에 존재했다고 확인된 것은 아니다.

보기 쉬워진 이미지는 보는 사람에게 강한 인상을 준다. 그러나 인상의 선명함과 기록으로서의 확실함은 별개의 것이다.

확인이나 설명을 위해 가공판을 만들었을 경우에도, 원본 데이터와 혼동하지 않는 것이 중요하다. 어디까지가 기록이고, 어디서부터가 처리에 의한 표현인가. 그 구분이 사라지면 선의의 작업이라도 판단을 어렵게 만든다.

"만능 탐지기"를 기다리기만 해서는 부족하다

그로스만 씨 등은 연구를 계속하고 있으며, 다음 단계에서는 법 집행 기관이나 정책 담당자에게 의견을 받을 예정이라고 한다.

그가 언급하는 것은 기술뿐만 아니라, 법률, 규제, 정책, 그리고 사람들이 정보를 판별하기 위한 교육이다.

해로운 것이 만들어진 후에 탐지하는 쪽으로 부담을 집중시켜도 되는가. 애초에 생성이 금지되어야 할 것은 없는가. 원 기사에서는 그러한 정책 면의 검토에도 언급하고 있다. 다만, 구체적으로 무엇을 어디까지 금지할 것인가라는 제도안이 제시된 것은 아니다.

연구의 난항은 포기할 이유가 아니다. 오히려 기술이 할 수 있는 것과 기술만으로는 감당할 수 없는 것을 판별하는 자료가 된다.

앞으로의 증거의 신뢰는 하나의 탐지기가 내는 답만으로는 지탱할 수 없다. 원본 데이터, 기록의 경위, 주변의 자료, 사람에 의한 설명을 쌓아가야 한다.

사진이나 동영상의 가치가 사라지는 것은 아니다. 그 가치를 지키기 위해, 찍혀 있는 내용뿐만 아니라, 거기에 이르는 경로도 확인해야 하는 시대가 되고 있다.

출처 및 참고 자료

1. Global News／The Canadian Press：
   그로스만 씨의 설명, 여러 탐지 알고리즘을 결합한 시스템, 실제 2건에서 판단이 충분히 일치하지 않았던 것, 이미지의 압축이나 메타데이터 소실 문제, 향후 연구 방침.
   https://globalnews.ca/news/12127820/distinguishing-ai-information-in-court/

2. ##HTML_TAG