YouTube가 할리우드를 위한 딥페이크 감지를 확대, 환영과 불신이 교차하는 이유

YouTube가 할리우드에 제공한 "얼굴 검출 도구"

AI가 만든 영상을 보고, "이게 진짜인가"라고 잠시라도 혼란스러웠던 경험이 있는 사람은 이제 적지 않을 것이다. 정치인이 하지 않은 발언을 하는 것처럼 보이는 영상, 배우가 출연하지 않은 영화 장면에 등장하는 영상, 가수가 부르지 않은 곡을 부르는 것처럼 들리는 음성. 생성 AI의 진화로 인해, 과거에는 전문적인 기술이 필요했던 '사칭 영상'이 일반 사용자에게도 손에 닿을 수 있는 것이 되어가고 있다.

이러한 상황 속에서, YouTube가 새로운 주목할 만한 조치를 취했다. AI로 생성·변경된 인물의 얼굴, 즉 소위 deepfake를 검출하는 "likeness detection" 기술을 할리우드의 배우, 뮤지션, 탤런트, 그리고 그들을 대리하는 에이전시나 매니지먼트 회사에 확대했다.

이 기능은 등록된 인물의 얼굴과 유사한 AI 생성 콘텐츠를 YouTube에서 찾아내어, 본인이나 대리인이 확인할 수 있도록 하는 것이다. 문제가 있다고 판단될 경우, 사용자는 YouTube의 프라이버시 청구 절차를 통해 삭제를 요청할 수 있다.

YouTube는 그동안 유사한 기술을 일부 크리에이터에게 시험적으로 제공한 후, 정치인, 정부 관계자, 기자 등으로 대상을 확대해 왔다. 이번 확대에 따라, 대상은 본격적으로 엔터테인먼트 업계로까지 미치게 된다.

중요한 것은, 이 기능이 YouTube 채널을 가지고 있지 않은 유명인에게도 열려 있다는 점이다. 즉, YouTuber나 스트리머뿐만 아니라, 영화 배우, 뮤지션, 모델, TV 출연자 등 YouTube에 공식적인 활동 거점을 가지고 있지 않은 인물도 자신의 "얼굴"이 무단으로 이용되지 않았는지를 확인할 수 있는 가능성이 있다.

시스템은 "Content ID의 얼굴 버전"에 가깝다

YouTube 자체는 이 시스템을 저작권 관리 시스템 "Content ID"와 유사한 것으로 설명하고 있다. 다만, 검출 대상은 음악이나 영상 작품 그 자체가 아니라, 인물의 얼굴이다. Content ID가 음악이나 영상의 일치를 찾는 반면, likeness detection은 등록자의 얼굴과 유사한 AI 생성·변경 콘텐츠를 찾는다.

이용에는 본인 확인이 필요하다. 대상자는 정부 발행 신분증과 자신의 얼굴을 촬영한 짧은 셀카 동영상을 제출해야 한다. 이 셀카 동영상은 본인 확인뿐만 아니라, 검출을 위한 참조 데이터로도 사용된다. YouTube는 등록자 본인이 동의한 경우에 한해, 얼굴의 특징을 사용하여 해당 영상을 찾는다고 설명하고 있다.

현재 주요 대상은 "얼굴"이다. YouTube의 도움말 페이지에서는 음성 검출에 대해서는 앞으로 확장을 목표로 하고 있다고 되어 있다. 즉, 본인과 유사한 목소리로 가짜 발언이나 노래를 만드는 유형의 AI 음성에 대해서는 아직 별도의 과제로 남아 있다.

검출된 영상은 즉시 자동 삭제되는 것은 아니다. 본인이나 대리인이 목록을 확인하고, 삭제를 요청할지 여부를 판단한다. 그 후 YouTube 측이 프라이버시 정책에 비추어 심사한다.

여기가 큰 포인트다. 검출되었다고 해서, 모든 것이 삭제 대상이 되는 것은 아니다. YouTube는 콘텐츠가 AI 생성 또는 변경된 것인지, 시청자에게 그 사실이 공개되어 있는지, 인물이 유일하게 식별 가능한지, 현실적으로 보이는지, 패러디나 풍자, 공공성이 있는지를 고려한다고 한다.

즉, 이 기능은 "유명인의 얼굴을 사용한 영상을 일괄 삭제하는 스위치"가 아니다. 어디까지나, 본인이 자신의 초상 사용 방식을 파악하고, 문제가 있는 것에 대해 쉽게 청구할 수 있도록 하는 감시·관리 도구다.

왜 지금, 할리우드인가

엔터테인먼트 업계는, deepfake의 영향을 가장 받기 쉬운 분야 중 하나다. 배우의 얼굴을 다른 영화에 합성하는 것, 가수의 목소리를 사용해 미발표 곡과 같은 음원을 만드는 것, 실존하는 탤런트가 상품이나 정치적 주장을 지지하는 것처럼 보이게 하는 것. 이러한 콘텐츠는, 농담이나 팬메이드의 범위에 그칠 수도 있지만, 본인의 평판, 계약, 수입, 나아가 안전에까지 영향을 미칠 수도 있다.

특히 심각한 것은, 사기 광고나 가짜 추천 영상이다. 유명인이 실제로는 관련이 없는 투자 상품, 건강 식품, 암호 자산, 앱, 정치 캠페인 등을 지지하는 것처럼 보이는 영상은, 시청자를 속이는 힘을 가지고 있다. 본인에게는 명예나 신용의 문제이며, 시청자에게는 금전적 피해로 이어질 위험도 있다.

또한, AI에 의한 초상의 무단 이용은, 배우나 성우, 뮤지션의 일 자체에도 관련된다. AI로 본인과 똑같은 영상이나 목소리를 만들 수 있다면, 누가 그 권리를 가지는가. 본인의 허가가 필요한가. 보수가 발생하는가. 사망한 배우의 모습을 신작에 등장시키는 경우, 어디까지가 허용되는가.

YouTube의 이번 기능 확대는, 단순한 플랫폼상의 안전 대책에 그치지 않는다. AI 시대에 있어서의 "얼굴의 권리", "목소리의 권리", "인격의 상업적 이용"을 둘러싼 큰 흐름의 일부로 봐야 한다.

SNS에서는 환영보다도 불신이 두드러진다

이 뉴스에 대해, SNS에서는 다양한 반응이 나오고 있다. 특히 Reddit에서는, 냉소적인 시각이 두드러졌다.

두드러지는 것은, "AI 문제를 확대한 거대 테크 기업이, 이제 그 해결책을 제공하는가"라는 풍자다. 한 사용자는, Google이나 YouTube와 같은 기업이 AI 기술의 보급을 후원해 온 한편, 이제 와서 방어책을 제시하는 구조에 의문을 제기했다. 다른 사용자는, 골드러시에서 가장 돈을 번 것은 금을 캐는 사람이 아니라, 도구를 판 사람이었다는 비유를 들며, AI 시대에도 "문제 그 자체보다, 대책 도구를 파는 쪽이 이익을 얻는 것이 아닐까"라고 지적하고 있다.

또한, "오래된 바이러스 대책 소프트웨어의 비즈니스 모델 같다"는 반응도 있었다. 즉, 위협이 늘어날수록 검출 도구의 가치가 올라가는 구조 그 자체에 위화감을 느끼는 사람이 있다는 것이다.

한편으로, 오검출에 대한 우려도 강하다. AI에 의한 얼굴 검출이, 영화의 팬 편집, 코스프레 영상, 모방, 패러디, 게임의 모션 캡처, 명백히 농담으로 만들어진 영상까지 포함하는 것이 아닐까 하는 불안이다. 실제로, YouTube의 Content ID는 과거에도 오검출이나 과도한 권리 주장에 대해 비판을 받아왔다. 이번 기능이 "얼굴"에 적용된다면, 창작 표현에 대한 영향은 더욱 섬세해질 것이다.

Reddit 상에서는, 특정 코미디 계열 채널이나 팬메이드 영상이 영향을 받을 것이라는 걱정의 목소리도 있었다. deepfake가 명백히 풍자나 패러디로 사용되고 있는 경우, 그것을 어디까지 허용할 것인가. 본인의 권리 보호와 표현의 자유의 경계선은, 기계적으로 그을 수 있는 것이 아니다.

더 나아가, "결국 보호되는 것은 유명인뿐인가"라는 의문도 나오고 있다. 이번 대상은 할리우드의 셀럽이나 엔터테인먼트 관계자이지만, deepfake의 피해는 유명인에 국한되지 않는다. 일반인의 얼굴이나 목소리가 무단으로 사용되는 경우, 특히 성적인 합성 이미지·영상이나 사기에의 악용은 심각하다. 셀럽을 위한 보호가 진행되는 한편, 일반 사용자에게 같은 수준의 지원이 닿을 수 있는지는 큰 과제로 남는다.

YouTube 측에도 어려운 균형이 있다

다만, YouTube의 입장에서 보아도, 이 문제는 간단하지 않다. AI 생성 콘텐츠를 모두 금지하면, 교육, 비평, 패러디, 영상 제작, 팬 문화까지 위축될 가능성이 있다. 반대로 방치하면, 사칭, 사기, 명예 훼손, 정치적 혼란, 개인에 대한 괴롭힘이 확산된다.

YouTube는 이미, 현실적으로 보이는 AI 생성·변경 콘텐츠에 대해, 게시자에게 공개를 요구하는 규칙을 도입하고 있다. 실존 인물이 실제로는 하지 않은 발언이나 행동을 하는 것처럼 보이게 하는 경우, 실제로는 일어나지 않은 현실적인 사건을 묘사하는 경우 등은, 시청자에 대한 표시가 필요하다.

다만, 공개 라벨만으로 충분한지는 별개의 문제다. 시청자는 영상의 제목이나 썸네일만으로 인상을 가지는 경우가 많고, 라벨을 보지 않고 확산하는 경우도 있다. 특히 짧은 영상이나 SNS 재게시에서는, 원래의 문맥이 쉽게 사라진다. 가짜 영상이 한 번 확산되면, 나중에 정정해도 피해는 남는다.

따라서, 이번의 likeness detection은 "발견"을 빠르게 하는 시스템으로서 의미가 있다. 본인이나 대리인이 자력으로 검색을 계속하는 것보다, 플랫폼 측이 후보를 제시하는 쪽이 대응은 빨라진다. 악질적인 사기 광고나 명백한 사칭을 쉽게 찾아낼 수 있다면, 피해 확산을 억제하는 효과는 기대할 수 있다.

한편으로, 검출 정확도, 심사의 투명성, 청구에 대한 대응 속도, 이의 제기 시스템이 불충분하다면, 새로운 불만을 낳는다. 특히 YouTube에서는, 크리에이터가 수익화 중단이나 영상 삭제의 이유를 충분히 이해하지 못한 채 불이익을 받았다고 느끼는 경우가 그동안에도 있었다. 얼굴 검출에서도 같은 일이 일어나면, "유명인이나 대형 사무소에 유리한 시스템"으로 받아들여질 수 있다.

"진짜 같음"이 가치가 되는 시대

이번 뉴스가 시사하는 것은, AI 시대에는 "진짜임" 그 자체가 가치가 된다는 것이다. 과거에는 영상이 증거로서 강한 힘을 가졌다. 그러나, 누구나 고도의 합성 영상을 만들 수 있게 되면, 영상은 그것만으로는 믿을 수 없게 된다.

그래서 중요해지는 것이, 본인 확인, 출처의 증명, AI 이용의 공개, 그리고 플랫폼에 의한 검출이다. YouTube의 노력은, 그 일부에 불과하다. 앞으로는, 촬영 시점에서의 진정성 증명, 크리에이터 측의 투명한 표시, 시청자의 미디어 리터러시, 법률에 의한 초상권 보호, 업계 단체에 의한 규칙 만들기가 결합될 필요가 있다.

그러나, 아무리 기술이 발전해도, 완전한 해결은 어렵다. 검출 기술이 발전하면, 생성 기술도 발전한다. 플랫폼에서 삭제되더라도, 다른 사이트나 SNS에 재게시된다. 본인이 삭제를 요구해도, 패러디나 비평으로 인정되는 경우도 있다.

그렇기 때문에, 이번 YouTube의 기능은 "종착점"이 아니라 "입구"로 보아야 한다. 셀럽의 deepfake를 검출하는 시스템은, 앞으로 정치인, 기자, 크리에이터, 일반 사용자로 확산될 가능성이 있다. 그 과정에서 물어야 할 것은, 누구의 얼굴이 보호되는가, 누가 삭제를 판단하는가, 그리고 AI에 의한 창작과 권리 침해의 경계를 어디에 둘 것인가라는 문제이다.

셀럽만의 이야기가 아니다

할리우드의 유명인을 보호하는 도구라고 들으면, 일반 사용자에게는 먼 이야기로 느껴질지도 모른다. 그러나, 이것은 누구에게도 무관하지 않다.

생성 AI가 더욱 손쉬워지면, 학교, 직장, 지역 커뮤니티, 가족 관계에서도, 얼굴이나 목소리의 무단 이용이 문제가 될 가능성이 있다. 본인이 하지 않은 말을 한 것처럼 보이게 하는 영상, 존재하지 않는 장면에 본인을 등장시키는 이미지, 본인과 똑같은 목소리로 사기 전화를 거는 행위. 이들은 이미 현실의 위험이 되고 있다.

YouTube가 이번에 할리우드에 제공하는 도구는, 처음의 대상이 셀럽일 뿐, 사회 전체가 직면하는 과제의 축소판이다. 얼굴은 단순한 이미지 데이터가 아니다. 신뢰, 직업, 평판, 인격, 생활 그 자체와 연결되어 있다.

SNS의 반응이 냉소적인 것은, 단지 YouTube에 대한 불신 때문만이 아니다. 많은 사람들이, AI에 의해 현실과 가짜의 경계가 흔들리는 것에 불안을 느끼고 있다. 그리고 동시에, 그 해결을 거대 플랫폼에만 맡기는 것에도 저항을 느끼고 있다.

YouTube의 deepfake 검출 도구는, 확실히 필요한 한 걸음이다. 그러나, 그 한 걸음이 신뢰받기 위해서는, 누구를 보호하는지, 무엇을 삭제하는지, 어떻게 이의를 제기할 수 있는지를, 보다 명확하게 제시할 필요가 있다. AI 시대의 "얼굴"을 둘러싼 싸움은, 아직 시작에 불과하다.

출처 URL

G1 Globo: 본 기사 작성의 기점이 된, YouTube가 할리우드의 유명인에게 deepfake 검출 도구를 제공한다는 보도.
https://g1.globo.com/tecnologia/noticia/2026/04/24/youtube-lanca-ferramenta-de-deteccao-de-deepfakes-para-celebridades-de-hollywood.ghtml

YouTube 공식 블로그: likeness detection을 엔터테인먼트 업계로 확대한 것, CAA, UTA, WME, Untitled Management 등과 연계하고 있다는 공식 발표.
https://blog.youtube/news-and-events/youtube-likeness-detection-ai-protection/##HTML_TAG