「AI 제작」を 숨길 수 없는 시대에 EU의 새로운 규칙이 일본 기업과 인플루언서에게 던지는 것

2026년 8월 2일, 인터넷상의 정보의 보이는 방식을 바꿀 가능성을 가진 규칙이 유럽연합에서 시작되었다. EU의 포괄적인 인공지능 규제인 "AI 법"에 따라, 생성 AI로 만들어진 콘텐츠나 인간을 대신해 응답하는 AI 시스템에 관한 투명성 의무가 적용되었다.

대상이 되는 것은 소위 딥페이크만이 아니다. 생성 AI가 만든 이미지, 영상, 음성, 문서, 기업의 챗봇, AI 아바타, 음성 에이전트 등, 인간이 진짜라고 받아들일 가능성이 있는 폭넓은 콘텐츠와 서비스가 관련된다.

뉴스 기사 제목만 보면, "EU에서는 AI로 만든 것에는 모두 눈에 띄는 라벨을 붙여야 한다"라고 이해되기 쉽다. 그러나 실제 제도는 조금 더 복잡하다. 규칙은 크게 "AI 시스템을 제공하는 측"과 "AI 시스템을 업무에 사용하는 측"으로 나뉘어 있다.

모든 생성물에 같은 라벨을 붙이는 제도가 아니다

우선, ChatGPT, Gemini, 이미지 생성 서비스 등의 AI 시스템을 제공하는 기업에는 생성물이 AI에 의해 작성 또는 가공되었음을 기계가 판별할 수 있도록 하는 것이 요구된다.

구체적으로는 메타데이터, 전자 서명, 감지 가능한 워터마크 등을 조합하여 이미지나 동영상이 다른 사이트로 전재된 경우에도 그 인공적인 출처를 확인할 수 있는 시스템을 갖추는 생각이다. 인간의 눈에 항상 큰 경고문을 표시하는 것만을 의미하는 것이 아니라, 기계가 읽을 수 있는 표시를 파일이나 콘텐츠에 남기는 것이 중요하다.

또한, 이용자와 직접 대화하는 챗봇이나 AI 에이전트에 대해서는 상대가 인간이 아닌 AI임을 알 수 있도록 설계해야 한다. 문의 창구에서 자연스러운 문장이 돌아와도 이용자가 인간 담당자와 대화하고 있다고 오해하는 상태는 피할 필요가 있다.

한편, AI를 사용하여 광고, 기사, 영상 등을 제작·공개하는 기업이나 사업자에게는 특정 콘텐츠를 인간이 인식할 수 있는 형태로 표시할 의무가 부과된다.

특히 중요한 것은 실제 존재하는 인물, 장소, 물체, 조직, 사건 등을 진짜처럼 보이게 하는 딥페이크이다. AI로 작성 또는 가공된 영상이나 음성이 현실에서 촬영·녹음된 것으로 오해될 가능성이 있는 경우, 열람자가 처음 접촉하는 단계에서 알기 쉬운 표시를 해야 한다.

정치, 행정, 사법, 공공의 안전, 공중 보건, 환경, 경제, 금융, 과학, 문화 등 사회적 논의에 영향을 미치는 문서도 대상이 될 수 있다. AI가 생성·가공한 문서를 충분한 인간의 확인이나 편집 없이 공표하는 경우에는 그 사실을 명시해야 한다.

반대로, 전문 지식을 가진 인간이 내용을 확인하고 정보원을 검증하며 문서를 수정하거나 공개 중단할 수 있는 편집 체제가 기능하고 있는 경우에는 공공성이 높은 문서라도 표시 의무의 예외가 될 수 있다. 다만, 오타 수정이나 문법 체크만으로는 실질적인 인간의 심사로 인정되지 않는다.

즉, 문제되는 것은 "AI를 한 번이라도 사용했는가"만이 아니다. AI가 어느 정도 내용을 만들었는지, 인간이 어디까지 책임을 지고 검증했는지, 열람자가 진짜라고 오해할 가능성이 있는지가 중요하다.

인플루언서도 "개인이기 때문에 대상 외"라고 할 수 없다

EU의 규칙에서는 개인적이고 비직업적인 목적으로 AI를 이용하는 일반 개인은 원칙적으로 사업자 측의 의무에서 제외된다.

예를 들어, 취미로 생성한 이미지를 개인 계정에 게시하는 행위는 보통 사업 활동으로 간주되지 않는다. 그러나 광고 수입, 기업 프로젝트, 상품 판매, 회원 서비스, 지속적인 후원 등을 통해 경제적 이익을 얻고 있는 경우, 그 활동은 직업적, 상업적인 것으로 판단될 가능성이 있다.

팔로워 수가 많고 적음만으로 결정되는 것이 아니다. 지속적으로 수익을 얻고 있는 인플루언서, 동영상 스트리머, 어필리에이터, 프리랜서 크리에이터 등은 AI를 업무에 이용하는 "도입자"로 취급될 가능성이 있다.

실제 인물과 닮은 AI 모델을 광고에 출연시키거나 본인이 말하지 않은 상품 설명을 AI 음성으로 말하게 하면 명확한 표시가 필요할 가능성이 높다.

한편, 현실에는 존재하지 않는 것이 명확한 판타지 이미지나 시청자가 픽션임을 이해할 수 있는 작품까지 항상 큰 경고 표시를 붙여야 하는 것은 아니다. 예술, 창작, 풍자, 픽션에 관해서는 작품의 감상을 방해하지 않는 표시 방법이 인정되고 있다.

이 점은 일본의 광고 회사나 콘텐츠 제작 회사에 있어서 중요하다. EU를 대상으로 한 캠페인을 제작할 경우, "AI 이미지를 사용했다"는 사실만으로 일률적으로 판단하는 것이 아니라, 실재성, 오인 가능성, 이용 목적, 대상이 되는 시청자를 정리해야 한다.

왜 EU는 표시를 의무화했는가

배경에 있는 것은 생성 AI에 의해 "진짜 같은 가짜"를 저비용으로 대량으로 만들 수 있게 된 현실이다.

이전의 합성 영상이나 음성에는 고도의 편집 기술이나 장비가 필요했다. 그러나 현재는 일반 사용자도 짧은 시간에 정치인이 실제로 말하지 않은 연설, 유명 인물에 의한 가상의 상품 추천, 존재하지 않는 전문가의 해설, 가짜 재해 영상 등을 만들 수 있다.

기업 광고에서도, 실제로 존재하지 않는 의사나 연구자, 소비자, 인플루언서를 등장시켜 상품의 효과나 인기를 강조하는 것이 가능해졌다. 열람자가 AI 생성물이라고 알지 못하면 현실의 체험담이나 전문가의 추천으로 받아들일 우려가 있다.

EU가 보호하려고 하는 것은 단순한 저작권이나 개인정보만이 아니다. 소비자가 상품을 선택할 때의 판단, 선거나 정책에 관한 의사 결정, 뉴스에 대한 신뢰, 인간 간의 커뮤니케이션 그 자체가 대상이다.

"가짜를 금지하는" 것이 아니라, "인공적으로 만들어진 것을 숨기고 진짜로 유통시키는 행위를 줄이는" 것이 투명성 규칙의 기본 사상이라고 할 수 있다.

SNS에서는 환영과 의문이 교차

새로운 규칙을 둘러싸고 유럽의 기술계 커뮤니티나 LinkedIn, Reddit 등에서 활발한 논의가 일어나고 있다. SNS상의 게시물은 여론 조사와는 다르며 사회 전체를 대표하는 것은 아니지만, 이용자나 실무자가 가진 의문을 아는 단서가 될 수 있다.

눈에 띄는 것은 "적어도 AI인지 인간인지 알려야 한다"는 환영의 목소리이다.

특히, 고객 서비스나 전화 창구에 대해서는 상대가 AI인지 인간인지 모르는 것에 대한 불만이 강하다. "이미지나 동영상뿐만 아니라 대화하고 있는 상대가 AI라는 것도 표시해 주었으면 좋겠다"는 의견이 보이며, 이번 규칙이 챗봇이나 음성 에이전트도 대상으로 하고 있는 것을 평가하는 반응이 나오고 있다.

정치적인 가짜 동영상이나 유명 인물의 가짜 광고가 증가하고 있기 때문에, "미국 등 다른 지역에도 유사한 제도가 필요하다"는 게시물도 있다. EU의 대응을 기술의 변화에 법률이 따라가려는 시도로 긍정적으로 받아들이는 이용자가 적지 않다.

한편, 표시 방법의 모호함을 불안시하는 목소리도 있다.

"라벨은 어느 정도 크기여야 충분한가", "화면의 구석에 작게 표시하는 것만으로 좋은가", "동영상의 중간부터 본 사람에게도 알 수 있도록 해야 하는가" 등의 의문이다. EU는 라벨용 아이콘을 준비하고 있지만, 그 사용은 필수가 아니며, 사업자가 다른 방법을 선택할 수도 있다.

유연성이 있는 한편, 어디까지 실행해야 "명확한 표시"로 인정받을 수 있는지가 알기 어렵다는 지적이 나오고 있다. 소규모 제작 회사나 개인 크리에이터에게는 법률, 디자인, 기술을 모두 이해하는 부담이 작지 않다.

또 하나 눈에 띄는 것은 "쿠키 배너의 전철을 밟는 것이 아닌가"라는 우려이다.

웹사이트를 열 때마다 표시되는 쿠키 동의 화면처럼, 모든 곳에 AI 라벨이 붙으면 이용자가 내용을 확인하지 않고 반사적으로 무시하게 될 가능성이 있다. 경고가 너무 많아지면 정말로 위험한 딥페이크와 단순한 배경 이미지 생성이 동일하게 취급되면 중요도의 차이가 보이지 않게 된다.

"AI 사용"이라고만 표시해도 인물의 얼굴을 완전히 합성한 것인지, 사진의 밝기를 조정한 것인지 알 수 없다. 라벨이 존재하는 것과 이용자가 내용을 올바르게 이해하는 것은 동일하지 않다.

집행의 실효성에 대한 의문도 여전하다. EU 외부에서 만들어져 익명 계정을 통해 확산되는 콘텐츠를 어디까지 추적할 수 있는가라는 문제이다. 메타데이터는 이미지의 압축, 스크린샷, 재게시 등에 의해 사라질 수 있으며, 악의적인 이용자가 의도적으로 삭제할 가능성도 있다.

SNS상에서는 "국외에서 만들어진 대량의 콘텐츠에 어떻게 대응할 것인가", "표시에 따르는 기업만이 부담을 지고, 악질적인 게시자는 무시하는 것이 아닌가"라는 반응도 나오고 있다.

라벨이 있으면 사람은 속지 않게 되는가

AI 표시는 중요하지만, 그것만으로 가짜 정보 문제가 해결되는 것은 아니다.

지금까지의 연구에서는 AI 생성이라는 표시를 본 이용자가 그 정보를 이전보다 낮게 평가하는 경향이 나타나는 한편, 설득력이나 공유 행동이 반드시 크게 감소하지 않는 경우도 보고되고 있다.

또한, "AI 생성과 표시되지 않은 것은 진짜다"라고 이용자가 과신하는 위험도 있다. 인간이 촬영한 진짜 이미지에 허위 설명을 붙이는 행위나 인간이 작성한 가짜 정보는 AI 라벨만으로는 막을 수 없다.

잘못된 라벨이 붙을 가능성도 문제가 된다. 실제 사진이 AI 생성으로 판정되면 촬영자나 보도 기관의 신뢰가 손상된다. 반대로, 교묘한 생성물을 감지할 수 없다면 라벨 제도 자체에 대한 신뢰가 저하된다.

따라서 AI 라벨은 "진위를 보증하는 표시"가 아니라 "제작 과정을 판단하기 위한 추가 정보"로 생각해야 할 것이다. 최종적인 신뢰성은 정보원, 편집 책임, 검증 방법, 발신자의 실재성 등을 종합하여 판단할 필요가 있다.

일본은 EU와 다른 길을 선택하고 있다

일본에서도 2025년에 최초의 AI에 특화된 법률인 "인공지능 관련 기술의 연구 개발 및 활용의 촉진에 관한 법률"이 성립되어 같은 해 9월에 전면 시행되었다.

일본의 AI 법도 적절한 연구 개발과 이용을 위해 투명성을 확보할 필요성을 내세우고 있다. 그러나 현 시점의 제도 구조를 비교하면, EU처럼 생성 콘텐츠의 표시 방법이나 대상을 횡단적으로 정하고 위반 시 고액의 제재금을 부과하는 규제와는 성격이 다르다.

일본은 AI의 연구 개발과 활용을 촉진하면서 정부에 의한 지침, 정보 수집, 조사, 사업자에 대한 지도와 조언, 기존 법률을 조합하여 리스크에 대응하는 자세가 강하다.

EU가 사업자에게 구체적인 의무를 부과하는 "규제형"이라면, 일본은 관민의 협력과 가이드라인을 중시하는 "촉진·협조형"에 가깝다.

이 차이는 어느 쪽이 옳은가라는 단순한 문제가 아니다. 엄격한 규제는 소비자 보호와 신뢰 확보로 이어지는 한편, 대응 비용을 증가시켜 중소기업이나 신생 기업의 활동을 억제할 가능성이 있다. 유연한 제도는 기술 개발을 진행하기 쉬운 반면, 악질적인 딥페이크나 가짜 광고에 대한 대응이 사업자에게 맡겨지기 쉽다.

일본에 있어 중요한 것은 국내 제도만을 보고 판단하지 않는 것이다. 일본 기업이 EU의 소비자에게 상품을 판매하고, EU를 대상으로 한 웹사이트나 광고를 운영하며, 현지 법인이나 대리점을 통해 AI 서비스를 제공하는 경우, EU의 규칙과 무관할 수 없다.

일본 기업에도 필요한 다섯 가지 대응

첫째, 사내의 어디에서 생성 AI를 사용하고 있는지를 파악할 필요가 있다.

광고 이미지, 상품 설명, SNS 게시물, 채용 동영상, 문의 대응, 번역, 내레이션 등, 생성 AI는 여러 부서에서 개별적으로 도입되어 있는 경우가 많다. 회사로서 인식하지 못한 "현장 이용"이 존재하면 표시 의무의 판단도 할 수 없다.

둘째, AI 제공 사업자가 어떤 표시를 생성물에 붙이고 있는지를 확인할 필요가 있다.

생성 시에는 메타데이터가 붙어 있어도, 이미지 편집 소프트웨어, 광고 배포 시스템, CMS, SNS에 업로드함으로써 삭제되는 경우가 있다. 제작에서 공개까지의 과정에서 AI 유래의 정보가 유지되는지를 검증해야 한다.

셋째, 인간에 의한 확인의 의미를 사내에서 정의할 필요가 있다.

담당자가 문서를 한 번 읽었