Claude의 "보이지 않는 워터마크"는 제거할 수 있는가 - Cardano 창립자 Anthropies가 제기한 AI 시대의 새로운 논쟁

생성 AI가 작성한 문장을 인간이 작성한 문장과 구별할 수 있도록 한다.

겉으로 보기에는, 가짜 정보나 대량의 AI 생성 콘텐츠가 넘쳐나는 시대에 환영받을 만한 시스템처럼 보일 수 있다. 그러나 그 "표시"가 인간에게는 보이지 않으며, AI를 조금만 사용해도 문장에 남을 가능성이 있다면, 이야기는 단순하지 않다.

2026년 8월, 암호 자산 Cardano의 공동 창립자로 알려진 찰스 호스킨슨 씨가, Anthropic의 생성 AI "Claude"와 관련된 워터마크나 이력 정보를 제거하기 위한 오픈 소스 프로젝트 "Anthropies"를 공개했다.

이는 단순한 편리한 도구의 공개라기보다는 생성 AI의 투명성을 어디까지 기술적으로 강제해야 하는지, 그리고 AI 기업에는 사용자가 생성한 콘텐츠에 어디까지 "표시"를 남길 권리가 있는지에 대한 더 큰 논쟁을 불러일으키고 있다.

Claude가 도입한 "보이지 않는 워터마크"

이번 소동을 이해하는 데 중요한 것이 Claude에 도입되는 텍스트 워터마크의 메커니즘이다.

"워터마크"라고 하면, 이미지의 모서리에 표시되는 로고나, 문장 속에 비밀의 문자열을 삽입하는 방법을 상상하는 사람도 있을 것이다.

그러나 Anthropic이 채택한 방식은 그것과 크게 다르다.

문장 속에 특수한 문자가 추가되는 것이 아니다. 대신, AI가 문장을 생성할 때의 "단어 선택 방식" 자체에 통계적인 패턴을 부여한다.

예를 들어 문장을 이어갈 때, "중요하다", "소중하다", "필수적이다" 등 의미적으로 어느 것을 선택해도 어색하지 않은 후보가 여러 개 존재한다고 하자.

일반적인 생성 AI는 일정한 확률에 따라 그 중에서 다음 단어를 선택하지만, 워터마크 방식에서는 비밀의 키에 기반한 규칙을 사용하여 그 선택에 일정한 통계적 경향을 부여한다.

인간이 문장을 읽어도 차이를 알 수 없다.

그러나 키를 가진 측이 충분한 길이의 문장을 분석하면, "이 문장의 생성에 Claude가 관여했을 가능성"을 통계적으로 평가할 수 있다는 생각이다.

Anthropic에 따르면, 이 방식은 Google DeepMind가 연구해온 SynthID Text의 접근 방식을 기반으로 하고 있다.

중요한 것은, 이 표시가 "문자의 뒤에 숨겨진 데이터"가 아니라, 문장 자체의 언어 사용에 포함되어 있다는 점이다.

단순히 특수 문자를 삭제하거나, 텍스트 파일에서 메타데이터를 제거하는 것만으로는 제거할 수 없다.

배경에 있는 EU AI Act

Anthropic이 이러한 기술을 도입하는 큰 이유 중 하나가 유럽 연합의 AI 규제 "EU AI Act"이다.

2026년 8월 2일부터 적용된 투명성에 관한 규정에서는, 생성 AI 제공자에게 AI에 의해 생성 또는 조작된 콘텐츠를 기계로 감지할 수 있도록 하는 조치가 요구되고 있다.

대상에는 문장뿐만 아니라, 이미지, 음성, 동영상 등도 포함된다.

생성 AI의 성능이 급속히 향상됨에 따라, 인간이 제작한 콘텐츠와 AI 생성 콘텐츠의 구별이 어려워지고 있다. 딥페이크나 가짜 뉴스, 사칭, 대량 생성된 홍보 콘텐츠 등에 대한 대책으로, 콘텐츠의 출처를 확인할 수 있는 시스템을 갖추려는 것이다.

그러나 제도는 "AI에 조금이라도 접촉한 것은 모두 AI 생성물로 표시해야 한다"는 단순한 것이 아니다.

유럽 위원회의 가이드라인에서는, 표준적인 편집 보조 등에 대한 예외가 제시되어 있으며, 소스 코드 등도 일정 조건에서 마킹 의무의 대상 외가 된다.

또한, 2026년 8월 2일 이전부터 시장에 존재했던 시스템에 대해서는, 마킹과 감지 의무에 한해 2026년 12월 2일까지의 제한적인 이행 기간이 마련되어 있다.

즉 "EU가 모든 AI 이용에 워터마크를 의무화했다"고 이해하는 것은 정확하지 않다.

그럼에도 불구하고, 대형 AI 사업자에게는 "AI 생성물을 기계적으로 식별 가능하게 하는" 방향성이 강화되고 있는 것은 확실하다.

호스킨슨 씨가 공개한 "Anthropies"

거기에 등장한 것이 Anthropies였다.

호스킨슨 씨는 자신의 X에서, Anthropic의 워터마크를 제거하기 위해, 많은 LLM과 결합하여 사용할 수 있는 새로운 시스템을 만들고 있다고 발표했다.

프로젝트는 GitHub에서 공개되었으며, Apache 2.0 라이선스를 채택하고 있다.

Anthropies가 다루려는 "Claude의 흔적"은 크게 3가지로 분류할 수 있다.

첫 번째는 문장 자체에 내장된 통계적인 워터마크이다.

두 번째는 이미지 등의 파일에 부여되는 C2PA 형식의 Content Credentials이다.

세 번째는 소프트웨어 개발에서 사용되는 Git의 커밋 메시지 등에 부가되는 "Co-Authored-By: Claude"와 같은 귀속 정보이다.

이 세 가지는 같은 것처럼 보이지만, 기술적으로는 전혀 성질이 다르다.

C2PA 정보나 Git의 귀속 표기는 특정 메타데이터나 텍스트로 존재하기 때문에 비교적 처리하기 쉽다.

반면, 통계적 워터마크는 문장의 단어 선택 자체에 존재하기 때문에, 단순히 "워터마크 부분만 제거하는" 것은 불가능하다.

왜 "다른 AI로 다시 작성하는가"

Anthropies에서 가장 흥미로운 것은 문장의 워터마크에 대한 접근 방식이다.

워터마크가 단어 선택 패턴으로 존재한다면, 그 패턴을 깨뜨리려면 문장 자체를 변경할 필요가 있다.

그래서 Anthropies는 원래의 문장을 다른 모델에 의해 재구성하는 발상을 채택하고 있다.

프로젝트에서는, 알려진 메타데이터 등을 제거하는 처리와, 문장의 구조나 표현을 변경하는 처리를 분리하고 있다.

Git의 귀속 표기 등은 정해진 부분을 삭제하면 되지만, 자연 언어의 문장에 대해서는, 워터마크를 생성한 것과는 다른 모델로 크게 다시 작성해야 한다는 생각이다.

반대로 같은 생성 원본의 모델에 "이 워터마크를 지우고 다시 작성해줘"라고 요청한 경우, 새로 생성된 문장에도 같은 메커니즘의 워터마크가 다시 들어갈 가능성이 있다.

여기에는 생성 AI의 워터마크 기술이 안고 있는 근본적인 어려움이 드러나 있다.

"지울 수 있는 워터마크"에 의미가 있는가

SNS에서 특히 많이 보이는 의문이 바로 이 점이다.

"문장을 다른 AI로 대폭 바꾸면 사라진다면, 정말로 악의를 가진 인간의 이용을 막을 수 있는가"라는 목소리이다.

실제로 Anthropic 자신도 워터마크에 대해 만능이라고 설명하지 않고 있다.

경미한 편집이라면 통계적 특징이 남을 가능성이 있는 반면, 전면적으로 다시 작성되면 신호는 사라질 수 있다고 하고 있다.

또한, 짧은 문장에서는 판정 자료가 되는 단어 선택의 횟수 자체가 적기 때문에, 장문과 비교하여 검출 능력이 저하된다.

프로그램 코드나 엄밀한 사실을 기술하는 문장에 대해서도 마찬가지다.

정답이 거의 하나로 제한되는 곳에서는, AI가 자유롭게 다른 단어를 선택할 여지가 적다. 그 때문에 통계적 패턴을 내장할 수 있는 장소도 감소한다.

SNS에서는, "스크린샷이나 재인코딩으로 이미지의 이력 정보가 사라지고, 대폭적인 패러프레이즈로 문장의 신호도 약해진다면, 정말로 속이려는 이용자에게는 효과가 없고, 일반 이용자만 영향을 받는 것이 아닌가"라는 비판도 보인다.

한편, "모든 부정 이용을 막지 못해도 의미는 있다"는 의견도 있다.

인터넷에 대량 게시되는 AI 생성 콘텐츠의 대부분이, 반드시 워터마크 제거를 의식하여 가공되는 것은 아니다.

생성 결과를 거의 그대로 복사하여 게시하는 경우를 일정 비율로 검출할 수 있는 것만으로도, 대량의 스팸이나 저품질 콘텐츠를 구별하는 자료가 된다는 생각이다.

SNS에서 두드러지는 "인간이 작성한 문장은 어떻게 되는가?"라는 불안

또 하나, SNS에서 강하게 반응을 모으고 있는 것이 "자신이 작성한 문장을 Claude에 교정받은 경우"의 처리다.

예를 들어 인간이 처음부터 끝까지 작성한 리포트를 Claude에 맡겨, 읽기 쉽게 표현을 정리해 달라고 했다고 하자.

그 결과, AI가 변경한 부분에 통계적인 패턴이 생기면, 나중에 검사되었을 때 "Claude가 관여한 문장"으로 판정될 가능성이 생긴다.

여기서 중요한 것은, "Claude가 관여했다"는 판정과 "Claude가 이 문장을 작성했다"는 판정은 같지 않다는 것이다.

Anthropic도 이 차이를 명확히 하고 있다.

워터마크로 알 수 있는 것은, Claude가 문장에 관여했을 가능성이지, 인간과 AI 중 누가 저자인지를 확정하는 증거는 아니다.

그럼에도 불구하고 학교, 기업, 채용, 출판 등의 현장에서 판정 결과만이 독자적으로 움직일 경우, 이용자에게 문제가 될 가능성은 있다.

SNS에서는, 인간이 작성한 문장을 카피 에디트 목적으로 Claude에 맡겼을 뿐인데 "AI 문장"으로 간주되는 것은 납득할 수 없다는 반응이 확산되었다.

다만 Anthropic은, 문법이나 구두점만 가볍게 수정한 문장에서는 Claude가 선택하는 단어가 적기 때문에, 충분한 워터마크가 남지 않는 경우가 많다고 설명하고 있다.

EU 측의 가이드라인에서도, 표준적인 편집 보조에는 마킹 의무의 예외가 존재한다.

즉 "Claude로 1글자라도 수정하면 반드시 AI 생성으로 판정된다"는 것은 아니다.

문제는, 어디서부터가 "표준 편집"이고, 어디서부터가 "AI에 의한 실질적인 생성"이 되는지, 그 경계가 현실의 이용 장면에서는 모호해지기 쉽다는 것이다.

투명성을 환영하는 목소리도

물론, 워터마크 자체를 긍정적으로 평가하는 의견도 적지 않다.

SNS에서는, AI가 생성한 콘텐츠임을 기술적으로 확인할 수 있는 시스템이 앞으로의 인터넷에 필요하다는 의견이 나오고 있다.

생성 AI에 의한 문장, 이미지, 동영상이 인간의 제작물과 구별할 수 없는 수준에 가까워질수록, 콘텐츠를 보는 측이 출처를 판단하는 수단은 중요해진다.

정치적인 가짜 정보, 기업을 가장한 가짜 광고, 가상의 뉴스, 가짜 리뷰, AI에 의해 자동 생성된 대량의 SEO 콘텐츠 등을 생각하면, "AI 생성일 가능성"을 확인할 수 있는 기술에는 공공적인 의미가 있다.

AI 기업이 자발적으로 아무것도 하지 않으면, 생성물의 추적 가능성은 점점 낮아진다.

그런 의미에서 Anthropic의 노력을 "투명성을 높이기 위한 전진"으로 받아들이는 사용자도 있다.

일부 게시물에서는, 완전한 검출 기술이 아니더라도, 가공하지 않고 대량 공개되는 AI 콘텐츠를 구별할 수 있는 것만으로도 인터넷 전체의 정보 품질 개선으로 이어질 수 있다는 견해도 제시되고 있다.

호스킨슨 씨가 문제시하는 "소유권"

Anthropies를 단순한 기술적인 워터마크 제거 도구로 보는 것만으로는, 이 프로젝트의 의도를 반만 이해하는 것이다.

호스킨슨 씨 측이 강하게 내세우고 있는 것이, AI 생성물의 "소유권"과 "귀속"을 둘러싼 문제이기 때문이다.

Anthropies의 문서에서는, 사용자가 소유하는 성과물에 AI 사업자 측의