멋질수록 수상해? “서투른 것이 진짜”가 가속화되는 인스타의 미래

1) "육안으로는 불가능" 선언이 의미하는 것

"AI스러움", "부자연스러움" 같은 이질감으로 진위를 구별하는 것——그것이 통용되지 않게 된다. Instagram을 이끄는 Adam Mosseri는 AI 생성 이미지와 동영상이 현실을 정밀하게 모방하기 시작하면서, 플랫폼이 '목시' 기반으로 가짜를 판별하는 것이 어려워질 것이라고 사실상의 패배 선언을 했다. NDTV Profit의 기사는 그 발언을 "육안으로는 AI 슬롭(저품질 AI 생성 콘텐츠)을 알아볼 수 없다"고 요약하며, SNS 운영의 전제가 바뀌는 전환점으로 보도한다. NDTV Profit

여기서 중요한 것은, Mosseri가 단순히 "판별이 어렵다"고 말한 것만이 아니라는 점이다. 그는 AI 콘텐츠의 검출이나 라벨링이 처음에는 잘 되더라도, AI가 진화할수록 '검출 측이 불리해진다'고 전망한다. 그리고 제안한 것은 역발상——**"가짜를 쫓기"보다 "진짜에 표시를 붙이기(fingerprint real media)"**라는 방향 전환이다. NDTV Profit

2) "진짜에 지문"——"체인 오브 커스터디"라는 발상

Mosseri가 염두에 두는 것은, 콘텐츠가 생성, 편집, 재게시되는 '유통'의 어느 지점에서 라벨을 붙이는 방식이 아니라, 촬영의 순간(capture)에서 진정성을 고정하는 것이다. Engadget이 인용한 형태로 소개한 안에서는, 카메라(스마트폰을 포함한 제조사)가 촬영 시 암호학적 서명을 부여하고, 변조되지 않았음을 추적할 수 있는 'chain of custody(출처의 연쇄)'를 만든다. Engadget

이것이 실현되면, 우리가 미래에 보게 되는 것은 "이것이 AI인가 아닌가"라는 단순한 이분법적 라벨이 아니라,

• 그 이미지는 '언제, 어디서, 어떤 장치로' 촬영되었는가

• 중간에 편집되었다면, 어디까지가 원본이고, 무엇이 변경되었는가

• 그 이력을, 누가 어떤 기준으로 보증하고 있는가
  와 같은, **콘텐츠의 내력(프로비넌스)**에 가까운 정보가 된다.

하지만, 현실은 간단하지 않다. 서명된 '진짜'가 늘어날수록, 서명이 없는 콘텐츠는 "의심스러운 쪽"으로 기울게 된다. 오래된 사진, 스캔 이미지, 기존의 영상 자산, 익명의 고발 영상——사회적으로 중요해도 서명이 없는 자료는 많다. 기술이 신뢰를 낳는 한편, **신뢰의 '격차'**도 만들어낼 수 있다.

3) "잘 나올수록 의심스러운" 시대? '어설픔이 진짜'론

NDTV Profit의 기사에서 눈에 띄는 것은, Mosseri의 크리에이터를 위한 조언이다. AI는 종종 '깨끗하고 정돈된 룩'을 대량으로 생산하기 쉽다. 그래서 당분간은, **일부러 "어설픔", "미가공", "생생함"** 쪽으로 기울이는 것이 진짜의 신호가 된다는 것이다——. Instagram의 Stories처럼, 손떨림 영상, 초점이 맞지 않은 사진, 근거리의 불리한 각도, 꾸미지 않은 표정이 "현실의 증거"로서 가치를 가질 가능성이 있다. NDTV Profit

Business Insider도, Mosseri가 '다듬어진 그리드(정돈된 게시물 배열)'의 시대가 끝나고, 미가공된 일상 공유로 중심이 이동했다고 언급한 흐름을 소개하고 있다. Business Insider

하지만, 이 "어설픔이 진짜"는 어디까지나 잠정적인 해결책이다. The Verge가 인용한 Mosseri의 논지는 더 먼 미래를 보고 있다. AI는 결국 '결점'이나 '불완전함'까지 재현하게 된다. 그렇게 되면, 사람들은 "무엇이 찍혔는가"에서 "누가 말하는가"로 판단의 축을 옮길 수밖에 없다. The Verge

즉, **아름다움이 값싸진 세계에서, 다음으로 희소해지는 것은 '본인성'이나 '관계성'**이다.

4) 우리는 "먼저 의심하는" 사회로 이동한다

NDTV Profit이 강조하는 것은, 사용자 측의 태도 변화다. 알고리즘이 추천하는 이미지나 동영상을, 우리는 지금까지 "기본은 진짜"로 받아들여 왔다. 하지만 앞으로는 반대가 된다. 처음에 의심을 두고, 공유자의 동기나 배경을 확인하며, 정보의 문맥을 읽는——그런 '의심하며 보기'가 당연해진다는 전망이다. NDTV Profit

The Decoder는 이 점을, "인간은 눈으로 본 것을 믿기 쉽다"는 생물학적, 심리학적 전제에 언급하며, 기본적으로 의심하는 것으로의 전환은 '불쾌하고 스트레스가 될 수 있다'고 설명하고 있다. The Decoder

의심하는 것이 표준화되면, 우리는 일상의 스크롤 속에서, 가벼운 오락조차 '검증 작업'으로 바꾸게 된다. 진위 판정 비용이 증가하면, 피로해진 사람들은 "아무것도 믿지 않는다"거나 "보고 싶은 것만 믿는다"로 흐르기 쉽다. 여기에는 사회 분단이나 오정보 확산의 온상이 잠재해 있다.

5) 플랫폼의 책임은 어디까지인가——"누가 뒷처리를 할 것인가" 문제

Engadget의 글은 엄격하다. AI 생성의 식별이 어려워지는 현실을 인정하면서도, "그것은 Meta의 문제라기보다는 '다른 누군가의 문제'로 만들고 있지 않은가"라고 비판적으로 묘사한다. 워터마크 등 기존의 식별책이 불충분하다는 것, 라벨의 이해하기 어려움, 그리고 '검출할 수 없다'는 것을 플랫폼 측이 인정해 온 경위에도 언급하며, 결과적으로 AI 슬롭이 승리하는 구도를 보여준다. Engadget

즉, 논점은 이렇다.

• AI 생성이 증가하는 것은 불가피하다고 하더라도,피해(사기, 사칭, 오정보)의 부담은 누가 짊어질 것인가

• 서명을 카메라 제조사에 맡긴다면, OS나 앱, SNS는 어디까지 연계할 것인가

• 국경을 넘는 표준화나, 검증 인프라는 누가 비용을 지불할 것인가

"진짜에 지문"은 기술로서 합리적으로 보이지만, 구현과 운영은 정치와 경제의 문제이기도 하다.

6) SNS의 반응: 찬동, 풍자, 그리고 '신뢰 경제'의 이야기로

이번 발언은 뉴스로 확산되는 과정에서 다양한 반응을 불러일으켰다. Threads 자체의 직접 열람은 환경상 어려웠지만, 주변 SNS나 게시물의 인용 및 요약에서 반응의 경향을 볼 수 있다.

(1) "라벨은 불가능, 출처의 증명으로"—저널리스트적인 정리
Engadget의 기자 Karissa Bell은 Bluesky에서, Mosseri의 주장을 "AI 라벨을 선제적으로 붙이는 것은 포기하고, 카메라 측이 '무엇이 진짜인가'를 증명하는 방향"이라고 요약하며, 논점을 명확히 언어화했다. Bluesky Social

(2) 크리에이터 시점: "어설픔을 요구하는 것은 경쟁 규칙의 변경"
LinkedIn에서는, Mosseri의 장문을 '9개의 요점'으로 정리한 게시물이 퍼지며, "진짜 같음=신뢰가 통화가 된다", "무한 생성의 시대는 '누가 말했는가'가 가치가 된다"는 '신뢰 경제'의 논의가 확산되고 있다. 댓글란에서도, 개인의 일관성이나 판단력이 차별화 요소가 된다는 견해가 제시되었다. LinkedIn

(3) 비판: "플랫폼이 만든 홍수를, 외부에 떠넘기는 것인가"
Engadget이나 The Verge의 기사 댓글 및 2차 확산에서는, 플랫폼이 AI 기능을 추진해 온 측면을 고려하여, "검출 불가능"을 전제로 한다면 책임의 소재를 어떻게 할 것인가, 라는 의문이 반복적으로 제기되고 있다. Engadget

7) 앞으로 일어날 3가지 변화(예측)

마지막으로, 이번 논점이 현장의 운영을 어떻게 바꿀 것인가. 기사 내용과 주변 보도를 바탕으로 하면, 적어도 다음의 3가지가 진행될 가능성이 높다.

1. "진정성 메타데이터"를 둘러싼 표준화 경쟁
   암호 서명, 내력, 편집 이력을 '어떤 형식으로' 가질 것인가. 업계 표준의 주도권 다툼이 시작된다. Engadget

2. 크리에이터의 싸움 방식이 "미"에서 "문맥"으로
   예쁘게 만드는 것만으로는 차별화하기 어려워지며, 일상성, 관계성, 지속성, 이야기 방식 같은 '그 사람 고유의 축적'이 중요해진다. The Verge

3. 사용자는 '눈'이 아니라 '출처'로 판단한다
   의심하며 보는 것이 전제화되고, 계정의 생성 시기, 과거 게시물, 공유 동기, 관련 커뮤니티 같은 정보가 중요