AI가 만든 "디지털 쓰레기"를 AI가 청소한다 - 테크 기업이 시작한 'AI 슬롭' 대청소

생성 AI의 등장으로 인터넷에서는 전례 없이 쉽게 콘텐츠를 만들 수 있게 되었다.

문장이라면 몇 초, 이미지도 수십 초, 음악이나 동영상조차 전문적인 제작 환경이 없는 개인이 짧은 시간에 생성할 수 있다.

이 변화는 개인의 창의력을 확장하는 큰 기술 혁신이었다. 한편, 그 "제작 비용의 극적인 감소"가 새로운 문제를 일으키기 시작했다.

그것이 "AI 슬롭"이라 불리는 콘텐츠다.

AI 슬롭이란 단순히 "AI로 만들어진 것"을 의미하는 것이 아니다. 일반적으로 생성 AI를 사용해 대량 생산된 독창성이나 정보 가치가 부족한 이미지, 문장, 음악, 동영상 등을 가리킨다.

검색 결과를 가득 채우는 비슷한 기사들. SNS에 계속해서 흘러나오는 기묘한 이미지들. 누가 들을지 모르는 대량의 음악. 표현만 정돈되어 있지만, 읽어도 거의 새로운 정보가 없는 게시물.

생성 AI로 인해 "콘텐츠를 만드는 능력"이 폭발적으로 증가한 결과, 이제는 인간이 "가치 있는 콘텐츠를 찾는 비용"을 부담하기 시작한 것이다.

그리고 2026년, 그 문제에 본격적으로 맞서기 시작한 것은 아이러니하게도 생성 AI를 적극적으로 도입해 온 거대 테크 기업들이다.

Spotify가 삭제한 7500만 건의 "스팸 음악"

AI 슬롭 문제를 상징하는 숫자 중 하나가 Spotify가 밝힌 "7500만"이라는 숫자다.

Spotify는 생성 AI의 보급으로 인해 대량 게시물이나 중복 콘텐츠 등의 스팸 행위가 용이해졌다며, 12개월 동안 7500만 건 이상의 스팸성 있는 음악을 삭제했다고 설명하고 있다.

중요한 것은, Spotify가 "AI를 사용한 음악 그 자체"를 배제하려는 것이 아니라는 점이다.

문제시되는 것은 생성 기술을 이용해 대량의 곡을 만들고, 검색이나 추천 시스템, 로열티 구조를 공략하려는 행위이다.

과거에는 음악을 한 곡 완성하기 위해 작곡, 연주, 녹음, 편집 등 많은 과정이 필요했다.

그러나 생성 AI로 인해 제작 비용이 급격히 감소하면서, "작품을 만드는" 행위 자체가 거의 무한히 복제 가능하게 되었다.

한 명의 아티스트가 연간 10곡을 발표하는 세계와, 자동화된 시스템이 하루에 수천 곡을 생성하는 세계에서는 플랫폼의 설계 사상 자체를 바꿔야 한다.

기존의 음악 서비스는 "작품이 희소하다"는 것을 전제로 만들어졌다.

생성 AI는 그 전제를 깨뜨렸다.

Spotify가 스팸 필터나 사칭 방지, AI 이용에 관한 투명성 향상을 추진하고 있는 배경에는 이러한 구조 변화가 있다.

LinkedIn에서는 "AI 슬롭을 신고하는" 시대에

변화는 음악에만 국한되지 않는다.

비즈니스 SNS인 LinkedIn도 AI 슬롭 대책을 강화하고 있다.

LinkedIn에서는 사용자가 저품질의 AI 생성 게시물로 보이는 콘텐츠를 신고할 수 있는 시스템이 도입되었다.

이 기능이 상징적인 것은 "AI 콘텐츠의 판정을 플랫폼에만 맡기지 않는다"는 발상이다.

사용자 자신이,

"이것은 내용이 빈약하다"

"대량 생성된 것처럼 보인다"

"본인의 경험이나 의견이 거의 느껴지지 않는다"

라고 판단한 콘텐츠에 대해 피드백할 수 있게 되었다.

2026년 8월에는 이 신고 기능을 이용한 사람이 도입 후 불과 약 2주 만에 100만 명을 넘었다고 보도되고 있다.

LinkedIn 측도 자동화된 댓글이나 대량 게시물에 대한 대책을 강화함과 동시에 저품질 콘텐츠를 판별하는 분류 시스템을 개선하고 있다.

여기에는 SNS가 안고 있는 근본적인 모순이 있다.

SNS의 알고리즘은 오랫동안 "게시물 수", "참여도", "체류 시간"을 중요한 지표로 성장해왔다.

그러나 생성 AI는 그 게임을 극단적인 형태로 최적화할 수 있다.

하루에 1개밖에 게시할 수 없었던 인간에 비해, AI를 사용하면 10개, 100개, 1000개를 생성할 수 있다.

댓글조차 자동화할 수 있다.

결과적으로 "인간이 교류하기 위한 SNS"가 "기계가 기계용으로 콘텐츠를 생성하는 장소"로 변할 위험이 생기고 있다.

LinkedIn이 "진짜 인간에 의한 시각"을 중시하는 방향으로 방향을 틀었다는 것은 SNS의 평가 기준 자체가 변하기 시작하고 있음을 나타내고 있다.

AI를 잡는 것도 AI

또 하나 흥미로운 현상이 있다.

AI 슬롭을 단속하기 위해 플랫폼 측도 AI를 이용하기 시작하고 있다는 것이다.

Google의 연구자들은 2026년, 생성 AI를 이용한 조직적인 합성 콘텐츠나 미디어 악용을 감지하는 시스템에 관한 연구를 공개했다.

포인트는 동영상을 하나씩 판정하는 것이 아니라 "콘텐츠를 대량 생성하고 있는 계정군의 행동"을 함께 분석하는 데 있다.

게시 속도가 부자연스럽게 빠르지 않은가.

여러 계정이 비슷한 템플릿을 사용하고 있지 않은가.

비슷한 이야기 구성이나 영상이 반복되지 않는가.

계정들 간에 공통되는 기술적·행동적 특징이 없는가.

이러한 정보를 조합하여 대량 생산 네트워크 자체를 발견한다.

연구에서는 반년 동안 약 5만 개의 클러스터, 총 약 13만 채널 규모의 대응으로 이어졌다고 한다.

즉, 현재 일어나고 있는 것은 어떤 의미에서 "AI 대 AI"의 경쟁이다.

생성 AI로 인해 대량으로 콘텐츠를 만드는 측과, AI를 이용해 대량 생성 네트워크를 감지하는 측.

생성 기술이 고도화되면 감지 기술도 고도화된다.

스팸 메일과 스팸 필터가 오랫동안 벌여온 싸움이 이제는 문장, 이미지, 음악, 동영상이라는 인터넷 전체로 확산하려 하고 있다.

Snapchat도 "인간이 만든 것"을 우선

더 주목할 만한 것은 Snapchat의 움직임이다.

Snap은 2026년 7월, 동영상 게시 서비스 Spotlight에 대해 완전히 AI로 생성된 동영상을 원칙적으로 추천 대상에서 제외할 방침을 밝혔다.

한편, AI를 편집이나 제작 보조로 이용한 작품에 대해서는 반드시 배제하지 않는다.

여기에도 중요한 경계선이 보인다.

문제는,

"AI를 사용했는지 여부"

가 아니라,

"거기에 창작자의 의도나 독창성이 있는지"

라는 생각이다.

생성 AI는 카메라나 포토샵, 신디사이저와 마찬가지로 창작 도구가 될 가능성이 있다.

그러나 클릭 한 번으로 대량 생성하고 그것을 거의 확인하지 않고 게시하는 시스템까지 같은 "창작"이라고 부를 수 있는가.

플랫폼은 지금 그 선을 그어야 한다.

SNS에서는 "검색만으로도 피곤하다"는 불만

그렇다면 이용자는 어떻게 느끼고 있는가.

 

Reddit 등의 SNS를 보면 AI 슬롭에 대한 불만은 상당히 직접적이다.

특히 눈에 띄는 것은,

"원하는 정보에 도달하기까지 대량의 AI 콘텐츠를 봐야 한다"

라는 목소리이다.

Pinterest를 둘러싼 커뮤니티에서는 일러스트나 인테리어, 사진 자료 등을 검색해도 AI 생성 이미지가 대량으로 표시된다는 불만이 반복적으로 게시되고 있다.

AI 콘텐츠를 줄이는 설정을 이용해도 완전히 제거할 수 없다는 사용자도 있다.

또 다른 Reddit 커뮤니티에서는 AI로 생성된 장문이나 댓글이 증가하여 "진짜 인간으로부터 조언을 얻기 위해 왔는데, AI의 문장을 읽게 된다"는 문제 의식에서 AI 슬롭의 게시를 금지하거나 사용자 확인을 강화하는 움직임도 나오고 있다.

이러한 반응에서 보이는 것은 AI 자체에 대한 거부감보다는 "자신의 시간을 빼앗기는 것"에 대한 짜증이다.

사람은 검색 결과를 100개 읽고 싶은 것이 아니다.

필요한 답을 1개 찾고 싶다.

이미지를 1000장 보고 싶은 것이 아니다.

참고가 되는 10장을 찾고 싶다.

음악을 100만 곡 중에서 고르고 싶은 것이 아니다.

자신에게 맞는 몇 곡을 만나고 싶다.

생성 AI가 공급량을 폭발적으로 증가시킨 결과, 희소해진 것은 콘텐츠가 아니라 "인간의 주의력"이다.

"AI를 사용했다는 이유만으로 슬롭 취급하지 말라"는 반론

그러나 AI 슬롭에 대한 반발이 너무 강해지는 것도 문제이다.

SNS에서는 이미,

"AI를 사용했다는 이유만으로 작품의 품질을 평가하지 않고 슬롭이라고 부르는 것은 이상하다"

라는 반론도 나오고 있다.

예를 들어 소프트웨어 개발에서 AI가 코드의 일부를 작성하게 했더라도, 인간이 설계하고, 테스트하고, 수정하고, 안전성을 확인하고 있다면, 그것을 저품질로 단정할 근거는 되지 않는다.

이미지 제작에서도 마찬가지다.

AI를 구도 검토에 이용하는 경우와 수천 장을 자동 생성하여 그대로 게시하는 경우는 전혀 다르다.

음악에서도 AI를 하나의 악기처럼 사용하는 아티스트와 자동 생성된 곡을 대량 게시하는 스팸 업체를 같은 카테고리에 넣으면 본래 보호해야 할 창의성까지 잃을 수 있다.

Google의 연구에서도 개별 크리에이터가 새로운 도구를 시도하는 경우보다 조직적이고 대량 생산된 행동 패턴을 중시하는 사고방식이 나타나고 있다.

앞으로 중요해질 것은 "AI인가 인간인가"라는 단순한 이분법이 아니다.

인간이 얼마나 판단하고 있는가.

거기에 독창적인 정보가 있는가.

누군가에게 가치가 있는가.

대량 생산으로 시스템을 공략하려고 하지 않는가.

그러한 기준이 될 것이다.

AI 슬롭 문제의 본질은 "신뢰"

저품질 콘텐츠가 증가하는 것보다 더 심각한 것은 인터넷 전체에 대한 신뢰 저하이다.

사진을 보면,

"이것은 진짜인가"

라고 생각한다.

리뷰를 읽으면,

"AI가 쓴 것이 아닌가"

라고 의심한다.

LinkedIn의 게시물을 읽으면,

"본인의 경험인가, 아니면 생성된 문장인가"

라고 생각한다.

동영상을 보면,

"이 인물은 실존하는가"

라고 의심한다.

하나하나 확인할 필요가 생기면 인터넷을 이용하기 위한 심리적 비용은 커진다.

생성 AI 이전에도 스팸이나 복사 기사, 클릭베이트는 존재했다.

그러나 생성 AI가 크게 바꾼 것은 "규모"다.

악성 사이트를 100개 만드는 것과 AI를 사용해 10만 개 만드는 것은 정보 환경에 대한 영향이 전혀 다르다.

##HTML_TAG