디스코드에 거액의 배상 청구, 브라질이 나선 아동 보호 ― SNS에서는 규제에 대한 반발도

온라인 커뮤니케이션 서비스에, 어느 정도까지 이용자의 안전을 지킬 책임을 지워야 하는가. 이 오랜 논의가 브라질에서 새로운 단계에 들어섰다.

브라질 정부는 2026년 8월, 게이머를 중심으로 세계적으로 이용되고 있는 커뮤니케이션 플랫폼 "Discord"를 상대로 연방 법원에 민사 소송을 제기했다. 정부가 요구하는 손해배상액은 5억 레알, 보도 시점의 환산으로 약 9700만 달러에 이른다. 정부 측은 어린이와 청소년 등 약한 입장에 있는 이용자를 보호하기 위한 시스템에 중대한 결함이 있으며, 사회 전체에 정신적인 손해를 주었다고 주장하고 있다.

금액의 크기만 보면, 거대 IT 기업에 대한 제재 뉴스로도 보일 수 있다. 그러나 이 소송의 진정한 중요성은 거기에 있지 않다. 문제시되고 있는 것은 "문제가 있는 게시물을 신고받으면 삭제한다"는 기존의 플랫폼 운영만으로 어린이를 보호할 수 있는가라는 근본적인 문제이기 때문이다.

발단이 된 13세 소녀의 사망과, Discord에 대한 압력

이번 소송에 이르게 된 큰 계기가 된 것은 2026년 7월에 브라질 남부에서 발생한 13세 소녀의 사망 사건이었다. 브라질 당국은 자해 행위나 자살을 부추기는 극단적인 온라인 집단이 소녀에게 접촉했을 가능성을 조사하고 있으며, Discord를 포함한 디지털 서비스 상의 활동에 대해 수사를 진행하고 있다.

브라질의 국가 데이터 보호 기관 ANPD는 8월 7일, Discord가 2026년 3월에 시행된 "ECA Digital"이라고 불리는 어린이·청소년용 디지털 보호 제도에 위반했을 가능성이 있다고 하여 공식적인 감독 절차를 시작했다. 문제가 된 것은 자살이나 자해 행위를 유발하는 콘텐츠에 대한 접촉을 방지하는 시스템, 실효성 있는 연령 확인, 위반 콘텐츠의 삭제, 당국에 대한 신고 등이다.

더욱이 ANPD는 8월 12일, 브라질 내에서 Discord의 라이브 스트리밍 및 동영상 공유에 해당하는 기능을 일시 중지하도록 명령했다. Discord는 이에 따라 영상 통화와 화면 공유를 중지했다. 텍스트 메시지, 음성 통화, 서버 기능 등은 계속 이용 가능한 상태로 유지되었다.

그 후, 정부와 Discord 사이에서 약 2주에 걸쳐 개선책을 둘러싼 협의가 이루어졌지만, 정부 측은 Discord에서 제시한 내용으로는 위험을 충분히 해소할 수 없다고 판단. 최종적으로 민사 소송에 이르게 되었다.

브라질이 요구하는 것은 "삭제"가 아니라 "예방"

브라질 정부가 이번에 강조하고 있는 키워드는 "Protection by Design", 즉 서비스를 설계하는 단계에서부터 안전 대책을 포함시키는 사고방식이다.

기존에는 많은 SNS나 커뮤니케이션 서비스가 사용자로부터 신고가 접수된 후에 게시물이나 계정을 조사하고, 필요에 따라 삭제하는 시스템을 중심으로 해왔다.

그러나, 어린이의 자살, 자해, 성적 착취, 협박 등의 경우, "사건이 발생한 후 삭제한다"는 것은 늦다. 브라질 정부는 이 점을 문제시하고 있다.

이번 소송에서는 단순한 콘텐츠 삭제뿐만 아니라, 자기 신고에만 의존하지 않는 신뢰성 높은 연령 확인, 16세 이하의 이용자 계정과 보호자 계정의 연계, 미성년자 계정을 초기 상태에서 가장 안전성이 높은 설정으로 하는 것이 요구되고 있다.

더욱이, 자해, 자살, 극단적인 폭력을 포함한 영상 방송을 실시간으로 감지하여 중지하는 시스템, 범죄의 징후를 당국에 신속히 신고하는 제도, 포르투갈어에 대응할 수 있는 Trust & Safety 담당자의 배치, 중지된 위험한 서버가 이름을 바꾸어 재개하는 것을 방지하는 시스템 등도 요구되고 있다. 명령에 따르지 않았을 경우, 하루 50만 레알의 제재금을 부과하도록 요구하고 있는 점도 특징이다.

즉, 브라질 정부는 "범죄자를 발견하면 추방해 주세요"라고 요구하는 것만이 아니다.

"애초에 범죄자가 미성년자에게 접근하기 어려운 서비스를 만드세요"

"위험한 커뮤니티가 확산되기 전에 감지하세요"

라는, 서비스의 설계 사상 그 자체의 변경을 요구하고 있는 것이다.

Discord 측도 "아무것도 하지 않았다"는 것은 아니다

한편, 이번 문제를 "Discord가 어린이의 안전 대책을 전혀 하지 않았다"고 단순화하는 것도 정확하지 않다.

Discord는 브라질의 ECA Digital 시행에 대응하기 위해, 2026년 3월부터 해당 국가에서 연령 확인 시스템을 도입했다.

성인용 영역에 대한 접근이나 일부 안전 설정을 변경하려는 이용자에게는 얼굴에서 연령대를 추정하는 방법이나 신분증을 이용한 연령 확인이 제공되고 있다. 또한, 미성년자에게는 민감한 이미지 필터나 모르는 사용자로부터 받은 DM을 분리하는 설정 등을 기본으로 활성화하고 있다.

Discord는 이번 브라질 정부의 소송을 "불균형하다"고 비판하고 있다.

회사는 문제시된 사건이 여러 온라인 서비스를 가로질러 이루어진 것임을 강조하며, 수사 기관과도 협력하고 있다고 설명하고 있다. 영상 기능 중지에 대해서도 정부 명령에 따르고 있다.

여기에 이번 논쟁의 어려움이 있다.

"안전 대책을 했는가, 하지 않았는가"라는 이분법이 아니다.

진정한 쟁점은, "대책의 수준이 법적으로 충분했는가", "플랫폼은 어디까지 미래의 위험을 예측하고, 미연에 방지해야 하는가"라는 점에 있다.

SNS에서는 "어린이 보호는 필요, 그러나 일률적 규제는 다르다"는 목소리

이번 조치는 브라질의 인터넷 이용자에게도 큰 논쟁을 불러일으켰다.

Reddit의 Discord 관련 커뮤니티나 브라질의 커뮤니티에서는 영상·화면 공유 기능의 중지에 대한 비판적인 의견이 두드러진다.

특히 많은 것이, "심각한 사건이라는 것은 이해하지만, 영상 통화나 화면 공유 그 자체를 멈춰도 문제의 근본적인 해결이 되지 않는다"는 의견이다.

Discord는 게임뿐만 아니라, 친구 간의 교류, 프로그래밍, 온라인 학습, 원격 작업, 소규모 커뮤니티 운영 등에도 사용되고 있다. 그 때문에, 범죄와 무관한 일반 이용자까지 일률적으로 기능을 잃는 것에 대한 불만이 강하다. VPN 등을 사용하면 제한을 회피할 수 있는 것이 아니냐는 논의도 일어나고 있으며, "기술적으로 회피 가능한 규제라면 실효성에 의문이 있다"는 반응도 보인다.

또한 브라질계 커뮤니티에서는, "Discord만을 겨냥해도, 범죄자가 다른 플랫폼으로 이동할 뿐이지 않을까", "정부나 규제 당국이 Discord의 시스템을 충분히 이해한 후에 판단하고 있는가"라는 의문도 나오고 있다.

한편으로, 모든 것이 규제 반대라는 것은 아니다.

Discord의 국제 커뮤니티에서는, "일률적인 영상 기능 중지에는 의문이 있지만, 미성년자에 대한 연령 확인이나 이용 기능의 제한을 강화하는 것에는 찬성이다"라는 취지의 게시물도 확인할 수 있다. 즉, SNS 상에서도, "안전 대책 그 자체에 반대"라기보다는, "안전 대책의 방법이 적절한가"라는 논의가 되고 있다.

물론 Reddit 상의 게시물은 여론 조사도 아니고, 브라질 국민 전체의 의견을 대표하는 것도 아니다. 다만, 이용자 측이 느끼고 있는 문제를 이해하는 자료가 될 수 있다.

이번 사건은, "안전인가 자유인가"라는 단순한 대립이 아니다.

이용자의 자유를 최대한 잃지 않으면서, 위험한 이용만을 겨냥해 방지할 수 있는 제도를 만들 수 있는지가 문제다.

"Discord를 멈추면 해결"이라는 문제가 아니다

브라질의 일련의 대응에서 보이는 중요한 포인트는, 범죄의 "장소"와 범죄의 "원인"을 구별해야 한다는 것이다.

온라인 상에서 사람을 몰아붙이고, 범죄를 저지르는 집단이 존재할 경우, Discord를 폐쇄한다고 해서 그 집단이 사라지는 것은 아니다.

Telegram, WhatsApp, Instagram, 온라인 게임, 익명 게시판, 다른 채팅 서비스로 이동할 가능성이 있기 때문이다.

그렇기 때문에, 하나의 서비스를 금지하는 것보다도, 여러 서비스를 가로질러도 위험한 행위를 감지하고, 수사 기관이나 플랫폼 간에 정보를 공유할 수 있는 제도가 장기적으로는 중요해진다.

실제로, 브라질 당국의 감독은 Discord에만 그치지 않는다. 2026년 8월에는 Instagram, WhatsApp, TikTok, YouTube, Telegram 등 다수의 디지털 서비스에 대해서도, 어린이의 안전이나 디지털 상의 불법 행위에 대한 대응을 검증하는 움직임이 보도되고 있다.

Discord의 사건은, 브라질의 인터넷 전체에 대한 규제 강화의 "입구"로 볼 수도 있다.

일본에게도, 이는 결코 먼 이야기가 아니다

그렇다면, 일본은 어떨까.

"브라질에서는 큰 사건이 일어나고 있다"며 다른 나라의 문제로 바라볼 여유는 없다.

경찰청에 따르면, 2025년에 SNS를 계기로 한 범죄의 피해를 입은 18세 미만의 아동은 1,566명. 전년의 1,486명에서 5.4% 증가하고 있으며, 여전히 높은 수준에 있다.

더욱이 경찰청의 자료에서는, SNS를 계기로 한 범죄 피해를 입은 아동 중, 필터링 이용 상황이 확인된 경우에는 약 9할이 필터링을 이용하지 않았다고 한다. 온라인 게임을 통해 알게 된 사람으로부터 성적인 이미지를 요구받는 등, 기존의 "SNS"라는 말만으로는 파악하기 어려운 피해도 존재한다.

일본의 어린이들에게, SNS나 온라인 커뮤니티는 이미 생활 인프라에 가까운 존재다.

어린이 가족청이 2026년에 제시한 검토 자료에서도, 인터넷 이용자 중 SNS를 이용하는 비율은 중학생에서 80.8%, 고등학생에서 90.1%로 되어 있다.

동시에 정부의 검토회에서는, 현재의 청소년 인터넷 환경 정비법이, 스마트폰의 보급이나 SNS, 동영상 공유, 게임, 라이브 방송 등에 의해 다양화된 위험에 충분히 대응할 수 있는지가 논점이 되고 있다. 일정 규모의 플랫폼에 AI 등을 사용한 연령 확인을 요구해야 하는가라는 논의까지 시작되고 있다.

여기는 브라질의 논의와 놀랄 만큼 비슷하다.

일본의 지금까지의 어린이용 인터넷 대책은, 보호자에 의한 감시, 필터링, 정보 윤리 교육 등이 큰 기둥이었다.

이것들이 중요하다는 것은 변함이 없다.

그러나, 범죄자가 익명 계정을 사용하고, 여러 SNS나 게임을 이동하면서 어린이에게 접촉할 수 있는 현재, "가정이 주의해 주세요"만으로 모든 것을 방지하는 데는 한계가 있다.

일본이 고려해야 할 것은 "전면 금지"보다 안전한 초기 설계

브라질의 Discord 문제에서 일본이 배워야 할 것은, 특정 SNS를 즉시 금지하는 것이 아닐 것이다.

오히려 중요한 것은, "어린이가 사용하더라도 위험해지기 어려운 서비스를 처음부터 만드는"이라는 발상이다.

예를 들어 미성년자의 계정에서는, 모르는 성인으로부터 DM을 받을 수 없는 설정을 표준으로 한다. 위험한 콘텐츠는 기본적으로 비표시로 한다. 성인용 기능을 개방할 때만, 프라이버시에 배려한 연령 확인을 한다. 의심스러운 접촉이나 성적 협박, 자해 행위를 부추기는 행동 패턴이 감지된 경우에는, 안전 담당자에 의한 신속한 확인으로 연결한다.

이러한 "안전을 나중에 추가하는" 것이 아니라, "안전을 초기 상태로 하는"이라는 사고방식은, 일본에서도 검토할 가치가 있다.

그 한편으로 연령 확인을 엄격히 하면, 이번에는 얼굴 이미지나 신분증 등, 새로운 개인 정보를 거대 플랫폼에 넘기는 위험이 생긴다.

AI에 의한 연령 추정에도 오판은 있을 수 있다.

안전을 지키기 위해 감시를 너무 강화하면, 어린이의 프라이버시나 표현의 자유를 훼손할 가능성도 있다.

어린이 가족청의 검토 자료에서도, 어린이를 위험으로부터 보호하는 것과, 인터넷을 통해 정보에 접근할 권리나 표현의 자유와의 균형이 논점으로 명기되어 있다.

여기를 무시하고 "연령 확인을 의무화하면 안전해진다"고 생각하는 것도 위험하다.

문제시되는 것은 "누가 책임을