skip_to_content
ukiyo journal - 日本と世界をつなぐ新しいニュースメディア 로고
  • 전체 기사
  • 🗒️ 회원가입
  • 🔑 로그인
    • 日本語
    • English
    • 中文
    • Español
    • Français
    • Deutsch
    • ภาษาไทย
    • हिंदी
cookie_banner_title

cookie_banner_message 개인정보처리방침 cookie_banner_and 쿠키 정책 cookie_banner_more_info

쿠키 설정

cookie_settings_description

essential_cookies

essential_cookies_description

analytics_cookies

analytics_cookies_description

marketing_cookies

marketing_cookies_description

functional_cookies

functional_cookies_description

AI로도 추적할 수 없는 유해 밈 ─ '게임 주변 플랫폼'의 위험한 실체: 비디오 게임 사이트에서 간과되는 유해 콘텐츠의 실태

AI로도 추적할 수 없는 유해 밈 ─ '게임 주변 플랫폼'의 위험한 실체: 비디오 게임 사이트에서 간과되는 유해 콘텐츠의 실태

2025年08月02日 00:29

1. 프롤로그――“놀이터”에 숨어 있는 그림자

「헤드셋 너머에 누가 있는가」。코로나 팬데믹으로 폭발적으로 성장한 게임 시장은 전 세계 30억 명 이상의 플레이어를 보유한 거대한 커뮤니티로 성장했다. 그러나 그 한편에서는 하이라이트 영상이나 도발적인 채팅에 섞여 백인 우월주의나 음모론이 은밀하게 스며들고 있다. 영국 앵글리아 러스킨 대학의 최신 연구는 이“보이지 않는 그림자”를 데이터로 밝혀냈다.


2. 연구의 개요와 주요 발견

2-1 취재 대상과 방법

연구팀은 Discord, Twitch, Steam 등 7개의 플랫폼에서 활동하는 모더레이터, 테크 기업의 안전 관리 담당자, 대테러 전문가 등 42명을 인터뷰했다. 또한 공개 채널의 메시지 3.2TB를 기계 학습으로 분석하여 유해 표현의 빈도와 전파 경로를 시각화했다.

2-2 극우 콘텐츠가 최다

가장 많았던 것은 극우계로, 백인 우월주의, 네오나치, 반유대주의 등이 전체 게시물의 58%를 차지했다. 이슬람 극단주의는 9%였으나, 「학교 총격을 찬양하는 밈」 등“인접 콘텐츠”가 27%로 높은 존재감을 보였다.앵글리아 러스킨 대학

2-3 퍼널 구조

조사에서 열쇠를 쥔 것은 「퍼널」이다. 주류 SNS에서 관심을 끌었던 젊은이가 DM이나 초대 링크를 통해 Discord의 반공개 서버로 유도된다. 거기서“형님” 스트리머가 FPS를 중계하며 차별적인 농담을 연발하고, 친근감과 과격 사상을 세트로 주입한다.

2-4 모더레이션의 한계

AI는 단어 필터가 중심이며, 문맥을 읽는 것이 서툴다. 「GG ez, <卍>」와 같은 이모지 치환이나 코드화된 슬랭은 검출을 피하고, 모더레이터가 수동으로 대응할 수밖에 없다. 그러나 1시간에 수만 줄이 흐르는 채팅에서는 인력이 따라잡을 수 없다.


3. SNS의 반응――논란과 공감의 대조

  • Reddit:Guardian 지의 기사 링크는 r/technology 등 여러 커뮤니티에서 즉시 확산되었다. 「아들이 CoD 중에 모르는 어른과 VC를 하고 있었다. 등골이 오싹했다」라는 보호자의 목소리가 상위에 올랐다.RedditReddit

  • Guardian의 댓글란에서는 「온라인 규제보다 부모와 자녀의 대화가 먼저」「게임 문화를 악마화하지 말라」며 찬반이 갈렸고, 게시물 수는 800을 넘었다.더 가디언

  • 테러 대책 기관의 X(구 Twitter)공식 계정은 연구를 인용하여 「여름 방학은 특히 주의가 필요하다」고 경고했다. 보호자용 핸드북의 링크가 1만 회 이상 리포스트되었다.더 가디언


4. 사례 연구――“Felix 사건”이 비추는 현실

영국 에든버러의 고등학생 펠릭스 윈터 피고(18)는 Discord에서 1,000시간 이상을 보내며 네오나치 그룹에 심취했다. 모방 범죄 계획이 발각되어 올해 7월에 실형을 선고받았다. 연구자는 「상징적이지만 빙산의 일각」이라고 지적한다.더 가디언


5. 왜 게임 문화는 표적이 되는가

  1. 즉석의 동료 의식
     매치메이킹으로 처음 만난 사람도 「동료」가 된다.

  2. 유사한“무용”체험
     FPS의 스코어보드는 무력과 결부되기 쉽다.

  3. 라이브성과 익명성의 공존
     Twitch는 텔레비전적 확산력, Discord는 뒷골목적 폐쇄성을 겸비한다.


6. 제언과 향후 과제

  • 멀티 플랫폼 연계:악질 사용자의 블랙리스트를 공유하고, BAN 후의 「철새」를 추적.

  • 문맥 AI의 연구 개발:발화의 의도를 추정하는 대규모 언어 모델을 모더레이션에 구현하여 밈 변종에 대응.

  • 디지털 시민 교육:초중학교 수업에서 「온라인 권유 롤플레이」를 도입하여 사춘기의 자아 존중감을 지원.

  • 보호자 대시보드:플레이 시간뿐만 아니라, 참여 서버의 위험 지표를 시각화.


7. 에필로그――“놀이터”를 되찾기 위해

게임은 본래 사람과 사람을 연결하고 창의성을 끌어내는 미디어다. 다양한 플레이어가 안심하고 같은 필드를 뛰어다닐 수 있도록, 기술・커뮤니티・정책의 삼위일체에 의한“차세대 안전망”이 시급하다.


참고 기사

인기 있는 비디오 게임 사이트에서 유해한 콘텐츠가 어떻게 검출을 피하고 있는가
출처: https://phys.org/news/2025-07-content-evading-popular-video-gaming.html

Powered by Froala Editor

← 기사 목록으로 돌아가기

문의하기 |  이용약관 |  개인정보처리방침 |  쿠키 정책 |  쿠키 설정

© Copyright ukiyo journal - 日本と世界をつなぐ新しいニュースメディア All rights reserved.