Les mèmes nuisibles que même l'IA ne peut suivre - Le visage dangereux des « plateformes autour des jeux » : La réalité des contenus nuisibles négligés sur les sites de jeux vidéo

1. Prologue――L'ombre qui rôde dans le "terrain de jeu"

« Qui se cache derrière le casque ? ». Le marché du jeu vidéo, qui a explosé pendant la pandémie de Covid-19, est devenu une immense communauté de plus de 3 milliards de joueurs dans le monde. Cependant, dans un coin de cet univers, les théories de la suprématie blanche et du complot se sont insidieusement infiltrées, dissimulées parmi les vidéos de moments forts et les chats provocateurs. Une récente étude de l'université Anglia Ruskin a mis en lumière cette "ombre invisible" à travers des données.

2. Aperçu de la recherche et principales découvertes

2-1 Sujets et méthode de recherche

L'équipe de recherche a interviewé 42 personnes, dont des modérateurs actifs sur 7 plateformes telles que Discord, Twitch et Steam, des responsables de la sécurité des entreprises technologiques et des experts en contre-terrorisme. De plus, 3,2 To de messages de canaux publics ont été analysés par apprentissage automatique pour visualiser la fréquence et les voies de propagation des expressions nuisibles.

2-2 Contenu d'extrême droite le plus fréquent

Le contenu le plus fréquent était d'extrême droite, avec la suprématie blanche, le néonazisme et l'antisémitisme représentant 58 % de tous les messages. Les extrémistes islamiques représentaient 9 %, mais les "contenus adjacents" tels que les mèmes glorifiant les fusillades dans les écoles avaient une présence élevée de 27 %.Université Anglia Ruskin

2-3 Structure en entonnoir

L'élément clé de l'enquête était l'"entonnoir". Les jeunes attirés par les réseaux sociaux traditionnels sont dirigés vers des serveurs semi-publics de Discord via des messages privés ou des liens d'invitation. Là, des streamers "grands frères" commentent des FPS tout en multipliant les blagues discriminatoires, inculquant à la fois un sentiment de proximité et des idées radicales.

2-4 Limites de la modération

L'IA se concentre principalement sur les filtres de mots, ayant du mal à comprendre le contexte. Les remplacements d'emoji et le jargon codé, comme "GG ez, <卍>", échappent à la détection, obligeant les modérateurs à intervenir manuellement. Cependant, avec des chats défilant à des dizaines de milliers de lignes par heure, l'intervention humaine ne peut suivre.

3. Réactions sur les réseaux sociaux――Contraste entre polémique et empathie

• Reddit : Le lien vers l'article du Guardian s'est rapidement propagé dans plusieurs communautés comme r/technology. Les témoignages de parents, tels que « Mon fils était en chat vocal avec un inconnu pendant qu'il jouait à CoD. J'en ai eu des frissons », ont été mis en avant.RedditReddit

• Dans la section des commentaires du Guardian, les avis étaient partagés entre « le dialogue parent-enfant avant la régulation en ligne » et « ne diabolisez pas la culture du jeu », avec plus de 800 commentaires postés.The Guardian

• Le compte officiel de l'agence de contre-terrorisme sur X (anciennement Twitter) a cité l'étude en avertissant que « la vigilance est particulièrement nécessaire pendant les vacances d'été ». Le lien vers un guide pour les parents a été reposté plus de 10 000 fois.The Guardian

4. Étude de cas――Le "cas Felix" reflète la réalité

Felix Winter, un lycéen de 18 ans d'Édimbourg, a passé plus de 1 000 heures sur Discord, se radicalisant dans un groupe néonazi. Son projet d'acte criminel a été découvert, et il a été condamné à une peine de prison en juillet de cette année. Les chercheurs soulignent que c'est « symbolique mais la partie émergée de l'iceberg ».The Guardian

5. Pourquoi la culture du jeu est-elle ciblée ?

1. Camaraderie instantanée
   　Dans le matchmaking, même les inconnus deviennent des "alliés".

2. Expérience de "bravoure" simulée
   　Le tableau des scores d'un FPS est facilement associé à la force.

3. Coexistence de la diffusion en direct et de l'anonymat
   　Twitch combine la puissance de diffusion d'une télévision, tandis que Discord offre l'intimité d'une ruelle.

6. Recommandations et défis futurs

• Collaboration multiplateforme : Partager une liste noire des utilisateurs malveillants et suivre les "migrateurs" après un bannissement.

• Recherche et développement d'une IA contextuelle : Implémenter des modèles de langage à grande échelle pour estimer l'intention des discours et répondre aux variantes de mèmes.

• Éducation à la citoyenneté numérique : Introduire des jeux de rôle sur le recrutement en ligne dans les cours des écoles primaires et secondaires pour soutenir l'estime de soi des adolescents.

• Tableau de bord pour les parents : Visualiser non seulement le temps de jeu, mais aussi les indicateurs de risque des serveurs fréquentés.

7. Épilogue――Pour récupérer le "terrain de jeu"

Le jeu est à l'origine un média qui connecte les gens et stimule la créativité. Pour que des joueurs divers puissent évoluer en toute sécurité sur le même terrain, il est urgent de mettre en place un "filet de sécurité de nouvelle génération" grâce à une synergie entre technologie, communauté et politique.

Propulsé par Froala Editor