Schädliche Memes, die selbst KI nicht verfolgen kann ─ Die gefährliche Seite von 'Game-Umgebungsplattformen': Die Realität von schädlichen Inhalten, die auf Videospielseiten übersehen werden

1. Prolog――Schatten im "Spielplatz"

„Wer ist auf der anderen Seite des Headsets?“ Der während der Corona-Pandemie explosionsartig gewachsene Spielemarkt hat sich zu einer riesigen Gemeinschaft mit über 3 Milliarden Spielern weltweit entwickelt. Doch in einem Teil davon, zwischen Highlight-Videos und provokanten Chats, schleichen sich leise weiße Vorherrschaft und Verschwörungstheorien ein. Eine aktuelle Studie der Anglia Ruskin University beleuchtet diesen „unsichtbaren Schatten“ mit Daten.

2. Überblick der Forschung und Hauptentdeckungen

2-1 Untersuchungsgegenstand und Methode

Das Forschungsteam führte Interviews mit 42 Moderatoren, Sicherheitsbeauftragten von Tech-Unternehmen und Experten für Terrorismusbekämpfung, die auf sieben Plattformen wie Discord, Twitch und Steam aktiv sind. Zudem analysierten sie 3,2 TB an Nachrichten aus öffentlichen Kanälen mittels maschinellem Lernen, um die Häufigkeit und Verbreitungswege schädlicher Ausdrücke sichtbar zu machen.

2-2 Rechtsextreme Inhalte am häufigsten

Am häufigsten waren rechtsextreme Inhalte, wobei weiße Vorherrschaft, Neonazismus und Antisemitismus 58 % aller Beiträge ausmachten. Islamistische Extremisten machten 9 % aus, jedoch zeigten „benachbarte Inhalte“ wie „Memes, die Schulschießereien verherrlichen“ mit 27 % eine starke Präsenz.Anglia Ruskin University

2-3 Trichterstruktur

Der Schlüssel in der Untersuchung war der „Trichter“. Junge Menschen, die auf Mainstream-SNS interessiert wurden, werden über DMs oder Einladungslinks zu halböffentlichen Discord-Servern geführt. Dort prägen Streamer, die als „große Brüder“ fungieren, durch das Kommentieren von FPS-Spielen diskriminierende Witze ein und vermitteln gleichzeitig ein Gefühl der Nähe und radikale Ideologien.

2-4 Grenzen der Moderation

KI konzentriert sich auf Wortfilter und hat Schwierigkeiten, den Kontext zu erfassen. Emoji-Ersatz und kodierte Slang-Ausdrücke wie „GG ez, <卍>“ entgehen der Erkennung, sodass Moderatoren manuell eingreifen müssen. Doch bei Chats mit Zehntausenden von Zeilen pro Stunde kommt die menschliche Arbeitskraft nicht hinterher.

3. Reaktionen in den sozialen Netzwerken――Kontrast zwischen Empörung und Empathie

• Reddit: Der Artikel-Link des Guardian verbreitete sich sofort in mehreren Communities wie r/technology. Stimmen von Eltern, wie „Mein Sohn hat während CoD mit einem unbekannten Erwachsenen VC gemacht. Es lief mir eiskalt den Rücken runter“, erreichten die oberen Ränge.RedditReddit

• Im Kommentarbereich des Guardian war die Meinung gespalten zwischen „Dialog zwischen Eltern und Kindern vor Online-Regulierung“ und „Verteufelt nicht die Spielkultur“, wobei die Anzahl der Beiträge über 800 erreichte.The Guardian

• Das offizielle Konto der Anti-Terror-Behörde auf X (ehemals Twitter) zitierte die Forschung und warnte: „Besondere Vorsicht ist in den Sommerferien geboten.“ Der Link zu einem Handbuch für Eltern wurde über 10.000 Mal repostet.The Guardian

4. Fallstudie――Die Realität, die der „Felix-Fall“ widerspiegelt

Der britische Schüler Felix Winter (18) aus Edinburgh verbrachte über 1.000 Stunden auf Discord und neigte zu einer Neonazi-Gruppe. Sein Nachahmerplan wurde aufgedeckt und er wurde diesen Juli zu einer Gefängnisstrafe verurteilt. Forscher weisen darauf hin, dass dies „symbolisch, aber nur die Spitze des Eisbergs“ ist.The Guardian

5. Warum wird die Spielkultur ins Visier genommen?

1. Spontane Kameradschaft
   : Beim Matchmaking wird man auch bei der ersten Begegnung zum „Verbündeten“.

2. Pseudomut-Erfahrung
   : Die Punktetafel von FPS wird leicht mit Gewalt verbunden.

3. Koexistenz von Live-Charakter und Anonymität
   : Twitch kombiniert die Verbreitungskraft des Fernsehens mit der geschlossenen Natur einer Gasse auf Discord.

6. Empfehlungen und zukünftige Herausforderungen

• Plattformübergreifende Zusammenarbeit: Teilen von schwarzen Listen böswilliger Benutzer und Verfolgung der „Zugvögel“ nach dem BAN.

• Forschung und Entwicklung von Kontext-KI: Implementierung großer Sprachmodelle zur Abschätzung der Absicht von Äußerungen in der Moderation und Anpassung an Meme-Varianten.

• Digitale Bürgererziehung: Einführung von „Online-Rekrutierungs-Rollenspielen“ im Unterricht an Grund- und Mittelschulen zur Unterstützung des Selbstwertgefühls in der Pubertät.

• Eltern-Dashboard: Sichtbarmachung von Risikokennzahlen der teilnehmenden Server, nicht nur der Spielzeit.

7. Epilog――Um den „Spielplatz“ zurückzugewinnen

Spiele sind von Natur aus ein Medium, das Menschen verbindet und Kreativität fördert. Damit vielfältige Spieler unbesorgt auf demselben Spielfeld herumtollen können, ist ein „nächstes Sicherheitsnetz“ durch die Dreieinigkeit von Technologie, Gemeinschaft und Politik dringend erforderlich.

Powered by Froala Editor