Verschwörungstheorien liegen nicht im "Thema", sondern in der "Erzählweise" – KI analysiert 500 Millionen Reddit-Beiträge

Sprechen Menschen, die über Verschwörungstheorien reden, auch dann in einer charakteristischen Weise, wenn sie nicht über solche Theorien sprechen?

Ein Forscherteam unter der Leitung der Technischen Universität Mailand hat sich dieser Frage durch eine groß angelegte Datenanalyse genähert. Untersucht wurden über 500 Millionen Kommentare, die auf der US-amerikanischen Plattform "Reddit" gepostet wurden. Die Forscher analysierten, wie Nutzer, die an der Verschwörungstheorie-Community "r/conspiracy" teilnahmen, sich in allgemeinen Communities wie Nachrichten, Wissenschaft, Film, Musik, Kochen, DIY und Tierfotos äußerten.

Die Schlussfolgerung der Studie ist provokant. Nutzer, die an der Verschwörungstheorie-Community teilnehmen, zeigen auch in nicht direkt mit Verschwörungstheorien verbundenen Bereichen bestimmte sprachliche Merkmale. Diese Merkmale konnten zudem von einem KI-Modell mit hoher Genauigkeit identifiziert werden.

Allerdings zeigt die Studie nicht einfach eine "Liste von Verschwörungstheoretiker-Wörtern". Vielmehr ist wichtig, dass die Tendenzen, die mit Verschwörungstheorien verbunden sind, nicht in allen Themen gleich erscheinen, sondern sich an die Kultur und Gesprächsregeln der jeweiligen Community anpassen.

Mit anderen Worten, die Sprache rund um Verschwörungstheorien erscheint nicht als festes Etikett, sondern als eine "Erzählweise", die sich je nach Kontext verändert.

Unbehagen in "neutralen Gesprächen" aus 500 Millionen Beiträgen

Das Forscherteam analysierte über einen Zeitraum von zehn Jahren Kommentare, die in mehr als 20 Mainstream-Communities auf Reddit gepostet wurden. Verglichen wurden Nutzer, die an "r/conspiracy" teilgenommen hatten, mit allgemeinen Nutzern, die dies nicht taten.

Wichtig ist, dass die Forscher nicht die Beiträge über Verschwörungstheorien selbst betrachteten. Die Analyse konzentrierte sich auf Äußerungen in Mainstream-Communities, wie etwa Filmrezensionen, Gespräche über Kochen, Musikpräferenzen, Reaktionen auf wissenschaftliche Nachrichten und alltägliche Plaudereien. Oberflächlich betrachtet waren diese Gespräche weder politisch noch verschwörungstheoretisch.

Das Ergebnis war, dass das maschinelle Lernmodell in der Lage war, Teilnehmer der Verschwörungstheorie-Community mit einer durchschnittlichen Genauigkeit von 87 % von Nicht-Teilnehmern zu unterscheiden. Diese Zahl lässt sich nicht einfach durch Zufall oder eine Voreingenommenheit gegenüber bestimmten Themen erklären.

Besonders auffällig waren Ausdrücke, die Wut oder Angst zeigten, Worte mit konfrontativem oder aggressivem Ton sowie Vokabular, das mit Krankheit oder Tod in Verbindung steht. Das Forscherteam extrahierte psycholinguistische Merkmale und aggregierte sie auf Nutzerebene, um das Modell zu trainieren. Es wurde also nicht anhand einzelner Wörter entschieden, sondern die emotionalen und kognitiven Tendenzen in den gesamten Äußerungen statistisch behandelt.

Zum Beispiel könnte eine Person in einem Gespräch über "Kochen" ruhig über Rezepte und Geschmacksvariationen sprechen, während eine andere Person Wut, Misstrauen oder aggressive Ausdrücke einfließen lässt. Die Studie erfasste genau diese Temperaturunterschiede in Gesprächen und die Art und Weise, wie die Weltsicht durchschimmerte.

"Die Sprache von Verschwörungstheoretikern" existiert nicht

Interessant an dieser Studie ist, dass sie zwar gemeinsame Merkmale von Teilnehmern der Verschwörungstheorie-Community identifizierte, aber auch zeigte, dass ein "universelles Erkennungsmodell" nicht gut funktioniert.

Laut dem Forscherteam sank die Leistung, wenn versucht wurde, alle Communities mit einem großen Modell zu identifizieren, im Vergleich zu den individuellen Modellen, die für jede Community erstellt wurden. Der Unterschied betrug bis zu 17 Punkte.

Dies ist wichtig.

Denn die Sprache auf sozialen Netzwerken wird nicht nur durch das Innere des Posters bestimmt. In Nachrichten-Communities gibt es mehr erklärende Worte, in humorvollen Communities mehr Sarkasmus und Witze, und in Hobby-Communities mehr ruhiges Vokabular. Jeder Ort hat seine eigene "Atmosphäre".

Auch Nutzer der Verschwörungstheorie-Community passen ihre Ausdrucksweise an diese Atmosphäre an. Das Forscherteam betont, dass es wichtig ist, nicht nach einem einzigen "verschwörungstheoretischen Wort" zu suchen, sondern eine kontextbezogene Analyse für jede Community durchzuführen.

Dies hat große Implikationen für die Moderation und Risikodetektion auf sozialen Netzwerken. Ein einfaches NG-Wort-System oder eine einheitliche KI-Erkennung mit denselben Standards überall könnte die Realität verkennen. Ein Ausdruck, der in einer Community natürlich ist, könnte in einer anderen ein starkes Erkennungssignal sein.

Gab es Anzeichen, bevor sie teilnahmen?

Ein weiterer bemerkenswerter Punkt ist die Behauptung, dass diese sprachlichen Merkmale bereits beobachtet wurden, bevor Nutzer an der Verschwörungstheorie-Community teilnahmen.

In der Studie wurden auch Äußerungen in Mainstream-Communities analysiert, bevor Nutzer explizit an "r/conspiracy" teilnahmen. Das Ergebnis war, dass die zur Identifikation verwendbaren Muster nicht plötzlich kurz vor der Teilnahme entstanden, sondern relativ stabil vorhanden waren.

Dies lässt sich schwerlich durch eine einfache kausale Beziehung erklären, dass sich die Sprache änderte, weil sie mit der Verschwörungstheorie-Community in Berührung kamen. Vielmehr könnte es einen Aspekt der Selbstselektion geben, bei dem Nutzer mit bestimmten Misstrauens- oder emotionalen Ausdruckstendenzen später von der Verschwörungstheorie-Community angezogen werden.

Natürlich kann dies allein nicht die Psychologie oder das zukünftige Verhalten einer Person bestimmen. Beiträge auf sozialen Netzwerken werden von vielen Faktoren beeinflusst, wie Persönlichkeit, Alter, Kultur, politische Ansichten, Lebensumstände, Tagesstimmung und die Atmosphäre des Posting-Orts. Auch das Forscherteam ist vorsichtig mit Verallgemeinerungen ohne Kontext.

Dennoch ist diese Studie sehr aufschlussreich, da sie zeigt, dass die Ansammlung beiläufiger Worte mit der Teilnahme an Online-Communities und Veränderungen der Informationsumgebung verbunden sein könnte.

Reaktionen auf sozialen Netzwerken: Begrenzte Verbreitung, aber schwerwiegende Themen

Der Artikel auf Phys.org, der diese Studie vorstellt, hat in der Anfangsphase nach der Veröffentlichung keine große Empörung oder umfangreiche Diskussionen ausgelöst. Auch auf der Artikelseite war die Anzahl der Shares begrenzt, und es gab zum Zeitpunkt der Überprüfung nicht viele Kommentare.

Auf X stellte ein japanischer Wissenschaftsinformations-Account den Artikel mit dem Thema "Verschwörungstheoretiker-Charakter, der aus den Worten hervorgeht" vor, aber die Anzahl der Reaktionen war in dem überprüfbaren Bereich noch gering. Auch auf Mastodon und auf Nachrichtenaggregationsseiten wurde der Titel des Papiers verbreitet, was darauf hindeutet, dass es sich derzeit eher um eine anfängliche Verbreitung unter Forschern, Lesern von Wissenschaftsnachrichten und durch automatische Feeds handelt, als um eine große öffentliche Debatte.

Auf LinkedIn erwähnten die Autoren Francesco Pierri und Francesco Corso das Papier im Zusammenhang mit der Annahme bei der ACL 2026 und als verwandte Forschung. Auch hier scheint es eher innerhalb der Forschungsgemeinschaften für Computational Social Science, Natural Language Processing und Online Safety geteilt zu werden, als dass es eine breite öffentliche Empörung auslöst.

Sollte diese Studie jedoch weiter verbreitet werden, sind auf sozialen Netzwerken einige Reaktionen zu erwarten.

Eine mögliche Reaktion ist die Unterstützung für eine verstärkte Moderation. Verschwörungstheorien, Radikalisierung, medizinische Fehlinformationen und falsche Wahlinformationen können reale Auswirkungen haben. Die frühzeitige Erkennung von risikoreichen Community-Formationen und eine kontextbezogene Reaktion der Plattform kann sinnvoll sein.

Andererseits könnten auch Bedenken hinsichtlich der Meinungsfreiheit und der Privatsphäre aufkommen. Die Idee, zukünftige Community-Teilnahmen aus "nicht verschwörungstheoretischen Beiträgen" abzuleiten, könnte von manchen als überwachend empfunden werden. Selbst wenn es zu Forschungszwecken ist, könnte die praktische Anwendung solcher Technologien zu Fehlurteilen und Stigmatisierung führen.

Besonders Worte zu "Wut", "Angst" oder "Tod" werden natürlich auch von Menschen verwendet, die nichts mit Verschwörungstheorien zu tun haben. Menschen, die über Krankheitserfahrungen sprechen, Trauer teilen, politische Unzufriedenheit äußern oder über soziale Probleme wütend sind, sollten nicht pauschal als verdächtig behandelt werden.

Diese Studie sollte nicht als Werkzeug dienen, um Individuen als "Verschwörungstheoretiker" zu brandmarken, sondern als Ansatz, um die sprachliche Umgebung und das Risiko von Veränderungen in der gesamten Community sorgfältig zu erfassen.

KI-Erkennung ist nicht allmächtig

Die Zahl von durchschnittlich 87 % ist beeindruckend, aber sie bedeutet auch, dass es Fehlurteile gibt. Und Fehlurteile auf sozialen Netzwerken sind nicht nur statistische Fehler. Sie können die Ausdrucksmöglichkeiten der Nutzer beeinflussen, indem sie zu Einschränkungen von Accounts, Löschung von Beiträgen, geringerer Sichtbarkeit oder Ausschluss aus Communities führen.

Zudem wurde die hohe Genauigkeit in der Studie unter spezifischen Bedingungen in einem Vergleichsexperiment erreicht. In der tatsächlichen Nutzung von sozialen Netzwerken vermischen sich neue Slang-Ausdrücke, Sarkasmus, Memes, kulturelle Unterschiede, Sprachunterschiede, Bots, Trolle und politische Kampagnen. Merkmale, die zu einem bestimmten Zeitpunkt wirksam waren, könnten zu einem anderen Zeitpunkt nicht mehr gültig sein.

Darüber hinaus ändern Nutzer ihre Sprache, wenn sie sich der Erkennung bewusst sind. Wenn die Überwachung durch KI zunimmt, könnten offensichtliche Ausdrücke abnehmen und verschlüsselte Formulierungen oder Insider-Jargon zunehmen. Dies ist ein wiederkehrendes Problem bei radikalen Communities und Spam-Bekämpfung.

Deshalb ist die Betonung des Forscherteams auf "kontextbezogene Interventionen" so wichtig. Es ist erforderlich, die Normen jeder Community zu verstehen und nicht nur einfache Erkennungen durchzuführen, sondern auch transparente, erklärbare und anfechtbare Maßnahmen zu ergreifen.

Sind neutrale Orte wirklich neutral?

Eine weitere Frage, die diese Studie aufwirft, ist, was eine "neutrale Community" eigentlich ist.

Wir neigen dazu, politische Communities oder Verschwörungsforen als besondere Orte zu betrachten. Dort fliegen extreme Meinungen hin und her, Emotionen kochen hoch und Konflikte entstehen. Auf der anderen Seite denken wir, dass Communities wie Kochen, Musik, Film, DIY oder Tierfotos viel ruhiger und neutraler sind.

Die Studie zeigt jedoch, dass es nicht so einfach ist. Nutzer existieren nicht nur in einer einzigen Community. An einem Ort kommentieren sie Hundebilder, an einem anderen Ort äußern sie Wut über Nachrichten und an einem weiteren Ort sympathisieren sie mit verschwörungstheoretischen Interpretationen. Die Online-Persönlichkeit wird geformt, während sie sich durch mehrere Räume bewegt.

Das bedeutet, dass eine verschwörungstheoretische Weltsicht nicht nur in speziellen Verschwörungsorten eingeschlossen ist. Auch in alltäglichen Gesprächen, Hobbygesprächen und kurzen Reaktionen auf Nachrichten können emotionale Eigenheiten und Misstrauensstrukturen durchscheinen.

Dies ist keine Geschichte, um Individuen zu verdächtigen. Vielmehr geht es darum, zu verstehen, wie stark Online-Räume miteinander verbunden sind. Auf sozialen Netzwerken vermischen sich Hobbys, Politik, Gesundheit, Nachrichten, Unterhaltung, Wut, Angst und Witze im selben Account. Wie man mit dieser Vermischung umgeht, wird eine Herausforderung für das zukünftige Plattformdesign sein.

Die Studie zeigt nicht "Gefährliche Personen finden"

Diese Art von Forschung kann in die falsche Richtung gehen, wenn sie falsch gehandhabt wird. Der Ausdruck, "Verschwörungstheoretiker-Charakter" aus Beiträgen zu erkennen, kann leicht nach Überwachungstechnologie oder Profiling klingen.

Aber eigentlich zeigt diese Studie nicht, wie man Individuen verurteilt, sondern wie man die sprachliche Struktur von Online-Communities versteht. Wichtig ist, zu wissen, wie sich Verschwörungstheorien mit Emotionen, Vokabular und Community-Kultur verbinden und verbreiten.

Die Forscher betonen die Notwendigkeit einer kontextsensitiven Analyse und Intervention, nicht eines universellen Detektors. Dies ist sowohl für Plattformbetreiber als auch für Medien und Nutzer eine wichtige Perspektive.

Denn Verschwörungstheorien sind nicht einfach "falsche Informationen". Sie sind mit Wut, Angst, Entfremdung, Misstrauen und dem Gefühl der Zugehörigkeit zu einer Gemeinschaft verbunden. Das bloße Löschen von Fehlinformationen zeigt nicht, warum Menschen davon angezogen werden.

Worte zeigen Veränderungen vor der Zugehörigkeit

Worte auf sozialen Netzwerken sind nicht nur Informationsübertragung. Sie zeigen, wem man vertraut, was man fürchtet und in welcher Gemeinschaft man sich sicher fühlt.

Die aktuelle Studie deutet darauf hin, dass die Teilnahme an einer Verschwörungstheorie-Community nicht ein plötzlicher Absturz ist, sondern möglicherweise mit vorher bestehenden sprachlichen und psychologischen Tendenzen zusammenhängt. Natürlich ist das kein Determinismus. Nur weil jemand bestimmte Worte benutzt, bedeutet das nicht, dass er sich Verschwörungstheorien zuwendet.

Dennoch, wenn man die riesigen Datenmengen von sozialen Netzwerken betrachtet, tauchen Muster auf, die in einzelnen Beiträgen nicht sichtbar sind. Worte, die Wut oder Angst ausdrücken, Erwähnungen von Krankheit oder Tod, konfrontative Erzählweisen – all das sind alltägliche Ausdrücke, die, wenn sie sich häufen, statistisch mit der Teilnahme an bestimmten Communities verbunden sein können.

Die Herausforderung besteht nun darin, wie man dieses Wissen nutzt. Wenn es zur Überwachung oder zum Ausschluss verwendet wird, könnte es das Misstrauen in sozialen Netzwerken vertiefen. Aber wenn es genutzt wird, um den Kontext jeder Community zu verstehen, Radikalisierung und Isolation frühzeitig zu erkennen und gesündere Dialoge zu gestalten, könnte es helfen, den Online-Raum zu verbessern.

Verschwörungstheorien bestehen