Die Ära des "KI-Konsultierens" in Politik und Einkauf: Was hinter den überzeugenden Chatbots geschieht

Die Ära des "KI-Konsultierens" in Politik und Einkauf: Was hinter den überzeugenden Chatbots geschieht

2025年12月08日 13:48

„Ich entscheide selbst über meine Meinung“ – wie wahr ist das wirklich?

„Ich bin zu dieser Meinung gekommen, weil ich selbst darüber nachgedacht habe, nicht weil jemand es mir gesagt hat.“
Viele Menschen möchten das gerne glauben.


Doch eine aktuelle groß angelegte Studie, die von einem Forscherteam unter der Leitung des britischen AI Security Institute (AISI) veröffentlicht wurde, hat diesem „Selbstvertrauen“ einen Dämpfer verpasst. Es wurde gezeigt, dass sich die Meinungen der Menschen auf statistisch signifikante Weise ändern, nachdem sie mit einem Chatbot über politische Themen gesprochen haben.The Guardian


Dabei war es nicht eine dramatische Geschichte oder eine geschickt ausgearbeitete psychologische Technik, die die Menschen am meisten beeinflusste. Es war ein Chatbot, der einfach eine „Menge an Fakten und Daten“ präsentierte.THE DECODER


Ein Artikel von ZDNet mit dem Titel „How chatbots can change your mind – a new study reveals what makes AI so persuasive“ stellt diese Studie anschaulich vor. Er beschreibt die Gefahren der „Überzeugung“ im KI-Zeitalter mit der provokanten Aussage, dass „je überzeugender das Modell trainiert wird, desto mehr Halluzinationen auftreten“.Startup News


In diesem Artikel werden die wichtigsten Punkte der Studie und des Artikels zusammengefasst, und es wird überlegt, wie weit „überzeugende Chatbots“ die Gesellschaft verändern können, unter Einbeziehung von Reaktionen aus den sozialen Medien.


76.000 Personen, 19 Modelle, 707 Themen – das größte „Überzeugungsexperiment“

Das Forscherteam rekrutierte online etwa 76.000 britische Wähler, die mit 19 verschiedenen großen Sprachmodellen (LLM) im 1:1-Gespräch diskutierten. Die Themen umfassten 707 politische Streitpunkte in Großbritannien, darunter Gehälter im öffentlichen Sektor, Streiks, steigende Lebenshaltungskosten und Einwanderungspolitik – Themen, die auch bei Wahlen relevant sein könnten.The Guardian


Der Ablauf des Experiments war wie folgt:

  1. Die Teilnehmer gaben an, inwieweit sie einer politischen Aussage zustimmen, auf einer Skala von 0 bis 100 Punkten.

  2. Anschließend diskutierten sie etwa 10 Minuten lang, im Durchschnitt etwa sieben Mal hin und her, mit einem Chatbot.

  3. Danach bewerteten sie erneut ihre Zustimmung zur gleichen Aussage auf der gleichen Skala.

Die Differenz zwischen den Bewertungen vor und nach der Diskussion diente als Maß für den Grad der Überzeugung.The Guardian


Gleichzeitig wurden alle „faktisch überprüfbaren Aussagen“, die während der Gespräche von den Modellen gemacht wurden, gekennzeichnet und auf ihre Genauigkeit überprüft. Insgesamt wurden etwa 500.000 faktische Aussagen gemacht, deren durchschnittliche Genauigkeit mit „etwa 77 von 100 Punkten“ bewertet wurde.THE DECODER


Ein unerwarteter Sieger: Der „Information Overload“-Prompt

Das Forscherteam verglich acht verschiedene Gesprächsstile der Chatbots. Diese umfassten bekannte Techniken aus der Psychologie und politischen Kampagnenforschung.Science


  • Storytelling (als Geschichte erzählen)

  • Moral Reframing (moralisch umformulieren, um den Werten des Gegenübers zu entsprechen)

  • Deep Canvassing (zuerst die Erfahrungen und Emotionen des Gegenübers einfühlsam anhören und dann überzeugen)

  • Empathie für die gegnerische Meinung zeigen und dann allmählich zur eigenen Position führen … und andere


Daneben wurde ein sehr einfaches „Information Prompt“ getestet.
Der Inhalt war im Wesentlichen:

Zeige so viele Fakten, Statistiken und Beweise wie möglich, um das Gegenüber zu überzeugen.

Das war die einzige Anweisung.


Das Ergebnis war überraschend klar.
Chatbots, die den Information Prompt verwendeten, zeigten durchweg eine höhere Überzeugungskraft als jede andere Strategie und waren etwa 27% überzeugender als die Basis-Prompts.THE DECODER


Zudem stieg die Veränderungsrate der Einstellungen der Menschen mit der Anzahl der im Gespräch präsentierten „Fakten“. Eine Analyse ergab, dass „mit jedem zusätzlichen überprüfbaren Fakt die Überzeugungspunktzahl im Durchschnitt um 0,3 Punkte stieg“.THE DECODER


Die Korrelation zwischen Informationsdichte (information density) und Überzeugungskraft überstieg 0,7, was auf eine nahezu lineare Beziehung hinweist.ChatPaper

Kurz gesagt, „so viele ‚scheinbar echte Fakten‘ wie möglich aufzuzählen“ wurde zur stärksten Überzeugungstechnik.


Verlust der „Genauigkeit“ im Tausch gegen Überzeugungskraft

Doch dieser Sieg hat eine dunkle Seite.


Laut der Analyse des AISI und Artikeln im Bereich der KI-Sicherheit zeigt sich, dass Modelle, die nachträglich trainiert wurden, um ihre Überzeugungskraft zu erhöhen, tendenziell eine geringere Genauigkeit bei Fakten aufweisen.AICERTs - Empower with AI Certifications


  • Im Durchschnitt waren etwa 77% der Fakten korrekt,

  • während in den überzeugendsten Modellgruppen der Anteil an Fehlinformationen in einigen Fällen auf fast 30% anstieg.AICERTs - Empower with AI 


Die Forscher warnen, dass die Modelle bei der nachträglichen Optimierung mit dem Ziel, „die Einstellung des Gegenübers zu ändern“, möglicherweise mehr Wert darauf legten, „wirkungsvollere Aussagen zu produzieren“, als darauf, ob diese Aussagen wahr waren.AICERTs - Empower with AI Certifications


Dies deckt sich mit der Botschaft des ZDNet-Artikels, dass „die Erhöhung der Überzeugungskraft zu mehr Halluzinationen führt“.Startup News


Überzeugungskraft und Wahrhaftigkeit stehen im Widerspruch – diese Struktur ist es, die vielen Nutzern in sozialen Medien Sorgen bereitet.


„Personalisierung“ war überraschend ineffektiv

Ein weiteres interessantes Ergebnis ist, dass „Personalisierung durch Nutzung persönlicher Daten“ kaum Wirkung zeigte.

Im Rahmen der Studie wurden Prompts getestet, die die Attribute der Teilnehmer (Alter, Geschlecht, politische Neigungen usw.) berücksichtigten, sowie Modelle, die mit diesen Informationen vorab feinjustiert wurden. Doch die Überzeugungskraft unterschied sich kaum, mit maximal einem Punkt Unterschied.THE DECODER


Vielmehr zeigte sich, dass

  • welches Modell verwendet wird (Größe und Leistung des Modells)

  • welches nachträgliche Training durchgeführt wird

  • welche Prompt-Strategie verwendet wird

viel größeren Einfluss auf die Überzeugungskraft haben als die „Wahlmöglichkeiten des Designs“.LinkedIn


Das bedeutet, dass

„es effektiver ist, wenn ein AI, die einfach eine Menge ‚scheinbar echter Fakten‘ ausspuckt“
, als wenn
„jemand auf Basis Ihrer Facebook-‚Gefällt mir‘-Historie Ihre Persönlichkeit analysiert und gezielt anspricht“.

Zumindest auf experimenteller Ebene ist das so.


Experimentelle Ergebnisse zeigen „schwache, aber nicht zu ignorierende“ Überzeugungseffekte

Wie überzeugend waren die Chatbots?


Analysen anderer Medien zufolge lag der durchschnittliche Überzeugungseffekt der Gespräche bei „einigen Punkten“ – in vielen Fällen änderten sich die Einstellungen um etwa fünf Punkte.Ars Technica


Auf den ersten Blick mag das gering erscheinen,

  • aber eine Änderung der Einstellung um einige Punkte

  • nach nur einem zehnminütigen Gespräch

  • ist im Vergleich zu traditionellen politischen Kampagnenstudien nicht zu vernachlässigen.

Insbesondere in knappen Wahlen können wenige Punkte den Ausgang entscheidend beeinflussen.


← Zurück zur Artikelliste