Was ist Digitaler Ageismus im Zeitalter der KI?

Es scheint, als ob es zurückgegeben wird. Die Sprache ist höflich, diskriminierende Worte werden vermieden, und oberflächlich betrachtet gibt es keine Absicht, jemanden zu verletzen. Aber was, wenn sich in dieser "Freundlichkeit" die lange in der Gesellschaft angesammelten Vorurteile subtil eingeschlichen haben?

Die Forschung, die von einem Team des Korea Advanced Institute of Science and Technology, KAIST, veröffentlicht wurde, hat genau dieses Problem hervorgehoben. Das untersuchte Objekt war das generative KI-Modell GPT-4o von OpenAI. Das Forschungsteam ließ die KI Persönlichkeiten und Merkmale von Personen im Alter von 10 bis 90 Jahren in 10-Jahres-Schritten beschreiben und analysierte, welches Altersbild in diesen Texten enthalten war.

Was dabei sichtbar wurde, war kein offener Rassismus. Es waren auch keine beleidigenden Worte gegenüber älteren Menschen. Vielmehr neigte die KI dazu, ältere Menschen mit positiven Worten wie "freundlich", "vertrauenswürdig", "mitfühlend" und "weise" zu beschreiben.

Das Problem liegt in der Art und Weise dieser Bestätigung.

Laut der Forschung werden Personen über 60 Jahre in Bezug auf "Wärme" hoch bewertet, während Aspekte wie "Fähigkeit", "Kompetenz", "Effizienz", "Eigenständigkeit" und "Durchsetzungsvermögen" tendenziell schwächer ausgedrückt werden als bei jüngeren Generationen. Das bedeutet, dass die KI ältere Menschen nicht ablehnt, sondern sie möglicherweise als "freundlich, aber nicht sehr fähig" darstellt.

Dies ist ein sehr wichtiger Punkt im aktuellen Problem der KI-Voreingenommenheit. Denn Diskriminierung tritt nicht immer in Form von aggressiven Worten auf. Vielmehr nehmen Vorurteile, die lange in der Gesellschaft überleben, oft die Form von "guten Absichten" oder "Lob" an.

Zum Beispiel klingt der Ausdruck "Ältere Menschen sind ruhig und fürsorglich" auf den ersten Blick positiv. Aber wenn dies gleichzeitig mit dem Bild "schwach in neuen Dingen", "verminderte Urteilsfähigkeit", "eher unterstützend als führend" verbunden ist, dann gibt es eine Fixierung von Rollen durch das Alter.

Wenn die KI solche Bilder wiederholt generiert, nehmen die Nutzer diese Sichtweise unbewusst auf. Auch wenn ältere Menschen selbst mit der KI interagieren, könnten sie das Gefühl bekommen, "nicht mehr auf der herausfordernden Seite zu stehen" oder "nicht die Hauptakteure im Umgang mit digitalen Technologien zu sein". Die Worte der KI sind nicht nur Texte, sondern können das Selbstverständnis und die soziale Wahrnehmung von Menschen beeinflussen.

Forschungsmethode – "Neutrale Fragen" an die KI gestellt

Interessant an dieser Forschung ist, dass das Forschungsteam keine Fragen stellte, die offen Vorurteile hervorriefen.

Die verwendeten Prompts waren neutral und forderten die KI auf, die Persönlichkeit einer Person eines bestimmten Alters zu beschreiben. Die Zielalter waren 10, 20, 30, 40, 50, 60, 70, 80 und 90 Jahre. Das Forschungsteam sammelte insgesamt 900 Textproben von GPT-4o.

Darüber hinaus analysierten sie die Texte basierend auf dem "Stereotype Content Model", das in der Sozialpsychologie verwendet wird. Dieses Modell erfasst, wie Menschen soziale Gruppen auf zwei Hauptachsen wahrnehmen. Eine ist "Wärme", die mit Freundlichkeit, Vertrauenswürdigkeit, Mitgefühl und Kooperationsbereitschaft zusammenhängt. Die andere ist "Fähigkeit", die mit Kompetenz, Fachwissen, Effizienz, Eigenständigkeit und Durchsetzungsvermögen zusammenhängt.

Auf diesen beiden Achsen betrachtet, wird die Struktur von Vorurteilen detaillierter sichtbar. Eine Gruppe kann als "kalt, aber fähig" oder als "warm, aber unfähig" wahrgenommen werden. Die Stereotypen, die oft auf ältere Menschen angewendet werden, neigen dazu, letzteren zu ähneln. Im Austausch für positive Worte wie "freundlich", "erfahren" und "ruhig" werden "Wettbewerbsfähigkeit", "Durchsetzungskraft" und "Anpassungsfähigkeit an Neues" niedrig eingeschätzt.

Die in dieser Studie aufgezeigte Tendenz von GPT-4o deckt sich damit. In den Beschreibungen von Personen über 60 Jahren waren Ausdrücke in Bezug auf Wärme auffällig, während Ausdrücke in Bezug auf Fähigkeit und Durchsetzungsvermögen relativ schwach waren. Besonders bei Personen über 70 Jahren wurde eine Tendenz zur Homogenisierung der Darstellungen festgestellt. Das bedeutet, dass mit steigendem Alter weniger die "individuellen Unterschiede" als vielmehr die "typische Alterserscheinung" hervorgehoben wird.

Warum "freundliche Vorurteile" gefährlich sind

Das Problem, das diese Studie aufzeigt, ist nicht, dass die KI ältere Menschen schlecht darstellt. Vielmehr zeichnet die KI ältere Menschen als "gute Menschen". Und gerade das macht es gefährlich.

Menschen sind gegenüber offensichtlicher Diskriminierung oft wachsam. Wenn eine klare Aussage wie "Ältere Menschen sind nutzlos" auftaucht, würden viele Nutzer das Problem erkennen. Auch Entwickler können solche Ausdrücke durch Filter und Sicherheitsmaßnahmen leicht erkennen.

Aber wie sieht es mit dem Ausdruck "Ältere Menschen sind warmherzig, ruhig und unterstützen ihre Umgebung" aus? Dies scheint auf den ersten Blick ein unproblematischer Satz zu sein. Wenn jedoch dieselbe KI für jüngere oder mittelalte Menschen häufiger Worte wie "innovativ", "ehrgeizig", "führungsstark" und "problemlösungsorientiert" verwendet, entsteht ein deutlicher Unterschied.

Diskriminierung liegt nicht nur in Worten, die jemanden herabsetzen, sondern auch in Worten, die jemanden in eine bestimmte Rolle einsperren.

Wenn ältere Menschen ständig als "unterstützende", "beobachtende" und "freundliche" Personen dargestellt werden, wird ihnen die Möglichkeit genommen, als "herausfordernde", "entscheidende", "verändernde" und "technologisch versierte" Personen gesehen zu werden. Wenn sich dies summiert, kann es zu Unterschieden in der Behandlung aufgrund des Alters in Bereichen wie Beschäftigung, Bildung, Gesundheitswesen, Verwaltung und digitaler Unterstützung führen.

Wenn ein Unternehmen KI zur Bewertung von Talenten oder zur Erstellung von Stellenanzeigen einsetzt und das Modell impliziert, dass "junge Menschen proaktiv und wachstumsorientiert sind" und "ältere Menschen stabil, aber schwach in Veränderungen", könnte dies die Ausdrucksweise und Entscheidungen beeinflussen. Auch im Pflege- und Gesundheitsbereich könnte eine übermäßige Darstellung älterer Menschen als zu schützende Personen dazu führen, dass ihre Entscheidungsrechte vernachlässigt werden.

Was ist digitales Ageism?

Ein wichtiges Schlüsselwort in dieser Studie ist "digitales Ageism". Dies bezieht sich auf das Phänomen, dass altersbedingte Verzerrungen in das Design, die Daten, den Betrieb und die Nutzung von digitalen Technologien und KI-Systemen einfließen und die Teilnahme und Chancen älterer Menschen behindern.

Digitales Ageism beschränkt sich nicht nur auf das Problem, dass "ältere Menschen Schwierigkeiten haben, Smartphones zu benutzen". Das Problem ist struktureller. In den Lerndaten der KI sind die vielfältigen Erscheinungsformen älterer Menschen nicht ausreichend enthalten. In den Entwicklungsteams fehlen die Perspektiven älterer Generationen. Das Design von Dienstleistungen orientiert sich am Nutzungsverhalten jüngerer Generationen. Ältere Menschen werden von Nutzerumfragen und Tests ausgeschlossen. Wenn sich diese Elemente summieren, reproduziert die Technologie selbst Altersdiskriminierung.

Zudem werden die Ausgaben der KI in sehr natürlicher Sprache präsentiert. Im Gegensatz zu Suchmaschinenergebnissen oder Werbetexten fühlt sich die Antwort einer konversationellen KI wie ein "persönlicher Rat" an. Daher schleichen sich die von der KI erzeugten Stereotypen leicht in das Bewusstsein der Nutzer ein.

Wenn ein älterer Nutzer beispielsweise der KI mitteilt, dass er "eine neue Arbeit beginnen", "ein Unternehmen gründen" oder "Programmieren lernen" möchte, und die KI aus gutem Willen nur vorsichtige Ratschläge wie "im Rahmen des Möglichen", "mit Beratung durch andere" und "Gesundheit an erster Stelle" gibt, während sie jungen Nutzern sagt: "Seien Sie proaktiv", "Erstellen Sie ein Portfolio", "Untersuchen Sie den Markt", dann gibt es eine unsichtbare Diskriminierung.

Der Ton der Ratschläge ist unterschiedlich. Die Erwartungen sind unterschiedlich. Die Art und Weise, wie die Zukunft dargestellt wird, ist unterschiedlich. Das ist die Altersverzerrung im digitalen Zeitalter.

Reaktionen in den sozialen Medien – "KI ist doch ein Spiegel der Gesellschaft" oder "Weitere Überprüfung erforderlich"?

Die Reaktionen auf dieses Thema in den sozialen Medien sind, soweit durch öffentliche Suche überprüfbar, eher eine stille Aufmerksamkeit unter denjenigen, die sich mit KI-Ethik, Forschung und Tech-News beschäftigen, als eine explosive Verbreitung. Auch auf der Seite des Originalartikels war die Anzahl der geteilten Inhalte und Kommentare zum Zeitpunkt der Veröffentlichung begrenzt.

Die Reaktionen auf dasselbe Thema in den sozialen Medien sind jedoch in mehrere Richtungen unterteilt.

Die erste ist die Reaktion, dass "KI ein Spiegel der gesellschaftlichen Vorurteile ist". Generative KI lernt aus einer riesigen Menge an Texten im Internet. Wenn die dort vorhandenen Altersansichten, Berufsauffassungen, Familienansichten und Medienrepräsentationen voreingenommen sind, dann ist auch die Ausgabe der KI voreingenommen. Das bedeutet, dass die Darstellung älterer Menschen als "warm, aber wenig fähig" nicht nur ein Problem der KI ist, sondern das Ergebnis dessen, wie die menschliche Gesellschaft sie dargestellt hat.

Die zweite ist die Reaktion, dass "auch positive Worte diskriminierend sein können". In den sozialen Medien wurde bereits viel über Geschlechter- und Rassenverzerrungen diskutiert. Altersverzerrungen werden jedoch oft übersehen. Ausdrücke, die ältere Menschen als "süß", "ruhig" und "heilend" behandeln, werden aufgrund des fehlenden bösen Willens weniger kritisiert. Wenn dies jedoch dazu führt, dass die Fähigkeiten oder die Entscheidungsfähigkeit der Betroffenen leichtfertig betrachtet werden, ist es dennoch ein Problem.

Die dritte ist die vorsichtige Reaktion, dass "die Forschung auf ein Modell und einen Zeitpunkt beschränkt ist, daher ist Vorsicht bei der Verallgemeinerung geboten". Diese Studie konzentrierte sich auf GPT-4o, und das Modell wird kontinuierlich aktualisiert. Auch die Formulierung der Prompts, die Sprache und der kulturelle Kontext beeinflussen die Ausgabe. Daher ist es verfrüht, allein aus diesen Ergebnissen zu schließen, dass "alle generativen KIs dieselben Vorurteile haben".

Die vierte ist die praktische Reaktion, dass "daher eine Bewertungsmethode erforderlich ist". Wenn KI in die Gesellschaft integriert wird, muss die Leistung des Modells nicht nur anhand der Genauigkeit oder Geschwindigkeit gemessen werden, sondern auch, wie es welche Gruppen darstellt, welche Rollen es zuweist und wessen Möglichkeiten es nicht einschränkt. In den Diskussionen von KI-Entwicklern und politischen Entscheidungsträgern in den sozialen Medien ist die Frage, wie solche Verzerrungsbewertungen in die Produktentwicklung integriert werden können, ein wichtiges Thema.

Warum Altersverzerrungen leicht übersehen werden

In der Diskussion über KI-Voreingenommenheit wurden bisher Geschlecht, Rasse, Nationalität und Religion stark thematisiert. Dass diese wichtig sind, steht außer Frage. Aber das Alter wird überraschend oft nachrangig behandelt.

Ein Grund dafür ist, dass das Alter ein Attribut ist, das sich für jeden verändert. Im Gegensatz zu Rasse oder Geburtsort wird jeder älter. Daher wird Altersdiskriminierung oft nicht als "Diskriminierung gegen bestimmte Personen", sondern als "natürlicher Generationsunterschied" oder "Unterschied im Lebensabschnitt" behandelt.

In Wirklichkeit haben altersbedingte Vorurteile jedoch schwerwiegende Auswirkungen. Bei der Einstellung wird angenommen, dass "jüngere Menschen flexibler sind". Im Gesundheitswesen wird entschieden, dass "es bei älteren Menschen unvermeidlich ist". Bei digitalen Diensten wird angenommen, dass "ältere Menschen sie nicht nutzen werden". In der Bildung wird gesagt, dass "es zu spät ist, jetzt noch zu lernen". Solche Entscheidungen basieren nicht auf den Fähigkeiten des Einzelnen, sondern auf der Alterskategorie.

Mit der Verbreitung von generativer KI hat dieses Problem eine neue Phase erreicht. KI dringt in alle Bereiche ein, in denen Menschen Texte schreiben, Stellenanzeigen erstellen, Werbung machen, Bilder generieren und im Kundenservice antworten. Wenn KI festgefahrene Altersvorstellungen hat, wird diese Verzerrung als eine große Menge an Texten und Bildern in die Gesellschaft zurückgespielt.

Zudem wird diese Verzerrung oft als "von der KI gesagt" leicht geglaubt. Während man menschlichen Vorurteilen widersprechen kann, erscheinen die Ausgaben der KI statistisch und neutral. Diese scheinbare Neutralität macht die Vorurteile noch unsichtbarer.

Ältere Menschen nicht auf ein "einheitliches Bild" reduzieren

Ein besonders bemerkenswerter Punkt in dieser Studie ist der Hinweis, dass die Darstellung von Personen über 70 Jahren zur Homogenisierung neigt. Dies entspricht der Tendenz der Gesellschaft, ältere Menschen als eine einheitliche Gruppe zu betrachten.

Aber Menschen in ihren 70ern, 80ern und 90ern sind natürlich nicht einheitlich. Einige arbeiten weiter. Einige lernen neue Technologien. Einige gründen Unternehmen. Einige führen Gemeinschaftsaktivitäten an. Einige erhalten Pflege, während andere jemanden unterstützen. Politische Meinungen, Hobbys, wirtschaftliche Situationen, Gesundheitszustände und digitale Fähigkeiten unterscheiden sich erheblich.

Trotzdem, wenn die KI "typische Alterserscheinungen" durchschnittlich darstellt, verschwindet die vielfältige Realität. Dies kann auch bei bildgenerierenden KIs ein Problem sein. Wenn man "eine 80-jährige Person" eingibt, erscheinen nur weiße Haare, Falten, ein Stock, ein ruhiger Ausdruck und ein pflegerischer Kontext. Wenn Menschen, die Sport treiben, forschen, ein Unternehmen leiten, Spiele genießen, sich verlieben oder sich politisch engagieren, nicht ausreichend dargestellt werden, wird das Bild älterer Menschen arm.

Dasselbe gilt für textgenerierende KIs. Es ist nicht falsch, dass die KI ältere Menschen als "erfahren und ruhig" darstellt. Das Problem ist, wenn sie nur das darstellt. Auch ältere Menschen haben Ambitionen, Wut, Wettbewerbsgeist, Lernbereitschaft, Misserfolge und Wachstum. Wenn diese Komplexität nicht ausgedrückt werden kann, versteht die KI nicht den Menschen, sondern klebt nur ein durchschnittliches Etikett auf.

Was von Entwicklern gefordert wird

Die Lösung dieses Problems besteht nicht nur darin, "diskriminierende Worte zu verbieten". Vorurteile wie diese treten nicht als diskriminierende Worte auf. Vielmehr verstecken sie sich in höflichen und positiven Worten.

Daher ist eine detailliertere Bewertung durch KI-Entwickler erforderlich. Welche Adjektive verwendet die KI häufig für eine bestimmte Altersgruppe? Welche Rollen weist sie zu? Welche Fähigkeiten nimmt sie an? Ändert sich der Ton der Ratschläge je nach Alter? Wird das Risiko überbewertet? Werden die Möglichkeiten zur Herausforderung eingeschränkt? Diese Punkte müssen in die Modellevaluation integriert werden.

Auch die Beteiligung verschiedener