Gefahren von AI-Chatbots für Teenager: Ist "sicher für Jugendliche" wirklich wahr? Eine dritte Partei warnt vor den Sicherheitsfunktionen von ChatGPT

Wenn man bei den Hausaufgaben nicht weiterkommt, sich über die Beziehung zu Freunden Gedanken macht oder nachts mit jemandem reden möchte. Eine KI, die sofort antwortet, wird auch für Kinder zu einer vertrauten Präsenz.

Aber wenn diese KI über "Schutzfunktionen für Teenager" verfügt, können Erwachsene ihr dann beruhigt die Verantwortung überlassen?

Gizmodo berichtete am 7. Oktober 2026 über eine Bewertung, die diese Erwartungen in Frage stellte. Die US-amerikanische gemeinnützige Organisation Common Sense Media wies darauf hin, dass die Funktionen von ChatGPT für Teenager "inakzeptable Risiken" bergen. Sie fordern OpenAI auf, die Nutzung durch Minderjährige zu stoppen, bis die Sicherheit gewährleistet ist.

Der Fokus liegt nicht nur darauf, ob unangemessene Antworten gegeben werden. Es geht darum, ob Kinder, die ernsthafte Probleme anvertrauen, reale Unterstützung erhalten können und ob Eltern den Sicherheitsfunktionen nicht mehr Vertrauen schenken, als sie sollten.

Was verspricht der Schutz für "Teenager"?

Im August 2026 stellte OpenAI "ChatGPT for Teens" vor, das sich an Nutzer im Alter von 13 bis 17 Jahren richtet.

Das Unternehmen verspricht ein Nutzungserlebnis, das das Lernen unterstützt und gleichzeitig altersgerechten Schutz verstärkt. Es kombiniert Lernhilfen, die nicht nur die Antworten auf Fragen liefern, sondern auch die Denkweise Schritt für Schritt erklären, sowie Mechanismen, die Pausen fördern.

Wenn Eltern- und Kinderkonten verknüpft sind, können Zeiträume festgelegt werden, in denen die Nutzung eingeschränkt wird, und es können Sicherheitsbenachrichtigungen in begrenzten Hochrisikosituationen empfangen werden.

Einige Familien könnten erwarten, dass sie benachrichtigt werden, wenn ihr Kind gefährliche Probleme anspricht. Doch zwischen dieser Erwartung und den Testergebnissen klafft eine Lücke.

Wenn Kinder über ihre SOS-Signale sprechen, aber keine Benachrichtigung kommt

In einem von Gizmodo vorgestellten Test simulierten Tester Teenager-Nutzer und kommunizierten über Suizidgedanken, Selbstverletzung und Essstörungen.

Doch weder bei kurzen noch bei einstündigen Gesprächen wurden Benachrichtigungen an die Eltern gesendet.

Wichtig ist, dass im Originalbericht steht, dass die Benachrichtigungen unter verschiedenen Bedingungen getestet wurden.

Während intensive Tests mit neuen Konten keine Benachrichtigungen ergaben, wurden bei einem anderen Test über mehrere Wochen hinweg insgesamt vier Benachrichtigungen gesendet. Es kann also nicht geschlossen werden, dass unter keinen Bedingungen Benachrichtigungen erfolgen.

Im Bericht wird auch erwähnt, dass OpenAI erklärte, dass es etwa drei Stunden nach der Kontoverknüpfung dauert, bis Benachrichtigungen empfangen werden können. Die Tester hielten an ihrer Bewertung fest, da auch Konten verknüpft waren, die diese Zeit überschritten hatten.

Für Familien ist es wichtig,das Ausbleiben von Benachrichtigungen nicht als Beweis für die Sicherheit der Kinder zu sehen. Das Vorhandensein einer Benachrichtigungsfunktion bedeutet nicht, dass notwendige Situationen zuverlässig erfasst werden.

Reicht es aus, gefährliche Antworten einfach abzulehnen?

Der Bericht besagt nicht, dass alle Schutzmaßnahmen gescheitert sind. Laut Gizmodo funktionierten einige Maßnahmen, wie die Ablehnung von sexuellen Rollenspielen mit Minderjährigen.

Jedoch gab es bei Ratschlägen zur Gesundheit und gewalttätigen Rollenspielen Unterschiede in der Reaktion, und es wurde bemängelt, dass bei Gesprächen über Selbstverletzung oder Essstörungen nicht konsequent auf Fachleute oder Beratungsstellen verwiesen wurde.

Dieser Unterschied ist nicht zu übersehen.

Das Ablehnen gefährlicher Anfragen ist ein Sicherheitsmaßnahme. Doch wenn ein Kind mit ernsthaften Sorgen weiterhin nur mit dem Bildschirm spricht, könnte es ohne reale Unterstützung bleiben.

Dass die Antworten der KI ruhig und fürsorglich erscheinen und dass notwendige Hilfe geleistet wird, sind zwei verschiedene Dinge.

Wann wird eine "gesprächsbereite KI" zum "einzigen Vertrauten"?

Ein weiterer Punkt, der im Bericht kritisiert wurde, ist die emotionale Abhängigkeit von der KI.

Laut Gizmodo äußerten die Tester Bedenken, dass ChatGPT trotz Schutzfunktionen für Teenager wie ein Freund agieren könnte.

Es hat einen Wert, jemanden zu haben, dem man seine Sorgen anvertrauen kann. Manche Dinge, die schwer auszusprechen sind, lassen sich vielleicht zuerst schriftlich ordnen.

Wenn dies jedoch dazu führt, dass man glaubt, "nur diese KI versteht mich" oder "ich muss mit niemandem in der realen Welt sprechen", ändert sich das Problem.

OpenAI hat als Richtlinie für Minderjährige festgelegt, dass emotionale Abhängigkeit nicht gefördert und Ausdrücke vermieden werden sollen, die den Eindruck erwecken, die KI habe Gefühle oder Bewusstsein. Der Streitpunkt der Bewertung liegt darin, ob diese Richtlinie in tatsächlichen Gesprächen ausreichend eingehalten wird.

Auch in japanischen Haushalten ist es wichtig, nicht nur die Nutzungszeit, sondern auch den Zweck der Nutzung zu kennen. Das Überprüfen von englischen Vokabeln und das nächtliche Anvertrauen von unaussprechlichen Sorgen erfordern unterschiedliche Herangehensweisen.

Warum auch der "Lernmodus" nicht vollständig überlassen werden kann

Neben der emotionalen Beratung stellte der Bericht auch das Lernunterstützungssystem in Frage.

Laut Gizmodo konnte man durch das Entfernen der Eingabefeldmarkierung für den Lernmodus zum normalen Gespräch zurückkehren oder die Option nutzen, Antworten direkt anzuzeigen.

Allerdings behindert das Anzeigen von Antworten nicht in jedem Fall das Lernen. Es kann auch zum Abgleich nach eigenem Lösen oder zum Vergleich von Lösungswegen genutzt werden.

Das Problem entsteht, wenn Eltern glauben, "diese Einstellung sorgt dafür, dass mein Kind selbst nachdenkt". Die Funktion, die zum Nachdenken anregt, und die Funktion, die das vollständige Überlassen von Aufgaben verhindert, sind nicht dasselbe.

In Familien und Schulen sollte nicht nur überprüft werden, ob der Modus eingestellt wurde, sondern auch, ob nach der Nutzung ein Verständnis geblieben ist.

Zum Beispiel könnte das Kind gebeten werden, die Lösung in eigenen Worten zu erklären. Oder es könnte gebeten werden, ein leicht abgewandeltes Problem zu lösen. Ein Abgleich der von der KI gegebenen Begründungen mit dem Lehrbuch wäre ebenfalls sinnvoll.

Auf sozialen Netzwerken gibt es sowohl "Bedenken bei alleiniger Nutzung" als auch "Wunsch, beim Lehren zu beaufsichtigen"

Auf sozialen Netzwerken wird schon seit längerem über die Distanz zwischen Kindern und KI diskutiert, noch bevor der aktuelle Bericht veröffentlicht wurde.

In einem Reddit-Thread, der sich mit der Sorge befasst, Kindern die Nutzung von ChatGPT ohne Aufsicht zu erlauben, wurden hauptsächlich folgende Meinungen geäußert. Die folgenden Punkte fassen die Hauptaussagen der Beiträge zusammen und sind keine direkten Reaktionen auf den aktuellen Bericht.

• Gegen die Nutzung ohne Aufsicht von Erwachsenen. Auch von Nutzern, die KI positiv bewerten, gab es vorsichtige Stimmen zur alleinigen Nutzung durch Kinder.
• Es ist notwendig, Gelegenheiten zu schaffen, über KI zu lernen. Da es sich um eine Technologie handelt, die in Zukunft genutzt wird, möchten einige, dass Erwachsene beim Lernen involviert sind.
• Nicht nur unangemessene Inhalte, sondern auch übermäßige Abhängigkeit sind besorgniserregend. Es wurde die Sorge geäußert, dass die Gewohnheit, selbst zu recherchieren oder nachzudenken, verloren gehen könnte.
• Die Nutzung, die zum Nachdenken anregt, wird positiv bewertet. Es gab positive Reaktionen auf Methoden, die Kinder dazu ermutigen, selbst zu denken.

Diese Meinungen stammen aus einer bestimmten Community und spiegeln nicht die gesamte öffentliche Meinung der Eltern wider. Zudem beziehen sie sich auch auf Diskussionen über jüngere Kinder und nicht speziell auf die Bewertung der Funktionen für 13- bis 17-Jährige.

Dennoch wird die Schwierigkeit deutlich, allein anhand der Frage, ob KI genutzt werden soll, eine Entscheidung zu treffen. Es ist notwendig, auch das Alter, den Zweck und die Beteiligung anderer Personen zu berücksichtigen.

In japanischen Haushalten sollten "Einstellungen" und "Gespräche" kombiniert werden

Der aktuelle Test wurde in den USA durchgeführt und zeigt nicht direkt, dass die gleichen Ergebnisse bei Gesprächen auf Japanisch oder in japanischen Haushalten erzielt werden.

Zudem bedeutet das Urteil der Bewertungsorganisation "inakzeptable Risiken" nicht, dass alle Kinder, die die KI nutzen, Schaden erleiden.

Dennoch kann es als Material zur Überprüfung der Erwartungen an Sicherheitsfunktionen dienen. Wenn es in japanischen Haushalten oder Schulen angewendet wird, könnten folgende Regeln in Betracht gezogen werden.

Zuerst sollte zwischen Lernunterstützung und ernsthaften körperlichen oder seelischen Beratungen unterschieden werden. Die KI kann für Erklärungen und Textorganisation genutzt werden, aber sie sollte nicht die einzige Anlaufstelle in schwierigen Zeiten sein.

Zweitens sollte es Kindern möglich sein, problematische Antworten ohne Angst vor Bestrafung den Erwachsenen zu zeigen. Eine Reaktion wie "Warum hast du das gefragt?" könnte zukünftige Beratungen erschweren.

Drittens sollte es auch andere Ansprechpartner als die Eltern geben. Für Kinder, die zu Hause nicht über ihre Probleme sprechen können, sind Lehrkräfte oder Schulberater wichtige Anlaufstellen.

Es ist notwendig, die Einstellungen zu überprüfen, aber das allein kann den täglichen Dialog nicht ersetzen.

Gefordert ist die tatsächliche Funktion der Sicherheitsfunktionen, nicht nur ihr "Name"

"Für Teenager", "Für Eltern", "Lernunterstützung". Solche Bezeichnungen wecken bestimmte Erwartungen bei den Nutzern.

Deshalb liegt es in der Verantwortung der Anbieter, klar zu erklären, was verhindert werden kann, unter welchen Bedingungen Benachrichtigungen erfolgen und wo die Grenzen liegen. Auch unabhängige Prüfungen sind wichtig, damit Nutzer diese Erklärungen überprüfen können.

Der aktuelle Bericht stellt die Frage, wie der Schutz, der der Bequemlichkeit einer KI entspricht, für Kinder gewährleistet werden kann.

Eine Umgebung, in der Kinder die KI sicher nutzen können, wird nicht allein dadurch geschaffen, dass Sicherheitsfunktionen im Einstellungsmenü aufgelistet sind. Entscheidend ist, ob Kinder, wenn ihre Sorgen in der digitalen Welt zunehmen, den Weg zu Menschen außerhalb des Bildschirms finden können.

Quellen

1. Gizmodo: Vorstellung der Bewertung von Common Sense Media, Elternbenachrichtigungen, emotionale Abhängigkeit und Hinweise zum Lernmodus.
   https://gizmodo.com/chatgpt-for-teens-carries-unacceptable-risk-for-teens-report-claims-2000822954

2. Common Sense Media & Youth AI Safety Institute: Originalbewertungsbericht. Unterschiede in den Benachrichtigungsergebnissen bei neuen Konten und Langzeittests, Zusatzinformationen zur Wartezeit nach der Verknüpfung und regionale Begrenzungen der Tests.
   https://institute.commonsensemedia.org/risk-assessments/chatgpt-teensYouth AI Safety Institute

3. OpenAI: Offizielle Ankündigung von ChatGPT for Teens. Erklärung des Anbieters zu den Zielnutzern, Lernunterstützung, Benachrichtigungen in begrenzten Hochrisikosituationen und der Richtlinie zur Vermeidung emotionaler Abhängigkeit.
   https://openai.com/index/chatgpt-for-teens/OpenAI

4. Reddit: Öffentliche Diskussion über die Nutzung von KI durch Kinder. Bezugnahme auf Beiträge zu Bedenken bei der Nutzung ohne Aufsicht, Bildungspotenzial und Sorgen über übermäßige Abhängigkeit. Nicht als direkte Reaktion auf den aktuellen Bewertungsbericht, sondern als fortlaufende Diskussion veröffentlicht.
   https://www.reddit.com/r/ChatGPT/comments/1tzmmsl/is_anyone_else_uncomfortable_with_their_kids/