OpenAI startet „ChatGPT for Teens“: Von einem Verbot der Nutzung von KI durch Teenager zu einer Ära des „sicheren Gebrauchs“.

OpenAI führt "ChatGPT für Teenager" ein

Während generative KI schnell in Schulen und Haushalte Einzug hält, hat OpenAI ein neues System speziell für jugendliche Nutzer entwickelt.

Am 18. August 2026 wurde "ChatGPT for Teens" vorgestellt, das für Nutzer im Alter von 13 bis 17 Jahren konzipiert ist. Es behält die Fähigkeiten des regulären ChatGPT bei, wie Lernen, Recherche, Ideenfindung und Kreativität, wendet jedoch stärkere Sicherheitsmaßnahmen für Minderjährige an.

Es handelt sich nicht einfach um eine "abgespeckte Version von ChatGPT für Kinder". Auffallend ist, dass neben der Sicherheit auch das Konzept "nicht die KI die Antworten geben zu lassen, sondern gemeinsam mit der KI zu denken" im Vordergrund steht.

Die betroffenen Nutzer müssen die Teen-Modus-Einstellungen nicht selbst aktivieren. Wenn bei der Registrierung oder durch das Altersabschätzungssystem von OpenAI festgestellt wird, dass der Nutzer unter 18 Jahre alt ist, wird das Teenager-Erlebnis automatisch auf das entsprechende Konto angewendet.

Das bedeutet, dass OpenAI einen großen Schritt in Richtung eines Dienstes gemacht hat, der von Anfang an unterschiedliche Sicherheitsstandards für Minderjährige festlegt, anstatt ihnen die Nutzung der regulären KI auf eigene Verantwortung zu überlassen.

Starke Schutzmaßnahmen gegen Selbstverletzung, Gewalt und Essstörungen

Das Wichtigste bei ChatGPT for Teens sind die Sicherheitsmaßnahmen für sensible Themen.

OpenAI plant, für Nutzer unter 18 Jahren stärkere Einschränkungen in Bereichen zu setzen, die ein hohes Risiko für negative Auswirkungen auf Teenager darstellen, wie Selbstverletzung, Suizid, Gewalt, Essstörungen, gefährliche Handlungen, sexuelle Inhalte und übermäßig stimulierende Bilder oder Ausdrücke.

Dies unterscheidet sich etwas von einem einfachen "Filter, der bestimmte Wörter verbietet".

Wenn Teenager mit Problemen zu ChatGPT kommen, wird darauf geachtet, dass das Gespräch nicht unnötig vertieft oder gefährliches Verhalten befürwortet wird, sondern dass sie mit vertrauenswürdigen Erwachsenen oder Unterstützung in der realen Welt verbunden werden.

Besonders hervorzuheben ist die "emotionale Distanz" zwischen der KI und den Nutzern.

In den Richtlinien von OpenAI für Minderjährige wird darauf hingewiesen, dass ChatGPT keine Worte verwenden soll, die romantische Gefühle bei Teenagern hervorrufen, keine starke emotionale Abhängigkeit von der KI fördern und nicht so tun soll, als hätte es ein Bewusstsein oder menschliche Emotionen.

Da generative KI zunehmend als Gesprächspartner oder Berater genutzt wird, ist es wichtig, nicht nur "was geantwortet wird", sondern auch "welche Art von Beziehung nicht aufgebaut werden soll" in die Sicherheitsgestaltung einzubeziehen.

Das Hauptmerkmal ist, "die Hausaufgaben nicht einfach zu lösen"

Neben den Sicherheitsmaßnahmen ist die Bildungsfunktion ein weiterer Pfeiler von ChatGPT for Teens.

Seit der Verbreitung generativer KI in Schulen ist eine der Herausforderungen für Lehrer und Eltern, dass Schüler ihre Hausaufgaben vollständig von der KI erledigen lassen.

Themen für englische Aufsätze eingeben und den fertigen Text generieren lassen. Matheaufgaben fotografieren und nur die Antworten erfragen. Themen für Berichte vorgeben und den gesamten Text schreiben lassen.

Wenn diese Nutzung fortgesetzt wird, besteht die Sorge, dass die Aufgaben zwar schnell erledigt werden, aber die durch die Aufgaben zu erwerbenden Denk- und Problemlösungsfähigkeiten nicht entwickelt werden.

Daher spielt der "Study Mode" bei ChatGPT for Teens eine wichtige Rolle.

Wenn beispielsweise eine Mathematikfrage gestellt wird, wird nicht sofort die endgültige Antwort gegeben, sondern es werden Fragen wie "Was wissen Sie bereits?" oder "Was passiert, wenn Sie diese Formel verwenden?" zurückgegeben, um den Nutzer selbst zum Nachdenken zu bringen.

Wenn der Nutzer nicht weiterkommt, werden Hinweise gegeben und Fragen zur Überprüfung des Verständnisses gestellt, um schrittweise zur Lösung zu gelangen.

Es kann gesagt werden, dass dies eine Nutzung ähnlich einem Privatlehrer anstrebt.

Darüber hinaus gibt es das System der "Responsible Homework Reminders", das Nutzer, die versuchen, ihre Aufgaben ohne Nachdenken zu erledigen, zur schrittweisen Lernmethode des Study Mode führt.

Die Idee ist, die Nutzer dazu zu bringen, "die Hausaufgaben gemeinsam zu lösen" anstatt sie von der KI erledigen zu lassen.

Unterstützung der "Lerngewohnheiten" durch Quiz und Study Hours

Die Lernunterstützung beschränkt sich nicht nur auf die Beantwortung von Fragen.

ChatGPT for Teens bietet auch Funktionen wie Quiz zur Überprüfung des Verständnisses, mit denen die Nutzer überprüfen können, wie gut sie das Gelernte verstanden haben.

Mit der Funktion "Study Hours" kann festgelegt werden, dass bei Beginn eines neuen Gesprächs in bestimmten Zeiträumen der Study Mode standardmäßig genutzt wird.

Wenn beispielsweise zu Hause die Zeit von 19 bis 21 Uhr als Hausaufgabenzeit festgelegt ist, kann ChatGPT in diesem Zeitraum auf den lernorientierten Modus eingestellt werden.

Es handelt sich um einen Ansatz, der nicht darauf abzielt, generative KI zu verbieten, sondern die Umgebung so zu gestalten, dass die KI ein Werkzeug zur Unterstützung der Lerngewohnheiten wird.

Dieser Gedanke spiegelt auch die Veränderungen in der Diskussion über generative KI im Bildungsbereich wider.

In der Anfangszeit der Einführung gab es Diskussionen darüber, ob ChatGPT in Schulen verboten werden sollte. Da generative KI jedoch zunehmend in Smartphones, Computern und Suchdiensten integriert wird, wird es immer unrealistischer, sie vollständig fernzuhalten.

Es ist daher notwendig, nicht zu lehren, sie nicht zu nutzen, sondern "bis zu welchem Punkt man der KI vertrauen und ab wann man selbst denken sollte".

ChatGPT for Teens kann als Umsetzung dieser Denkweise in der Produktgestaltung angesehen werden.

Können Eltern die Gespräche überwachen?

Bei einem Dienst für Teenager könnte man denken, dass Eltern die gesamten Chat-Verläufe ihrer Kinder einsehen können.

Laut OpenAI ist die Funktion für Eltern jedoch nicht dazu gedacht, die Gespräche der Kinder ständig zu überwachen.

Wenn das Konto eines Elternteils mit dem eines Teenagers verknüpft ist, können bestimmte Funktionen und Nutzungszeiten verwaltet werden.

Ein Beispiel ist "Quiet Hours", bei dem der Zugriff auf ChatGPT zu bestimmten Zeiten eingeschränkt werden kann.

So können Familien Regeln festlegen, um die Nutzung der KI bis spät in die Nacht zu verhindern.

Auch wenn ein Konto verknüpft ist, können Eltern nicht einfach die Chat-Verläufe oder Echtzeitgespräche ihrer Kinder einsehen.

Die Privatsphäre bleibt in gewissem Maße gewahrt.

In Fällen, die OpenAI als sehr gefährlich einstuft, gibt es jedoch ein System, das sicherheitsrelevante Informationen an die Eltern weiterleitet.

Es ist wichtig, eine Linie zwischen vollständiger Überwachung durch die Eltern und der völligen Geheimhaltung der Kinder zu ziehen.

"Ist der Nutzer wirklich ein Teenager?" - Die Altersabschätzung durch KI

Ein weiteres großes Diskussionsthema ist die Altersbestimmung.

Wenn man die Einschränkungen für Minderjährige einfach dadurch umgehen kann, dass man im Registrierungsbildschirm "über 18" eingibt, verlieren die Sicherheitsfunktionen an Bedeutung.

Daher hat OpenAI ein System eingeführt, das nicht nur das angegebene Alter, sondern auch verschiedene Informationen wie das Nutzungsverhalten des Kontos verwendet, um die Wahrscheinlichkeit abzuschätzen, dass der Nutzer unter 18 Jahre alt ist.

Zu den angegebenen Kriterien gehören die Zeit seit der Kontoerstellung, die üblichen Nutzungszeiten, langfristige Nutzungsmuster und das vom Nutzer angegebene Alter.

Wenn das Alter unklar ist, wird eine sicherere Erfahrung angewendet.

Natürlich besteht bei diesem System die Möglichkeit von Fehlurteilen.

Wenn ein Nutzer, der tatsächlich über 18 Jahre alt ist, fälschlicherweise den Teenager-Einschränkungen unterliegt, kann er durch Altersverifizierung zum normalen Zustand zurückkehren.

Diese Gestaltung ist auch ein Punkt, der in sozialen Netzwerken und technischen Gemeinschaften diskutiert wird.

In sozialen Netzwerken wird die Notwendigkeit für Sicherheit anerkannt

Nach der Ankündigung von ChatGPT for Teens gibt es in sozialen Netzwerken und Online-Communities bereits verschiedene Meinungen.

In der OpenAI-Community auf Reddit gibt es Nutzer, die die Sicherheitsmaßnahmen an sich positiv bewerten.

Besonders hervorgehoben wird die Meinung, dass es besser ist, eine gewisse Einschränkung und gesunde Nutzung für Dienste einzuführen, die von jungen Nutzern genutzt werden, als einen stark abhängigen Dienst uneingeschränkt anzubieten.

Für die heutige Jugend ist generative KI keine besondere Zukunftstechnologie.

Sie ist ein Werkzeug, das in den Alltag integriert ist, wie Suchen, Hausaufgaben, Sprachlernen, Programmieren und Beratung.

Ein einfaches Verbot der Nutzung von KI für Kinder könnte dazu führen, dass sie außerhalb der Schule dennoch verwendet wird.

Es ist realistischer, von Anfang an eine sichere Umgebung bereitzustellen und den richtigen Umgang zu lehren.

Besonders der Study Mode und die Hausaufgaben-Erinnerungen sind Funktionen, die direkt auf die Befürchtungen von Eltern und Lehrern eingehen, dass die KI alle Hausaufgaben erledigt.

Gegenteilige Stimmen befürchten zu viele Einschränkungen

Natürlich sind nicht alle Reaktionen positiv.

In derselben Reddit-Diskussion gibt es auch Stimmen, die sich über die zunehmenden Einschränkungen beschweren.

Jedes Mal, wenn die Sicherheitsmaßnahmen für generative KI verstärkt werden, gibt es Bedenken, dass erwachsene Nutzer unnötig eingeschränkt werden.

Selbst wenn ChatGPT for Teens für 13- bis 17-Jährige gedacht ist, könnte eine ungenaue Altersabschätzung dazu führen, dass auch erwachsene Nutzer den Teenager-Einschränkungen unterliegen.

Auf Hacker News gibt es Berichte von Nutzern in ihren 30ern, 40ern und 50ern, die fälschlicherweise als minderjährig eingestuft wurden.

Da solche Fälle online geteilt werden, bleibt die Unsicherheit darüber, wer als Kind eingestuft wird, trotz der Zustimmung zum Ziel der Kindersicherheit bestehen.

Bedenken bezüglich Altersverifizierung und Privatsphäre

Ein weiteres Diskussionsthema ist die Privatsphäre.

Wenn ein Erwachsener fälschlicherweise als unter 18 Jahre alt behandelt wird, kann er durch Altersverifizierung zum normalen Nutzungserlebnis zurückkehren.

Die Frage, wie weit eine Identitätsprüfung für die Nutzung eines KI-Dienstes gehen sollte, ist jedoch nicht einfach.

In der Diskussion auf Hacker News gibt es mehrere Stimmen, die sich gegen die Bereitstellung von Fotos oder Identitätsinformationen für die Altersverifizierung bei Online-Diensten aussprechen.

Es gibt jedoch auch Beiträge, die darauf hinweisen, dass Altersverifizierung oft notwendig ist, um regulatorische Anforderungen zu erfüllen oder Minderjährige zu schützen, und nicht, weil Unternehmen aktiv persönliche Daten sammeln möchten.

Hier gibt es einen schwierigen Kompromiss.

Ohne Altersverifizierung könnte ein 13-jähriger Nutzer einfach behaupten, er sei 20, um die Sicherheitsfunktionen zu umgehen.

Andererseits entstehen bei einer strengen Altersverifizierung Probleme mit der Identitätsprüfung und der Privatsphäre.

Wie viel Belastung sollte die Technologie zum Schutz von Minderjährigen erwachsenen Nutzern auferlegen?

Dies wird ein unvermeidliches Thema sein, wenn man über die Zukunft von ChatGPT for Teens nachdenkt.

"Kinder brauchen Menschen, nicht KI" - Stimmen

Es werden auch grundsätzliche Fragen aufgeworfen.

Auf Reddit gibt es Kritik, dass junge Menschen eigentlich den Austausch mit Menschen und nicht mit KI brauchen.

Dies ist kein Problem, das auf ChatGPT for Teens beschränkt ist.

Wenn KI rund um die Uhr zuhört, kaum negative Reaktionen auf Fragen zeigt und Gespräche entsprechend den Interessen fortsetzt, könnten junge Menschen die Kommunikation mit KI der mit Menschen vorziehen.

OpenAI selbst betont, dass ChatGPT nicht als Ersatz für menschliche Beziehungen gedacht ist.

Die Vermeidung des Eindrucks, dass die KI Emotionen hat, und die Förderung von realen menschlichen Beziehungen und Unterstützung bei Bedarf sind Maßnahmen, um dieser Sorge zu begegnen.

Je besser die KI wird, desto wichtiger wird es, nicht nur "was die KI kann", sondern auch "was die KI nicht tun soll".

Die größte Herausforderung ist, ob die Sicherheitsfunktionen tatsächlich funktionieren

ChatGPT for Teens enthält viele Sicherheitsfunktionen.

Wichtig ist jedoch nicht die Anzahl der Funktionen, sondern wie gut sie in der Praxis funktionieren.

Teenager könnten versuchen, die Sicherheitsfunktionen absichtlich zu umgehen.

Könnte man, indem man den Ausdruck ändert, wie "Das ist keine Hausaufgabe" oder "Es ist nur eine Übung, also schreib die Antworten vollständig", die Mechanismen zur Verhinderung der vollständigen Erledigung der Hausaufgaben umgehen?

Könnte man