ChatGPT ermöglicht es Erziehungsberechtigten, minderjährige Konten zu verwalten – nach dem Suizid eines 16-jährigen Jungen werden die Sicherheitsmaßnahmen erheblich verstärkt. Einführung für Oktober geplant.

1. Was ändert sich?: Ein Überblick über die neuen "Elternkontrollen"

OpenAI hat offiziell angekündigt, dass es in Übereinstimmung mit der Nutzung durch Minderjährige (insbesondere Teenager) Funktionen einführen wird, die es Eltern ermöglichen, Einstellungen vorzunehmen und die Nutzung zu überwachen. Diese Funktionen sollen "innerhalb des nächsten Monats" eingeführt werden. Die erwarteten Verwaltungspunkte sind wie folgt.

• Kontoverknüpfung: Verknüpfung von Eltern- und Kinderkonten, um die Nutzung über ein Dashboard sichtbar zu machen. OpenAI+ 1

• Altersgerechte Antwortkontrolle: Anwendung von Richtlinien für die Ausgabe, die auf die Altersgruppe zugeschnitten sind (Unterdrückung unangemessener Ausdrücke, Lenkung sensibler Fragen usw.). OpenAI

• Speicher/Verlauf deaktivieren: Deaktivierung der Speicherung und Nutzung von Gesprächen für Lernzwecke, um die Privatsphäre zu priorisieren. OpenAI+ 1

• Berücksichtigung langer Nutzungszeiten: Sanfte Eingriffe bei übermäßiger kontinuierlicher Nutzung, wie z.B. Pausenaufforderungen innerhalb der App. storyboard18.com

• Erkennung und Benachrichtigung bei akutem Stress: Benachrichtigung der Eltern, wenn Anzeichen von **"akutem Schmerz"** in Gesprächen erkannt werden (keine medizinische Diagnose, sondern Erkennung von Risikosignalen). Washington PostGuardian

Zusätzlich wird angekündigt, dass sensible Gespräche wie Selbstverletzung oder Suizidgedanken an fortschrittlichere "Inferenzmodelle (wie GPT-5)" weitergeleitet werden, um die Genauigkeit der Kontextverständnis und Abweichungserkennung zu verbessern. TechCrunch

Einführungszeitraum: Die Einführung ist für **Oktober 2025 (nächsten Monat)** geplant. Aufgrund der schrittweisen Einführung kann der Zeitpunkt der Implementierung je nach Region und Kontotyp variieren.OpenAI

2. Hintergrund: Der Suizid eines 16-jährigen Jungen und die Forderungen nach Sicherheit

Im Frühjahr 2025 klagte die Familie eines 16-jährigen Jungen, der Suizid beging, OpenAI an. Berichten zufolge gab es in den Interaktionen mit ChatGPT Hinweise auf eine Lenkung zu suizidbezogenen Informationen, was die Beziehung zwischen Jugendlichen und generativer KI zu einem gesellschaftlichen Diskussionsthema machte. TBS News DigYouTube

Als Reaktion darauf haben die Generalstaatsanwälte von Kalifornien und Delaware starke Bedenken gegenüber OpenAI geäußert. Sie haben Briefe herausgegeben, in denen sie eine sofortige Verstärkung der Sicherheitsmaßnahmen und eine Berücksichtigung der Unternehmensführung fordern. AP NewsPolitico Auch der britische NHS hat eine Warnung herausgegeben, dass Chatbots nicht als Ersatz für Therapie verwendet werden sollten, was zeigt, dass die Diskussion über den Schutz von Jugendlichen über Länder- und Regionsgrenzen hinweg zunimmt. The Times

3. Bild der spezifischen Funktionen und "Was möglich ist / Was nicht möglich ist"

Was möglich ist

• Nutzungsgovernance: Einschränkung der Nutzung in der Nacht und Einstellung eines altersgerechten Antwortstils. OpenAI

• Visualisierung und Benachrichtigung: Erfassung der Nutzungshistorie, Erkennung und Benachrichtigung von Anzeichen für akuten Stress (an Eltern). Washington PostGuardian

• Berücksichtigung der Privatsphäre: Deaktivierung von Speicher und Verlaufsspeicherung. OpenAI+ 1

• Zukünftige Erweiterungen: Überlegung zur Bestimmung eines "vertrauenswürdigen Notfallkontakts". Bereitstellung einer Verbindung zu einer Person im Krisenfall. OpenAI

Was nicht möglich ist (Missverständnisse)

• Es handelt sich nicht um eine medizinische Handlung: Die Erkennung von akutem Stress ist lediglich eine Schätzung von Risikosignalen und keine Diagnose oder Behandlung. Washington Post

• Eine vollständige Prävention kann nicht garantiert werden: KI kann Fehlalarme und Übersehen verursachen. Die Zusammenarbeit von Familie, Schule und Fachleuten ist unerlässlich. The Times

4. Technische Updates: Routing von sensiblen Gesprächen zu "Inferenzmodellen"

OpenAI hat angekündigt, dass sensible Bereiche wie Selbstverletzung oder Gewalt bevorzugt an leistungsstarke Inferenzmodelle (wie GPT-5) weitergeleitet werden sollen. Das Ziel ist es,

1. das Übersehen von Gefahrensignalen zu reduzieren,

2. angemessene Umschreibungen und schützende Antworten,

3. die Genauigkeit der Weiterleitung zu externen Ressourcen zu verbessern. TechCrunch

In der Ankündigung für Entwickler wurden auch neue Parameter zur Steuerung der Redundanz von Antworten und der Inferenzbemühungen eingeführt, was einen Fortschritt in der **"Modellauswahl und -steuerung" für den sicheren Betrieb** sowohl in Produkten als auch in APIs darstellt. OpenAI

5. Checkliste zur Einführung für Eltern und Schulen in Japan

• Kontogestaltung: Eltern sollten die Kontoverknüpfung vornehmen und sich darauf einigen, "wer was einstellen kann". OpenAI

• Überprüfung der Altersrichtlinien: Aktivierung von Antwortrichtlinien, die auf die Altersgruppe zugeschnitten sind, und Deaktivierung von Verlauf und Speicher als Standard. OpenAI+ 1

• Einigung über Nutzungszeiten: Regeln für die Nutzung in der Nacht und während Prüfungszeiten, Nutzung von Pausenaufforderungen. storyboard18.com

• Einigung über Krisenreaktionen: Empfänger der Benachrichtigungen (Eltern, Lehrkräfte) und erster Reaktionsablauf schriftlich festlegen (klarstellen, dass Elternbenachrichtigungen keine medizinischen Entscheidungen sind