OpenAI überprüft die Richtlinien von ChatGPT: „Verbot von Rechts- und Medizinberatung“ war keine „neue Regel“ – Was sich geändert hat und was nicht

1. Was war das Gesprächsthema? – Das Missverständnis über das Verbot von medizinischen und rechtlichen Beratungen durch ChatGPT

Anfang November 2025 verbreitete sich weltweit auf sozialen Netzwerken der Beitrag, dass „ChatGPT die Beratung in den Bereichen Medizin, Recht und Finanzen vollständig verboten habe“. Ein Auslöser war die Berichterstattung auf Nachrichtenseiten, die zitierten, dass „der Chatbot künftig keine konkreten Ratschläge zu Behandlungen, Recht oder Finanzen mehr geben werde“.Khaleej Times+1

Besonders viral ging die Nachricht, die von der Wettplattform „Kalshi“ auf X gepostet wurde, dass „ChatGPT keine Gesundheits- oder Rechtsberatung mehr anbietet“ (später gelöscht).The Verge

Dies führte zu

• „Wird es keine Antworten mehr auf medizinische Anfragen geben?“

• „Kann man keine Verträge mehr überprüfen oder Steuerfragen klären?“

• „Hat die Regulierung von KI dazu geführt, dass ChatGPT zu einem reinen Plaudertool herabgestuft wurde?“

Solche Ängste und Spekulationen verbreiteten sich unter Nutzern weltweit, einschließlich Japan.

Doch die offizielle Erklärung von OpenAI steht im Gegensatz dazu. Laut einem Bericht von NDTV Profit erklärte OpenAI, dass „das Verhalten von ChatGPT unverändert ist“ und „die Regeln für rechtliche und medizinische Beratung bereits vorher bestanden und nicht neu eingeführt wurden“.NDTV Profit

2. Offizielle Erklärung von OpenAI: „Das Verhalten des Modells hat sich nicht geändert“

Karan Singhal, Leiter der Gesundheits-KI bei OpenAI, dementierte dieses Gerücht direkt in den sozialen Medien. Laut The Verge postete Singhal auf X:The Verge

„Das ist nicht wahr. Es gibt Spekulationen, aber dies ist keine neue Änderung der Nutzungsbedingungen. Das Verhalten des Modells hat sich nicht geändert. ChatGPT war nie ein Ersatz für Fachleute, bleibt aber eine hervorragende Ressource, um rechtliche und gesundheitliche Informationen zu verstehen.“

Es gibt zwei wesentliche Punkte:

1. Es wurden keine „neuen Verbote“ hinzugefügt
   Das Verbot, in „Hochrisikobereichen“ wie Recht, Medizin und Finanzen ohne Beteiligung von Fachleuten „individuelle Ratschläge“ zu geben, bestand bereits vorher.The Times of India+1
   
   

2. Allgemeine Informationsbereitstellung wird fortgesetzt
   Allgemeine Erklärungen von Krankheitsnamen, Übersichten über Gesetze und Systeme, Erklärungen von Präzedenzfällen und Nachrichten sowie allgemeine Gesundheitsinformationen, „pädagogische Informationen“ und „Erklärungen zur Unterstützung des Verständnisses“ werden weiterhin bereitgestellt. OpenAI positioniert ChatGPT als „Educational Tool (Bildungstool)“.NDTV Profit+1

Das bedeutet, dass es nicht so ist, dass „überhaupt keine Antworten mehr gegeben werden“, sondern dass „das, was ursprünglich nicht erlaubt war“, erneut klargestellt wurde und betont wird, dass „in solchen Fällen unbedingt menschliche Fachleute konsultiert werden sollten“.

3. Was sich tatsächlich bei der Änderung der Nutzungsrichtlinien am 29. Oktober geändert hat

Was hat sich bei der Aktualisierung am 29. Oktober 2025 geändert? OpenAI hat die Nutzungsrichtlinien auf der offiziellen Website aktualisiert und die zuvor getrennten Dokumente zusammengeführt.OpenAI+1

3-1. Integration und Vereinfachung der Richtliniendokumente

Zuvor gab es

• eine „universelle Richtlinie“ für alle Nutzer

• eine spezielle Richtlinie für ChatGPT

• eine Richtlinie für Entwickler-APIs

Die Dokumente waren nach Verwendungszweck getrennt. Bei dieser Überarbeitung wurden sie zu „Nutzungsrichtlinien, die für alle Dienste von OpenAI gelten“ zusammengefasst.The Times of India

Darüber hinaus

• „Menschen schützen (Protect people)“

• „Privatsphäre respektieren (Respect privacy)“

wurden als große Säulen eingeführt, und innerhalb dieser wurden unzulässige Nutzungsbeispiele aufgelistet.

3-2. Konkrete Beschreibungen zu rechtlichen und medizinischen Ratschlägen

Im Abschnitt „Protect people“ der Nutzungsrichtlinien gibt es eine Formulierung, die eine der verbotenen Handlungen beschreibt:OpenAI

„Das Anbieten von ‚maßgeschneiderten Ratschlägen‘ in lizenzierten Bereichen (wie Recht oder Medizin) ohne die Beteiligung qualifizierter Fachleute“

Dies entspricht im Wesentlichen der früheren Formulierung in den Richtlinien:

„Als potenziell schädliche Handlung, die die Sicherheit, Rechte und das Wohlergehen von Menschen erheblich beeinträchtigen könnte, ist es verboten, ohne Überprüfung durch Fachleute individuelle Ratschläge in den Bereichen Recht, Medizin oder Finanzen zu geben.“

Der Inhalt ist also eine „Fortsetzung“ und „Vereinfachung der Formulierung“, und es wurden keine neuen Verbote plötzlich hinzugefügt.The Times of India+1

Das bedeutet, dass inhaltlich eine „Fortsetzung“ und „Vereinfachung der Formulierung“ vorliegt und keine neuen Verbote plötzlich hinzugefügt wurden.

3-3. Einschränkungen der Automatisierung in Hochrisikobereichen

In der aktuellen Richtlinie wird die Automatisierung von Entscheidungen allein durch KI in Bereichen, die das Leben von Menschen stark beeinflussen, wie Recht, Medizin, Finanzen, Wohnen, Beschäftigung und Versicherung, eingeschränkt.Khaleej Times+1

• Entscheidungen über Einstellung und Entlassung allein durch KI

• Entscheidungen über Versicherungszahlungen allein durch KI

• Entscheidungen über Behandlungspläne allein durch KI

Solche Anwendungen sind mit hohen Risiken verbunden. OpenAI empfiehlt, in solchen Fällen immer eine Überprüfung oder Entscheidung durch menschliche Fachleute einzubeziehen.

4. Warum werden rechtliche und medizinische Ratschläge eingeschränkt?

Es gibt mehrere Gründe, warum OpenAI bei rechtlichen und medizinischen Ratschlägen vorsichtig ist.

4-1. Risiken durch fehlerhafte oder unvollständige Informationen

Generative KI kann überzeugende Texte erstellen, birgt jedoch das Risiko von Fehlinformationen (sogenannte „Halluzinationen“). Besonders in Medizin und Recht

• kann sich das Ergebnis durch kleine Faktenunterschiede ändern

• unterscheiden sich die Regeln je nach Land, Region und Zeit

• kann sich die optimale Lösung je nach individuellen Symptomen und Umständen ändern

Diese Merkmale machen es gefährlich, „allgemeine Aussagen“ direkt auf individuelle Fälle anzuwenden.

Beispielsweise

• kann sich die sichere Behandlungsmethode bei derselben Diagnose je nach Vorerkrankungen oder eingenommenen Medikamenten ändern.

• Bei Vertragsstreitigkeiten können die zu ergreifenden Maßnahmen je nach Vertragsklauseln und Details der Kommunikation mit der anderen Partei variieren.

In solchen Situationen kann eine falsche Beratung durch KI, die von Nutzern als „Expertenmeinung“ missverstanden wird, tatsächlich zu gesundheitlichen Schäden oder rechtlichen Problemen führen.

4-2. Die Verantwortung ist oft unklar

Wenn durch das Vertrauen in den Ratschlag der KI erheblicher Schaden entsteht, stellt sich die Frage, „wer die Verantwortung trägt“.

• Ist es das Unternehmen, das die KI bereitstellt?

• Ist es der Entwickler, der das Modell nutzt?

• Ist es der Nutzer selbst, der den Ratschlag der KI angenommen hat?

• Oder ist es die Organisation, die die Einführung der KI beschlossen hat?

Derzeit wird in vielen Ländern darüber diskutiert, und es gibt noch viele Bereiche ohne klare Regeln. OpenAI zeigt mit der Vermeidung von „alleinigen KI-Entscheidungen“ in Hochrisikobereichen eine Richtung auf, um in solchen „Grauzonen“ keine unnötigen Risiken zu erhöhen.

4-3. Übereinstimmung mit den ethischen Normen der Berufe

Ärzte, Anwälte, Steuerberater und andere Fachleute haben jeweils berufsethische und gesetzliche Verpflichtungen.

• Ärzte: Ärztegesetz, Richtlinien für medizinische Werbung, Aufklärungspflichten bei Behandlungen usw.

• Anwälte: Anwaltsgesetz, grundlegende Vorschriften für die Berufsausübung