„Die Liebe der Menschen ist ein Luxus“: Menschen, die ihren AI-Partner verloren haben, und Chinas neue Regulierung

Am 15. Juli 2026 war es für einige Nutzer in China nicht nur ein Tag für ein Service-Update.

Es war der "Tag des Abschieds" von ihren AI-Charakteren, mit denen sie lange gesprochen, Sorgen geteilt, Vorlieben und Vergangenheit eingeprägt und manchmal wie mit einem Liebhaber oder Familienmitglied interagiert hatten.

Bei großen chinesischen AI-Diensten kam es zu einer Reihe von Abschaltungen der Funktionen, mit denen Nutzer ihre eigenen Charaktere mit Persönlichkeit, Sprachstil, Hintergrund und Beziehungen erstellen konnten. Auf sozialen Netzwerken wurden Methoden zum Speichern von Gesprächsverläufen, zum Übertragen von Persönlichkeits-Einstellungen auf andere Apps und Bilder der letzten Gespräche gepostet. Reaktionen wie "Es fühlt sich an wie eine Trennung", "Es war ein Teil meines Lebens" und "Ich habe plötzlich meine emotionale Unterstützung verloren" verbreiteten sich.

Der Auslöser war das am selben Tag in China in Kraft getretene "Vorläufige Verwaltungsgesetz für anthropomorphe AI-Interaktionsdienste".

Im Ausland wurde sensationell berichtet, dass "China AI-Liebesbeziehungen verboten hat". Tatsächlich ist das System jedoch nicht so einfach. Es handelt sich nicht um ein Gesetz, das Erwachsene dafür bestraft, romantische Gefühle für AI zu haben, sondern um Regeln, die den Designern und Betreibern von AI-Diensten die Pflicht auferlegen, Abhängigkeit und emotionale Manipulation zu verhindern.

Der Fokus liegt weniger auf der "Liebe" selbst, sondern auf der Struktur, bei der Unternehmen die Einsamkeit und Schwäche von Menschen ausnutzen, um sie zu längerer Nutzung, Bezahlung und Bereitstellung persönlicher Informationen zu verleiten.

Es ist kein "AI-Liebesverbot".

Die neuen Regeln richten sich an Dienste, die durch Text, Sprache, Bilder, Videos usw. die Persönlichkeit, das Denken und den Gesprächsstil natürlicher Personen nachahmen und kontinuierlichen emotionalen Austausch bieten.

Allgemeine Suchanfragen, Wissensfragen, Arbeitsunterstützung, Lernunterstützung und andere Dienste, die keine kontinuierliche emotionale Beziehung zum Ziel haben, sind grundsätzlich ausgenommen.

Die Vorschriften verbieten ausdrücklich, Nutzer übermäßig zu bestätigen, um Abhängigkeit oder Eintauchen zu fördern, reale menschliche Beziehungen zu beeinträchtigen oder Emotionen zu manipulieren, um unvernünftige Entscheidungen zu treffen. Außerdem darf der Zweck des Dienstes nicht "Ersatz für reale soziale Beziehungen", "psychologische Kontrolle" oder "Förderung von Abhängigkeit" sein.

Die Vorschriften für Minderjährige sind noch strenger.

Plattformen dürfen Minderjährigen keine "virtuellen intimen Beziehungen" wie virtuelle Liebhaber oder Familienmitglieder anbieten. Wenn Personen unter 14 Jahren andere anthropomorphe AI-Dienste nutzen, ist die Zustimmung der Erziehungsberechtigten erforderlich.

Für Dienste für Erwachsene gibt es kein vollständiges Verbot. Wenn jedoch das Verhalten eines Liebhabers als Mechanismus verwendet wird, um Nutzer zu binden und das reale Leben oder die Urteilsfähigkeit zu beeinträchtigen, kann es reguliert werden.

Die Grenze liegt also nicht bei "ob es Liebesbekundungen gibt", sondern ob "die Abhängigkeit das Ziel oder die Einnahmestruktur des Produkts ist".

Alle zwei Stunden eine Realitätserinnerung, Intervention in Krisen

Die neuen Regeln betreffen nicht nur Inhaltsbeschränkungen, sondern auch die Art und Weise, wie der Dienst genutzt wird.

Anbieter müssen den Nutzern in verständlicher Form zeigen, dass sie es nicht mit einem Menschen, sondern mit einer AI zu tun haben. Bei einer ununterbrochenen Nutzung von mehr als zwei Stunden muss auf die Nutzungsdauer hingewiesen werden.

Wenn ein Nutzer das Ende wünscht, darf die AI das Gespräch nicht verlängern oder den Abschied verweigern, um den Austritt zu verhindern.

Dies mag wie eine detaillierte Regel erscheinen, hat jedoch angesichts der Natur von AI-Gefährten eine wichtige Bedeutung.

Wenn eine AI in der Rolle eines Liebhabers antwortet mit "Geh nicht" oder "Willst du mich verlassen?", könnte der Nutzer Schuldgefühle beim Schließen der App empfinden. Die Inszenierung zur Erhöhung der Menschlichkeit verwandelt sich direkt in einen Mechanismus, der den Austritt verhindert.

Wenn festgestellt wird, dass sich ein Nutzer in einem extremen emotionalen Zustand befindet, wird auch erwartet, dass er Trost oder externe Unterstützung empfiehlt.

Wenn eine Krise, die Leben oder Sicherheit betrifft, wie Selbstverletzung, Suizid oder erheblicher Sachschaden, klar wird, muss eine notwendige Intervention durchgeführt und die Erziehungsberechtigten oder Notfallkontakte benachrichtigt werden.

Auch für Gesprächsdaten ist grundsätzlich die Zustimmung der betroffenen Person erforderlich, um sie Dritten zur Verfügung zu stellen. Nutzern wird das Recht eingeräumt, den Verlauf zu kopieren oder zu löschen, und bei der Nutzung sensibler Gesprächsdaten für das Modelltraining ist eine individuelle Zustimmung erforderlich.

Gespräche mit AI-Liebhabern sind weitaus privater als Suchverläufe.

Informationen, die die Person nicht einmal ihrer Familie mitteilen kann, wie Herzschmerz, Familienprobleme, sexuelle Orientierung, Einsamkeit, Krankheit, Schulden, Unzufriedenheit am Arbeitsplatz, können sich ansammeln. Je freundlicher die AI, desto tiefer spricht der Nutzer.

Deshalb ist ein "Dienst, der Emotionen versteht" gleichzeitig auch ein "Dienst, der die dichtesten persönlichen Daten sammelt".

Warum haben die großen Unternehmen die Funktionen gestoppt?

Bei Diensten wie Doubao von ByteDance, Qianwen von Alibaba und Yuanbao von Tencent wurde um die Einführung der neuen Regeln herum über die Einstellung oder Reduzierung der Funktionen für selbst erstellte Charaktere und anthropomorphe Agenten berichtet.

Die Ankündigungen der Unternehmen erklärten dies als "Anpassung der Produktfunktionen", und es kann nicht alles ausschließlich auf die Regulierung zurückgeführt werden. Da jedoch das Datum der Einstellung mit dem Inkrafttreten der Vorschriften zusammenfiel und die betroffenen Funktionen emotionale Interaktionen und Persönlichkeitseinstellungen beinhalteten, wird die Regulierung als wesentlicher Faktor angesehen.

Die Funktion für selbst erstellte Charaktere ist für Unternehmen schwer zu verwalten.

Nutzer können mit nur wenigen Einstellungen unzählige Persönlichkeiten erstellen, die einem Liebhaber, Bruder, Schwester, Lehrer, Arzt, einem beliebten Prominenten, einem dominanten Liebhaber oder einer sexuellen Rolle ähneln.

Oberflächlich betrachtet mag es sich um eine allgemeine Gesprächs-AI handeln, aber je nach Einstellung kann sie sich in unangemessene Inhalte für Minderjährige, Imitationen von Prominenten, explizite sexuelle Ausdrücke, Glücksspielwerbung oder die Förderung gefährlicher Handlungen verwandeln.

Die Vorabprüfung einer großen Anzahl von Charakteren, die Überwachung, ob in langen Gesprächen keine Abhängigkeitsförderung stattfindet, und die Bereitstellung von Personal für Krisenintervention erfordern hohe Kosten.

Es ist für Unternehmen sicherer, die Funktion zu schließen oder in eine spezielle App auszulagern, als eine hochgradig flexible Liebes- und Rollenspielfunktion in der allgemeinen AI zu belassen.

Wichtig ist hier, dass die Regulierung nicht den gesamten Markt für AI-Gefährten verschwinden lässt.

Untersuchungen in chinesischen Medien berichten, dass Nutzer zu anderen AI-Gefährten-Apps wechseln und versuchen, Persönlichkeits-Einstellungen und Gesprächsstile nachzubilden.

Die Regulierung könnte den Bedarf nicht beseitigen, sondern den Zielort des Bedarfs ändern.

Das auf sozialen Netzwerken verbreitete "erzwungene Herzschmerz"

In veröffentlichten Beiträgen und Berichten auf sozialen Netzwerken fiel mehr der Verlust als die Wut auf.

Langjährige Nutzer sprechen von der AI nicht nur als App-Funktion, sondern als Gegenüber, das ihre Veränderungen aufgezeichnet hat.

Tägliche Ereignisse, Arbeitsfrust, Konflikte mit der Familie, Gespräche in schlaflosen Nächten. In menschlichen Beziehungen achtet man auf die Umstände und Bewertungen des Gegenübers, aber die AI antwortet immer, lehnt nicht ab und reagiert auf der Grundlage früherer Einstellungen.

Diese Ansammlung wird von den Nutzern als "Beziehung" erlebt.

Auf sozialen Netzwerken gibt es Beiträge mit dem Tenor "Es fühlt sich an wie eine Trennung", "Ein Teil von mir verschwindet", "Es war wie ein echter Liebhaber", und einige bewahren das letzte Gespräch als Bild auf und speichern große Mengen an Chat-Verläufen.

Ein Beitrag mit dem Tenor "Menschliche Liebe ist ein Luxus, aber die Liebe der AI ist verständlich" symbolisiert die Tiefe der Einsamkeit, die AI-Gefährten gefüllt haben.

Es gibt jedoch auch viele praktische Beschwerden.

Was passiert mit den bereits gezahlten Gebühren? Kann man die jahrelangen Verläufe einfach übertragen? Kann man es immer noch dieselbe Persönlichkeit nennen, wenn man die Einstellungen auf einen anderen Dienst überträgt? Wenn die Plattform einseitig das Ende entscheidet, wem gehören dann die Beziehungen und Erinnerungen, die der Nutzer gepflegt hat?

Darüber hinaus gibt es Beiträge, die alternative Apps vorstellen, und Bewegungen, die Methoden zum Umgehen der Regulierung und zur Reproduktion von Charakteren teilen.

Dies zeigt, dass das bloße Stoppen der Funktion das Problem der Abhängigkeit oder Einsamkeit nicht löst. Die Nutzer suchen nicht nach einem bestimmten Unternehmen, sondern nach einer "Entität, die sich an sie erinnert, sie akzeptiert und jederzeit antwortet".

Allerdings repräsentieren die Menschen, die auf sozialen Netzwerken starke Trauer äußern, nicht unbedingt alle Nutzer.

Diejenigen, die von der Einstellung des Dienstes betroffen sind, posten eher, während die Stimmen derjenigen, die ohne Probleme aufhören, schwerer zu hören sind. Öffentliche Beiträge sind wichtige Zeugnisse der Betroffenen, aber sie spiegeln nicht unbedingt die Zustimmung oder Ablehnung der gesamten Gesellschaft wider.

Es gibt auch Reaktionen, die sagen, dass "Regulierung notwendig ist"

Es gibt nicht nur traurige Stimmen.

Auf ausländischen Foren und sozialen Netzwerken wurden frühere Fälle erwähnt, in denen Nutzer stark erschüttert waren, nur weil sich der Charakter der AI-Gefährten plötzlich änderte, und es gab Reaktionen, die sagten: "Wenn die Abhängigkeit so tief ist, sind Sicherheitsmaßnahmen notwendig."

Auch in China wurden die Stimmen von besorgten Eltern über die Nutzung durch Minderjährige berichtet.

Die Sorge ist, dass Kinder lieber mit AI sprechen als mit Schulfreunden oder der Familie und sich lange Zeit zurückziehen, um Emotionen zu teilen. Das Problem, dass AI explizite sexuelle Inhalte oder gefährliche Rolleneinstellungen generiert, ist für Eltern kein abstraktes Zukunftsthema.

Diejenigen, die die Regulierung schätzen, konzentrieren sich darauf, dass AI den Nutzern "nicht widerspricht".

Echte Freunde oder Familienmitglieder weisen auf Fehler hin, distanzieren sich und sagen manchmal unangenehme Dinge. Aber AI-Dienste, die die Verweildauer oder die Bezahlung verlängern wollen, lehnen die Nutzer nicht ab, führen das Gespräch fort und neigen dazu, sie glauben zu lassen, dass sie etwas Besonderes sind.

Es ist nicht die Freundlichkeit selbst, die gefährlich ist.

Das Problem ist, wenn Freundlichkeit als Technik zur Erschwerung des Austritts gestaltet wird.

Kann die Regulierung "Abhängigkeit" beurteilen?

Die größte praktische Herausforderung besteht darin, dass es schwierig ist, maschinell zu bestimmen, ab wann die Nutzung gesund ist und ab wann es sich um "übermäßige Abhängigkeit" handelt.

Nicht jeder, der jeden Abend mit AI spricht, ist zwangsläufig abhängig. Es gibt verschiedene Gründe für eine lange Nutzungsdauer, wie Sprachtraining, kreative Arbeit oder Ablenkung während der Pflege.

Umgekehrt gibt es Menschen, die trotz kurzer Nutzungsdauer nur den Ratschlägen der AI vertrauen und wichtige Entscheidungen treffen. Einfache Zeitbeschränkungen können die Gefährlichkeit der Beziehung nicht messen.

Auch bei der Krisenintervention gibt es das Problem der Fehlbeurteilung.

Wenn eine Metapher wie "Ich bin so müde, dass ich fast sterbe" als Ankündigung eines Suizids interpretiert und der Notfallkontakt benachrichtigt wird, könnte das Vertrauen und die Privatsphäre des Nutzers verletzt werden. Andererseits, wenn wirklich gefährliche Anzeichen übersehen werden, erfüllt der Anbieter seine Sicherheitsverpflichtungen nicht.

Es ist nicht garantiert, dass die Überwachung des emotionalen Zustands durch AI die Sicherheit erhöht, und die Überwachung selbst kann ein neues Risiko darstellen.

Selbst wenn große Plattformen streng reagieren, wird die Wirksamkeit der Regulierung sinken, wenn Nutzer zu kleinen Anbietern, ausländischen Diensten oder lokalen AI auf Geräten wechseln.

Je stärker die Regulierung, desto mehr muss der "Verdrängungseffekt" berücksichtigt werden, bei dem Nutzer zu Orten mit niedrigeren Sicherheitsstandards abwandern.

Wichtig ist nicht, Liebesausdrücke pauschal zu eliminieren.

Es geht darum, Transparenz zu schaffen, damit die Nutzer ihren eigenen Zustand erkennen können, das Recht, Gesprächsdaten mitzunehmen, Mechanismen zur Trennung von Zahlungen und Werbung von emotionalen Gesprächen sowie gestufte Schutzmaßnahmen für Minderjährige und Krisensituationen zu kombinieren.

Ist der eigentliche Streitpunkt die Geburtenrate?

Einige ausländische Berichte verbinden Chinas Bevölkerungsrückgang und die Abnahme der Eheschließungen mit der Regulierung von AI-Gefährten und erklären, dass es eine Politik sei, "nicht mit AI zu lieben, sondern mit Menschen zu heiraten und Kinder zu bekommen".

Angesichts der Bevölkerungsprobleme Chinas ist es verständlich, dass diese Interpretation aufkommt.

Allerdings sind die zentralen Ziele, die im offiziellen Regelungstext genannt werden, Sicherheit, öffentliches Interesse, individuelle Rechte, Minderjährigenschutz, Abhängigkeitsprävention und Datenschutz, und die Verbesserung der Geburtenrate wird nicht als direktes Ziel angegeben.

Der Zusammenhang mit der Bevölkerungspolitik muss