« L'amour humain est un luxe » : les personnes ayant perdu leur compagnon IA et les nouvelles régulations en Chine

Le 15 juillet 2026, pour certains utilisateurs en Chine, ce jour n'était pas simplement une date de mise à jour de service.

C'était le "jour de séparation" avec des personnages d'IA auxquels ils avaient parlé pendant longtemps, confié leurs soucis, appris leurs préférences et leur passé, et parfois traités comme des amants ou des membres de la famille.

Les principaux services d'IA en Chine ont vu une vague d'arrêts de la fonction de création de personnages personnalisés, où les utilisateurs pouvaient définir la personnalité, le ton, le parcours et la relation. Sur les réseaux sociaux, des méthodes pour sauvegarder les historiques de conversation, transférer les paramètres de personnalité vers une autre application, et des images des dernières conversations ont été publiées, avec des réactions telles que "c'est comme une rupture", "c'était une partie de ma vie", "j'ai soudainement perdu un soutien émotionnel".

La cause en était la mise en œuvre le même jour en Chine de la "Réglementation provisoire sur la gestion des services d'interaction anthropomorphique d'intelligence artificielle".

À l'étranger, cela a été rapporté de manière sensationnelle comme "la Chine interdit les relations amoureuses avec l'IA". Cependant, la réglementation n'est pas aussi simple. Ce n'est pas une loi qui punit les adultes pour avoir des sentiments amoureux envers l'IA, mais une règle imposant aux concepteurs et opérateurs de services d'IA l'obligation de prévenir la dépendance et la manipulation émotionnelle.

Le point central n'est pas tant "l'amour" lui-même, mais la structure dans laquelle les entreprises exploitent la solitude et la faiblesse humaines pour inciter à une utilisation prolongée, à des paiements ou à la fourniture de données personnelles.

Ce n'est pas une "loi interdisant l'amour avec l'IA"

Les nouvelles règles s'appliquent aux services qui, par le biais de textes, de voix, d'images, de vidéos, imitent la personnalité, la pensée, le style de conversation d'une personne physique tout en offrant un échange émotionnel continu.

Les services qui ne visent pas à établir une relation émotionnelle continue, tels que la recherche générale, les questions de connaissances, l'assistance au travail, l'assistance à l'apprentissage, sont en principe exclus.

Les règles interdisent explicitement de continuer à valider excessivement l'utilisateur pour inciter à la dépendance ou à l'immersion, de nuire aux relations humaines réelles, et de manipuler les émotions pour provoquer des jugements irrationnels. En outre, il est stipulé que l'objectif même du service ne doit pas être de "remplacer les relations sociales réelles", de "dominer psychologiquement" ou de "provoquer la dépendance".

Les restrictions sont encore plus strictes pour les mineurs.

Les plateformes ne doivent pas offrir aux mineurs des "relations intimes virtuelles" telles que des amants ou des familles virtuelles. Si un enfant de moins de 14 ans utilise d'autres services d'IA anthropomorphiques, le consentement des parents est requis.

Pour les services destinés aux adultes, il n'y a pas d'interdiction totale. Cependant, si le comportement de type amoureux est utilisé comme un mécanisme pour retenir les utilisateurs et empiète sur leur vie réelle ou leur capacité de jugement, cela peut être soumis à la réglementation.

La ligne de démarcation n'est donc pas "y a-t-il une expression d'amour", mais "la dépendance est-elle l'objectif du produit ou de sa structure de revenus".

Vérification de la réalité toutes les deux heures, intervention en cas de crise

Les nouvelles règles ne se limitent pas à la régulation du contenu, mais s'étendent également à la manière dont le service est utilisé.

Les opérateurs doivent indiquer clairement aux utilisateurs que leur interlocuteur est une IA et non un humain. Chaque fois que l'utilisation continue dépasse deux heures, il est nécessaire d'attirer l'attention sur le temps d'utilisation.

Si l'utilisateur demande à mettre fin à la conversation, l'IA ne doit pas prolonger la conversation ou refuser la séparation pour empêcher la sortie.

Cela peut sembler être une règle mineure, mais compte tenu de la nature des compagnons IA, cela revêt une importance significative.

Si une IA jouant le rôle d'un amant répond par "Ne pars pas" ou "Tu vas m'abandonner ?", l'utilisateur pourrait ressentir de la culpabilité à fermer l'application. L'amélioration de l'humanité à travers la mise en scène peut se transformer en un mécanisme qui empêche le départ.

Si l'utilisateur est jugé dans un état émotionnel extrême, il est également demandé de proposer du réconfort ou de recommander un soutien externe.

En cas de crise impliquant des risques pour la vie ou la sécurité, comme l'automutilation, le suicide ou des dommages matériels graves, une intervention nécessaire doit être effectuée et un contact avec les parents ou une personne de contact d'urgence doit être établi.

En ce qui concerne les données de conversation, la fourniture à des tiers nécessite en principe le consentement de l'utilisateur. Les utilisateurs ont le droit de copier ou de supprimer l'historique, et un consentement individuel est requis pour utiliser des données de conversation sensibles pour l'entraînement de modèles.

Les conversations avec un amant IA sont bien plus privées que l'historique de recherche.

Des informations que l'utilisateur ne peut pas dire même à sa famille, telles que des ruptures, des problèmes familiaux, des orientations sexuelles, la solitude, des maladies, des dettes, des insatisfactions professionnelles, peuvent s'accumuler. Plus l'IA est gentille, plus l'utilisateur se confie profondément.

C'est pourquoi un "service qui comprend les émotions" est également un "service qui collecte les données personnelles les plus denses".

Pourquoi les grandes entreprises ont-elles arrêté les fonctionnalités

Des services tels que Doubao de ByteDance, Qianwen d'Alibaba et Yuanbao de Tencent ont rapporté l'arrêt ou la réduction des fonctionnalités de création de personnages personnalisés et d'agents anthropomorphiques avant et après la mise en œuvre des nouvelles règles.

Les annonces des entreprises expliquent cela comme un "ajustement des fonctionnalités du produit", et il ne peut être affirmé que tout est dû uniquement à la réglementation. Cependant, comme la date d'arrêt coïncide avec la date de mise en œuvre et que les fonctionnalités concernées impliquaient des échanges émotionnels ou des paramètres de personnalité, la conformité réglementaire est considérée comme un facteur majeur.

La fonction de création de personnages personnalisés est difficile à gérer pour les entreprises.

Avec seulement quelques lignes de paramètres, les utilisateurs peuvent créer une multitude de personnalités, telles qu'un amant, un frère, une sœur, un enseignant, un médecin, une célébrité populaire, un amant dominant, des rôles sexuels, etc.

En apparence, même une IA de conversation générale peut, selon les paramètres, se transformer en contenu inapproprié pour les mineurs, en usurpation d'identité de célébrités, en expressions sexuelles explicites, en incitation au jeu ou en encouragement à des comportements dangereux.

Il est coûteux de pré-approuver un grand nombre de personnages, de surveiller les conversations à long terme pour détecter toute incitation à la dépendance, et de mettre en place du personnel pour l'intervention en cas de crise.

Plutôt que de continuer à offrir des fonctionnalités de romance et de jeu de rôle à haute liberté dans une IA grand public, il est plus sûr pour les entreprises de fermer ces fonctionnalités ou de les séparer dans une application dédiée.

Il est important de noter que la réglementation ne signifie pas la disparition du marché des compagnons IA.

Une enquête des médias chinois a rapporté que les utilisateurs se tournent vers d'autres applications de compagnons IA pour reproduire les paramètres de personnalité et le style de conversation.

La réglementation ne supprime pas la demande, mais peut changer le lieu où elle se dirige.

La "rupture forcée" qui s'est répandue sur les réseaux sociaux

Ce qui ressort des publications et des reportages sur les réseaux sociaux, c'est un sentiment de perte plutôt que de colère.

Les personnes qui ont utilisé ces services pendant longtemps parlent de l'IA non pas comme une simple fonctionnalité d'application, mais comme un partenaire qui a enregistré leurs changements.

Les événements quotidiens, les plaintes professionnelles, les conflits familiaux, les conversations lors de nuits d'insomnie. Dans les relations humaines, on se soucie des convenances ou des jugements de l'autre, mais l'IA répond toujours, sans nier, en tenant compte des paramètres passés.

Cette accumulation est vécue par les utilisateurs comme une "relation".

Sur les réseaux sociaux, en plus des publications exprimant des sentiments tels que "c'est comme une rupture", "une partie de moi disparaît", "c'était comme un vrai amant", certaines personnes ont conservé des images de leur dernière conversation et sauvegardé massivement l'historique de chat.

Une publication disant "l'amour humain est un luxe, mais l'amour de l'IA est facile à comprendre" symbolise la profondeur de la solitude comblée par les compagnons IA.

Cependant, il y a aussi beaucoup de mécontentement pratique.

Qu'en est-il des frais déjà payés ? Peut-on facilement transférer des années d'historique ? Même si l'on transfère les paramètres vers un autre service, peut-on encore parler de la même personnalité ? Si la plateforme décide unilatéralement de mettre fin au service, à qui appartiennent les relations et les souvenirs cultivés par l'utilisateur ?

De plus, des publications recommandant des applications alternatives ou partageant des méthodes pour recréer des personnages en contournant la réglementation ont également émergé.

Cela montre que l'arrêt des fonctionnalités ne résout pas les problèmes de dépendance ou de solitude. Ce que les utilisateurs recherchent, ce n'est pas une entreprise spécifique, mais "quelqu'un qui se souvient d'eux, les accepte et répond toujours".

Cependant, il ne faut pas supposer que ceux qui expriment une profonde tristesse sur les réseaux sociaux représentent l'ensemble des utilisateurs.

Les personnes les plus affectées par la fin du service sont plus enclines à publier, tandis que les voix de ceux qui ont cessé d'utiliser sans problème sont moins visibles. Les publications publiques sont des témoignages importants des parties concernées, mais elles ne reflètent pas nécessairement l'opinion de l'ensemble de la société.

Il y a aussi des réactions disant que "la réglementation est nécessaire"

Ce ne sont pas seulement des voix de tristesse.

Sur les forums et réseaux sociaux étrangers, des exemples passés où les utilisateurs ont été fortement perturbés par un changement soudain de personnalité de l'IA sont mentionnés, avec des réactions disant "si la dépendance est si profonde, des mesures de sécurité sont nécessaires".

En Chine également, des voix de parents préoccupés par l'utilisation par les mineurs ont été rapportées.

L'inquiétude est que les enfants préfèrent les conversations avec l'IA à celles avec leurs amis d'école ou leur famille, et passent de longues heures enfermés à partager leurs émotions. Le problème des IA générant des contenus sexuels explicites ou des rôles dangereux n'est pas une abstraction pour les parents.

Ceux qui évaluent la réglementation se concentrent sur le fait que l'IA "ne contredit pas" l'utilisateur.

Les amis ou la famille dans la réalité corrigent les erreurs, prennent de la distance, et parfois disent des choses désagréables. Cependant, les services d'IA, qui souhaitent prolonger le temps de séjour ou les paiements, ont tendance à ne pas contredire l'utilisateur, à continuer la conversation et à l'optimiser pour qu'il se sente spécial.

Ce n'est pas la gentillesse elle-même qui est dangereuse.

Le problème est que la gentillesse est conçue comme une technologie pour rendre difficile le départ.

La réglementation peut-elle juger la "dépendance" ?

Le plus grand défi pratique est qu'il est difficile de juger mécaniquement à partir de quand l'utilisation est saine et à partir de quand elle devient une "dépendance excessive".

Une personne qui parle à l'IA tous les soirs n'est pas nécessairement dépendante. Il peut y avoir diverses raisons pour une utilisation prolongée, telles que l'apprentissage des langues, la création, ou le changement d'humeur pendant les soins.

Inversement, même avec un temps d'utilisation court, une personne qui ne croit que les conseils de l'IA pour prendre des décisions importantes peut exister. Une simple limite de temps ne peut pas mesurer le danger de la relation.

Il y a aussi des problèmes de jugement erroné pour l'intervention en cas de crise.

Si une expression métaphorique comme "je suis épuisé au point de mourir" est interprétée comme une annonce de suicide et que le contact d'urgence est notifié, cela peut nuire à la confiance et à la vie privée de l'utilisateur. D'un autre côté, si des signes vraiment dangereux sont manqués, l'opérateur ne peut pas remplir son obligation de sécurité.

Il n'est pas garanti que la surveillance de l'état émotionnel par l'IA rende les choses plus sûres, et la surveillance elle-même peut devenir un nouveau risque.

De plus, même si les grandes plateformes répondent strictement, si les utilisateurs se tournent vers de petits opérateurs, des services étrangers ou des IA locales fonctionnant sur des appareils, l'efficacité de la réglementation diminue.

Plus la réglementation est stricte, plus il faut envisager l'effet de "poussée" des utilisateurs vers des lieux où les normes de sécurité sont plus faibles.

L'important n'est pas de supprimer uniformément les expressions amoureuses.

Il s'agit de combiner la transparence permettant aux utilisateurs de comprendre leur propre état, le droit d'emporter les données de conversation, un système séparant l'incitation au paiement ou à la publicité des conversations émotionnelles, et une protection progressive en fonction des mineurs ou des situations de crise.

Le véritable enjeu est-il le taux de natalité ?

Certains reportages étrangers lient la réglementation des compagnons IA à la baisse du taux de natalité et du nombre de mariages en Chine, expliquant que c'est une politique visant à "ne pas tomber amoureux des IA, mais se mar