Claude et le « filigrane invisible » peuvent-ils être effacés ? — Une nouvelle controverse à l'ère de l'IA posée par Anthropies, le créateur de Cardano

Permettre de distinguer les textes générés par l'IA de ceux écrits par des humains.

À première vue, cela semble être un mécanisme bienvenu à une époque où les informations fausses et le contenu généré en masse par l'IA abondent. Cependant, si cette « marque » est invisible pour les humains et peut même rester sur un texte légèrement modifié par l'IA, la question devient plus complexe.

En août 2026, Charles Hoskinson, connu comme co-fondateur de la cryptomonnaie Cardano, a lancé un projet open source appelé « Anthropies » pour supprimer les filigranes et les informations d'origine associés à l'IA générative « Claude » d'Anthropic.

Ce n'est pas simplement la publication d'un outil pratique, mais cela soulève une plus grande discussion sur jusqu'où la transparence de l'IA devrait être imposée techniquement, et jusqu'où les entreprises d'IA ont le droit de laisser une « marque » sur le contenu généré par les utilisateurs.

Le « filigrane invisible » introduit par Claude

Pour comprendre cette agitation, il est crucial de connaître le mécanisme de filigrane textuel introduit dans Claude.

Lorsque l'on entend « filigrane », on peut imaginer un logo affiché dans le coin d'une image ou une méthode consistant à insérer une chaîne secrète dans un texte.

Cependant, la méthode adoptée par Anthropic est très différente.

Il ne s'agit pas d'ajouter des caractères spéciaux dans le texte. À la place, un modèle statistique est intégré dans la manière dont l'IA choisit les mots lors de la génération de texte.

Par exemple, lorsqu'il s'agit de continuer une phrase, il peut y avoir plusieurs choix qui ne semblent pas étranges, comme « important », « essentiel », ou « crucial ».

Une IA générative normale choisirait le mot suivant basé sur une certaine probabilité, mais avec la méthode de filigrane, une règle basée sur une clé secrète est utilisée pour introduire une tendance statistique dans ce choix.

Les humains ne peuvent pas percevoir la différence en lisant le texte.

Cependant, ceux qui possèdent la clé peuvent analyser un texte suffisamment long pour évaluer statistiquement la « possibilité que Claude ait été impliqué dans la génération de ce texte ».

Selon Anthropic, cette méthode est basée sur l'approche SynthID Text que Google DeepMind a étudiée.

L'important est que cette marque n'est pas « des données cachées derrière les caractères », mais est intégrée dans le langage même du texte.

Il ne suffit pas de supprimer simplement des caractères spéciaux ou d'effacer les métadonnées d'un fichier texte pour l'enlever.

Le contexte de l'EU AI Act

Une des grandes raisons pour lesquelles Anthropic introduit cette technologie est la réglementation de l'IA par l'Union européenne, l'« EU AI Act ».

Les dispositions de transparence, appliquées depuis le 2 août 2026, exigent que les fournisseurs d'IA générative prennent des mesures pour que le contenu généré ou manipulé par l'IA puisse être détecté par des machines.

Cela inclut non seulement les textes, mais aussi les images, les sons et les vidéos.

Avec l'amélioration rapide des performances de l'IA générative, il devient difficile de distinguer le contenu créé par des humains de celui généré par l'IA. Comme mesure contre les deepfakes, les fausses nouvelles, l'usurpation d'identité et le contenu publicitaire généré en masse, il est nécessaire de mettre en place un système permettant de vérifier l'origine du contenu.

Cependant, le système n'est pas aussi simple que « tout ce qui a touché l'IA doit être affiché comme un produit généré par l'IA ».

Les lignes directrices de la Commission européenne montrent des exceptions pour l'assistance éditoriale standard, et le code source peut également être exempté de l'obligation de marquage sous certaines conditions.

De plus, pour les systèmes déjà sur le marché avant le 2 août 2026, une période de transition limitée jusqu'au 2 décembre 2026 est prévue uniquement pour les obligations de marquage et de détection.

Ainsi, il n'est pas exact de comprendre que « l'UE a rendu obligatoire le filigrane pour toute utilisation de l'IA ».

Néanmoins, il est certain que la direction vers laquelle les grands acteurs de l'IA se dirigent est de rendre les produits générés par l'IA identifiables par des machines.

« Anthropies » publié par Hoskinson

C'est dans ce contexte qu'Anthropies a fait son apparition.

Hoskinson a annoncé sur son X qu'il développait un nouveau système pouvant être utilisé en combinaison avec de nombreux LLM pour supprimer le filigrane d'Anthropic.

Le projet est publié sur GitHub et adopte la licence Apache 2.0.

Les « traces de Claude » qu'Anthropies tente de traiter peuvent être classées en trois grandes catégories.

La première est le filigrane statistique intégré dans le texte lui-même.

La deuxième est les Content Credentials au format C2PA attribués aux fichiers tels que les images.

La troisième est l'information d'attribution telle que « Co-Authored-By: Claude » ajoutée aux messages de commit Git utilisés dans le développement de logiciels.

Bien que ces trois types semblent similaires, ils sont techniquement très différents.

Les informations C2PA et l'attribution Git existent en tant que métadonnées ou texte spécifiques, ce qui les rend relativement faciles à traiter.

En revanche, le filigrane statistique existe dans le choix des mots du texte lui-même, ce qui rend impossible de simplement « supprimer la partie filigrane ».

Pourquoi « réécrire avec une autre IA » ?

Ce qui est le plus intéressant dans Anthropies, c'est sa façon d'aborder le filigrane dans le texte.

Si le filigrane existe en tant que modèle de choix de mots, il est nécessaire de changer le texte lui-même pour briser ce modèle.

Ainsi, Anthropies adopte l'idée de reconstruire le texte original avec un autre modèle.

Le projet sépare le processus de suppression des métadonnées connues et celui de changer la structure et l'expression du texte.

Pour l'attribution Git, il suffit de supprimer la partie désignée, mais pour le texte en langue naturelle, il est nécessaire de le réécrire de manière significative avec un modèle différent de celui qui a généré le filigrane.

À l'inverse, si l'on demande au même modèle générateur de « supprimer ce filigrane et de réécrire », le nouveau texte généré pourrait contenir à nouveau un filigrane du même type.

Cela reflète la difficulté fondamentale de la technologie de filigrane des IA génératives.

Le filigrane « effaçable » a-t-il un sens ?

C'est précisément ce point qui suscite de nombreuses interrogations sur les réseaux sociaux.

« Si le texte peut être largement reformulé par une autre IA pour être effacé, peut-il vraiment empêcher une utilisation malveillante par des individus ? »

En réalité, même Anthropic n'affirme pas que le filigrane est infaillible.

Bien que des modifications mineures puissent laisser des caractéristiques statistiques, un réécriture complète peut faire disparaître le signal.

De plus, pour les textes courts, le nombre de choix de mots servant de matériel de jugement est faible, ce qui réduit la capacité de détection par rapport aux textes longs.

Il en va de même pour les programmes informatiques ou les textes décrivant des faits stricts.

Dans des contextes où il n'y a qu'une seule réponse correcte, l'IA a peu de marge pour choisir d'autres mots, réduisant ainsi les opportunités d'intégrer des modèles statistiques.

Sur les réseaux sociaux, on trouve également des critiques disant que « si les informations d'origine des images peuvent être perdues par des captures d'écran ou un réencodage, et si le signal d'un texte peut être affaibli par une paraphrase importante, cela ne fonctionnera pas contre les utilisateurs malveillants, mais affectera uniquement les utilisateurs ordinaires ».

D'un autre côté, certains estiment que « même si cela ne peut pas empêcher toutes les utilisations abusives, cela a du sens ».

Il n'est pas certain que la majorité du contenu généré par l'IA publié en masse sur Internet soit systématiquement traité pour supprimer le filigrane.

Même si l'on peut détecter un certain pourcentage de cas où le résultat généré est copié presque tel quel et publié, cela peut servir de moyen pour distinguer le spam massif et le contenu de faible qualité.

L'inquiétude sur les réseaux sociaux : « Qu'en est-il des textes écrits par des humains ? »

Une autre réaction forte sur les réseaux sociaux concerne le traitement des textes que Claude a corrigés pour des humains.

Par exemple, si un rapport entièrement écrit par un humain est remis à Claude pour en améliorer la lisibilité,

et que des modèles statistiques apparaissent dans les parties modifiées par l'IA, il est possible que l'on juge plus tard que « Claude a été impliqué dans ce texte ».

Il est important de noter ici que le jugement « Claude a été impliqué » n'est pas le même que « Claude a écrit ce texte ».

Anthropic clarifie également cette différence.

Le filigrane indique la possibilité que Claude ait été impliqué dans le texte, mais ne fournit pas de preuve déterminante sur l'auteur, qu'il soit humain ou IA.

Cependant, si le résultat du jugement se propage de manière autonome dans des contextes tels que les écoles, les entreprises, les recrutements ou les publications, cela pourrait poser problème aux utilisateurs.

Sur les réseaux sociaux, il y a une réaction croissante contre le fait que des textes écrits par des humains soient considérés comme « textes IA » simplement parce qu'ils ont été passés par Claude pour une édition.

Anthropic explique toutefois que dans les textes où seules la grammaire ou la ponctuation ont été légèrement corrigées, il est souvent difficile de laisser un filigrane suffisant car Claude choisit peu de mots.

Les lignes directrices de l'UE prévoient également des exceptions pour l'assistance éditoriale standard.

Cela ne signifie donc pas que « chaque texte corrigé par Claude est automatiquement jugé comme généré par l'IA ».

Le problème réside dans le fait que la frontière entre « édition standard » et « génération substantielle par l'IA » peut devenir floue dans des situations d'utilisation réelle.

Des voix saluant la transparence

Bien sûr, il y a aussi de nombreuses opinions positives sur le filigrane lui-même.

Sur les réseaux sociaux, certains estiment qu'un mécanisme permettant de vérifier techniquement que le contenu a été généré par l'IA sera nécessaire pour l'avenir d'Internet.

Plus le texte, les images et les vidéos générés par l'IA se rapprochent du niveau des créations humaines, plus il est important pour les spectateurs de pouvoir juger de l'origine du contenu.

En considérant les fausses informations politiques, les fausses publicités d'entreprises, les nouvelles fictives, les faux avis, et le contenu SEO généré automatiquement par l'IA, la technologie permettant de vérifier la « possibilité d'une génération par l'IA » a une signification publique.

Si les entreprises d'IA ne font rien de leur propre initiative, la traçabilité des produits générés diminuera de plus en plus.

Dans ce sens, certains utilisateurs considèrent l'initiative d'Anthropic comme un « progrès vers une plus grande transparence ».

Certains messages suggèrent que même si la technologie de détection n'est pas parfaite, pouvoir distinguer le contenu généré par l'IA publié en masse sans traitement pourrait améliorer la qualité globale de l'information sur Internet.

La question de la « propriété » soulevée par Hoskinson

Voir Anthropies uniquement comme un outil technique de suppression de filigrane ne permet de comprendre qu'à moitié l'intention de ce projet.

Hoskinson met fortement en avant les questions de « propriété » et « d'attribution » des produits générés par l'IA.

Les documents d'Anthropies soulèvent des questions sur le fait que les traces des entreprises d'IA continuent de rester sur les produits que les utilisateurs possèdent.

En particulier, l'affichage de « Co-Authored-By: Claude » dans Git ne ressemble pas à une simple information d'origine mécanique, mais peut apparaître aux yeux des humains comme affichant Claude en tant que co-auteur.

Cependant, il est important de noter que cette attribution Git et le nouveau filigrane statistique sont des mécanismes distincts.

Le propre dépôt d'Anthropies explique que l'attribution de co-auteur Git existait avant le système de filigrane actuel, et qu'il n'y a aucune preuve qu'Anthropic considère les deux comme le même mécanisme.

Anthropic a clairement indiqué que le filigrane ne signifie pas la « propriété ou l'auteur ».

Ainsi, pour le moment,

« Le fait qu'un filigrane reste pourrait poser un risque de propriété à l'avenir »##HTML