Comment Wikipédia lutte contre le "brouillon d'IA" — L'impact de la "suppression rapide" : Nouvelles règles pour protéger la qualité

Introduction : Comment l'encyclopédie fait face au "déluge d'IA"

La montée de l'IA générative a apporté une "vitesse" à la fois bénéfique et problématique. La capacité de produire rapidement de grandes quantités de texte est une arme à double tranchant pour des projets collaboratifs comme les encyclopédies. Wikipédia est actuellement confrontée à un afflux de contenus de basse qualité, surnommés "AI slop", gonflés par la désinformation et des sources fictives. The Verge rapporte que la communauté commence à fonctionner comme un "système immunitaire" face à ce problème. Elle détecte rapidement les intrus, les élimine et apprend à y faire face — une métaphore éloquente. 

Contenu des nouvelles règles : G15 "Pages générées par LLM sans revue humaine"

Après des débats, une extension des critères de "suppression rapide" a été adoptée. Habituellement, la suppression nécessite un débat public de sept jours, mais les pages manifestement générées par l'IA sans vérification humaine par l'auteur peuvent désormais être supprimées immédiatement à la discrétion des administrateurs (nommée "G15"). Deux principaux signes indicatifs : ① des phrases avec une odeur de "réponse à un prompt" comme "Here is your Wikipedia article…" ou "as a large language model…", ② des citations inventées comme des articles inexistants, des sources non pertinentes, des DOI insolubles ou des ISBN invalides. Wikipédia404 Media

Ce nouveau critère cible uniquement les cas "évidents" méritant une suppression immédiate. Un simple style ressemblant à celui de l'IA ne suffit pas. Il est important de noter que cela est classé parmi les "violations évidentes" aux côtés des canulars, des publicités, des articles fictifs et du harcèlement, comme les suppressions rapides traditionnelles (G10 ou G11). 

Catalogue pour détecter le "style IA" : WikiProject AI Cleanup

Du côté de la communauté, le "WikiProject AI Cleanup" a été lancé pour établir une "carte des mines" des expressions et formats typiques de l'IA. Des signes tels qu'un ton excessivement promotionnel, une rhétorique trop bien structurée, un usage excessif de "moreover", des guillemets courbés (“ ”) ou des tirets longs (—) partagés. Cependant, ceux-ci ne sont que des "lignes auxiliaires". La décision de suppression repose sur des "traces décisives" comme l'importation directe de prompts ou des citations fausses. 

404 Media a été le premier à rapporter, suivi par les médias internationaux

404 Media a été le premier à signaler ce changement de politique. Ensuite, PCWorld et l'allemand Heise ont suivi, rendant le débat visible à l'échelle mondiale. Le point clé est d'avoir "formalisé les conditions dans lesquelles la 'vitesse' peut être exceptionnellement priorisée dans une Wikipédia qui valorise la culture du débat". 404 MediaPCWorldheise online

Position de la fondation : arrêt de l'IA de résumé, mais l'IA "qui aide les gens" continue

La Wikimedia Foundation, qui gère Wikipédia, est indépendante des décisions de la communauté. En juin, elle a arrêté l'expérimentation de l'affichage de résumés IA en tête d'articles suite à l'opposition de la communauté (par le passé, les voix pour "arrêter" étaient fortes), mais l'introduction de l'IA pour aider les éditeurs, comme la détection de vandalisme et l'assistance à la traduction, se poursuit. Edit Check avertit des manques de citations et vérifie la neutralité, tandis que Paste Check est conçu pour vérifier "est-ce vraiment votre texte ?" lors de collages massifs. 

Ce qui change : rapidité, charge, fiabilité

• Rapidité : Les contenus manifestement "AI slop" peuvent être traités immédiatement sans attendre un débat. En éliminant rapidement les "articles de vandalisme" ou les "citations inventées" nouvellement créés, plus de temps peut être consacré à d'autres tâches éditoriales. 404 Media

• Réduction de la charge : Alléger la charge de "nettoyage" des articles IA sans relecture, permettant de réallouer les ressources limitées de patrouille. 

• Fiabilité : Les citations erronées et les références fantômes ébranlent le fondement de l'encyclopédie. La standardisation des "traces décisives" facilement identifiables est significative. PCWorld

Cependant, ce n'est pas une "panacée"

La communauté elle-même reconnaît cela comme un "pansement". Même un article initié par l'IA peut être de haute qualité si un humain le révise soigneusement, et un article médiocre peut être écrit manuellement. C'est pourquoi le G15 cible les "erreurs évidentes". À moyen et long terme, des outils d'assistance comme Edit Check, la formation de consensus sur les pages de discussion, et le renforcement des workflows de vérification des sources seront indispensables. PCWorld

Réactions sur les réseaux sociaux : soutien majoritaire, mais inquiétudes sur les erreurs de jugement et l'autocensure

• X (anciennement Twitter) : Diffusion à partir des publications de The Verge et Slashdot. L'atmosphère générale est "bien joué", mais certains se demandent "ne s'agit-il pas de rejeter toute l'IA ?". X (anciennement Twitter)

• Reddit : Sur r/technology et r/wikipedia, le soutien est visible avec des commentaires comme "la direction est la bonne" et "nous voulons augmenter les dons", mais il y a aussi des préoccupations sur l'utilisation de l'IA pour "rédiger" des débats et les introduire, ainsi que des remarques sur le risque d'erreurs de jugement. Reddit

• Hacker News : Les lecteurs de longue date s'inquiètent du "référencement circulaire de l'AI slop (IA→Wiki→IA de nouvelle génération)". Tout en accueillant favorablement la standardisation actuelle, ils discutent de l'équilibre avec l'ouverture. Hacker News

• Threads / Bluesky : L'évaluation de la dimension publique de Wikipédia est appréciée, et l'idée que d'autres plateformes devraient suivre cet exemple est souvent exprimée. ThreadsBluesky Social

Comment prévenir les erreurs de jugement ?

Le "style IA" n'est qu'une preuve circonstancielle. Les guides de Wikipédia précisent que des éléments comme les guillemets courbés ou l'usage excessif de "moreover"ne sont pas des raisons suffisantes pour la suppression, et la décision finale repose sur des "preuves décisives" telles que l'importation directe de prompts ou des citations inventées. Cela sert également de dispositif de sécurité pour éviter l'autocensure des auteurs légitimes. 

Pourquoi un "consensus humain" est-il encore nécessaire ?

La fiabilité d'une encyclopédie repose sur la vérifiabilité des sources et la transparence de l'historique des révisions. L'IA peut aider, mais ne peut pas remplacer cela. La métaphore du "système immunitaire" évoquée par un représentant de la fondation suggère finalement quele consensus humainconstitue les anticorps. Pour que les éditeurs dépassent la "vitesse de prolifération de la désinformation", il est nécessaire d'accélérer la vitesse d'apprentissage de la communauté. 

Perspective : Parce que c'est ouvert, il est essentiel de formaliser les lignes directrices

Le G15 est une "infraction de vitesse minimale" pour protéger la fiabilité sans compromettre l'ouverture. L'importance de poser des rails pour une réponse rapide exceptionnelle dans une culture qui valorise le débat n'est pas négligeable. À l'avenir, la transparence du processus de création, comme avec Paste Check, et l'amélioration de la détection des abus par l'IA seront cruciales. Wikipédia n'est pas en train de rejeter l'IA, mais évoluera dans la direction de distinguer l'"IA qui aide les gens" de l'"IA qui trompe les gens".

Propulsé par Froala Editor