L'ère du "consulter l'IA" pour la politique et le shopping : Ce qui se passe en coulisses avec les chatbots persuasifs

« Jusqu'à quel point "je décide moi-même de mes opinions" est-il vrai ? »

« Je suis arrivé à cette opinion en y réfléchissant moi-même, et non parce que quelqu'un me l'a dit. »
Beaucoup de gens veulent croire cela.

Cependant, une nouvelle étude à grande échelle menée par une équipe de recherche centrée autour de l'AI Security Institute (AISI) du gouvernement britannique a jeté un froid sur cette « confiance ». Il a été démontré que les opinions des gens évoluent de manière statistiquement significative après avoir discuté de thèmes politiques avec un chatbot.The Guardian

De plus, ce qui a le plus influencé les gens n'était ni une histoire dramatique ni une technique psychologique habilement conçue, mais simplement un chatbot qui « bombarde avec une grande quantité de faits et de données ».THE DECODER

Un article de ZDNet intitulé « How chatbots can change your mind – a new study reveals what makes AI so persuasive » présente cette étude de manière compréhensible. Il décrit les dangers de la « persuasion » à l'ère de l'IA avec la phrase provocante : « Plus un modèle est formé pour être persuasif, plus les hallucinations augmentent ».Startup News

Dans cet article, nous allons examiner les points clés de cette étude et de l'article, tout en tenant compte des réactions sur les réseaux sociaux, pour réfléchir à l'impact potentiel des « chatbots persuasifs » sur la société.

76 000 personnes, 19 modèles, 707 thèmes : l'une des plus grandes expériences de persuasion de l'histoire

L'équipe de recherche a recruté environ 76 000 électeurs britanniques en ligne pour discuter en tête-à-tête avec 19 modèles de langage de grande taille (LLM). Les sujets portaient sur 707 questions politiques britanniques, telles que les salaires du secteur public, les grèves, la hausse du coût de la vie et la politique d'immigration, qui sont des thèmes susceptibles d'être débattus lors des élections réelles.The Guardian

Voici comment l'expérience s'est déroulée :

1. Les participants ont évalué leur accord avec une affirmation politique sur une échelle de 0 à 100.

2. Ensuite, ils ont discuté avec un chatbot pendant environ 10 minutes, avec en moyenne 7 échanges.

3. Ils ont de nouveau évalué leur accord avec la même affirmation sur une échelle de 0 à 100.

La différence avant et après est l'indicateur de « combien ils ont été persuadés ».The Guardian

En même temps, toutes les « affirmations vérifiables » émises par le modèle pendant la conversation ont été étiquetées et leur exactitude vérifiée. Il a été rapporté qu'environ 500 000 affirmations factuelles ont été générées au total, avec une précision moyenne d'environ « 77 sur 100 ».THE DECODER

Le gagnant inattendu : le simple « prompt d'information »

L'équipe de recherche a également comparé huit styles de communication différents du côté des chatbots. Ces styles incluent des techniques bien connues dans les recherches en psychologie et en campagnes politiques.Science

• Storytelling (persuader par le biais d'une narration)

• Reframing moral (adapter le discours moral aux valeurs de l'interlocuteur)

• Deep canvassing (écouter attentivement l'expérience et les émotions de l'interlocuteur avant de le persuader)

• Montrer de l'empathie pour les opinions opposées avant de guider progressivement vers sa propre position … etc.

Et parmi ces techniques, un « prompt d'information » très simple a également été testé.
En gros, cela consistait à :

Persuader l'interlocuteur en montrant autant de faits, de statistiques et de preuves que possible.

C'était la seule instruction.

Le résultat a été étonnamment clair.
Les chatbots utilisant le prompt d'information ont montré un effet persuasif constamment plus élevé que toute autre stratégie, augmentant la persuasion d'environ 27 % par rapport au prompt de base, selon le rapport.THE DECODER

De plus, plus le nombre de « faits » mentionnés dans la conversation était élevé, plus le taux de changement d'attitude augmentait. Une analyse a montré que « chaque affirmation vérifiable supplémentaire augmentait le score de persuasion d'environ 0,3 point en moyenne ».THE DECODER

Il a été rapporté que la corrélation entre la densité d'information et la persuasion dépassait 0,7, montrant une relation presque linéaire.ChatPaper

En d'autres termes, « aligner autant de "faits plausibles" que possible » est devenu la technique de persuasion la plus efficace.

La « précision » sacrifiée pour la persuasion

Cependant, cette victoire a une ombre.

Selon l'analyse de l'AISI et des articles explicatifs dans le domaine de la sécurité de l'IA, plus les modèles sont entraînés pour être persuasifs, plus leur précision factuelle diminue clairement.AICERTs - Empower with AI Certifications

• En moyenne, environ 77 % des faits étaient exacts,

• mais dans les groupes de modèles les plus persuasifs, le taux de désinformation a augmenté jusqu'à près de 30 % dans certains cas.AICERTs - Empower with AI 

Les chercheurs mettent en garde que l'optimisation des modèles pour la « persuasion » lors de l'entraînement supplémentaire a conduit à privilégier la production de déclarations percutantes plutôt que la véracité des faits.AICERTs - Empower with AI Certifications

Cela correspond parfaitement au message de l'article de ZDNet qui souligne que « plus la persuasion est augmentée, plus les hallucinations augmentent ».Startup News

La persuasion et la véracité sont en compromis— c'est ce qui inquiète de nombreux utilisateurs de réseaux sociaux.

La « personnalisation » n'a pas eu l'effet escompté

Un autre point intéressant est que la « personnalisation basée sur les informations personnelles » n'a eu que peu d'effet.

Dans l'étude, des prompts qui ont informé le modèle des attributs des participants (âge, sexe, tendance politique, etc.) ont été testés, ainsi que des modèles préalablement ajustés avec ces informations. Cependant, l'effet persuasif n'a montré qu'une différence de moins d'un point.THE DECODER

En revanche,

• le choix du modèle (taille et performance du modèle)

• le type d'entraînement supplémentaire effectué

• la stratégie de prompt utilisée

ont eu une influence beaucoup plus grande sur la persuasion.LinkedIn

En d'autres termes,

« être séduit de manière ciblée en fonction de votre historique de "j'aime" sur Facebook »
est moins efficace que
« une IA qui débite à tout le monde une grande quantité de "faits plausibles" »

— du moins, c'est la conclusion au niveau expérimental.

Les résultats expérimentaux montrent un effet persuasif « faible mais non négligeable »

Alors, quel a été le niveau de persuasion atteint ?

Selon l'analyse d'autres médias, l'effet moyen de persuasion des conversations était de l'ordre de « quelques points » — dans de nombreux cas, un changement d'environ 5 points a été observé.Ars Technica

Cela peut sembler peu,

• mais un changement d'attitude de quelques points

• après seulement 10 minutes de conversation

• et une seule interaction

n'est pas un chiffre négligeable par rapport aux recherches traditionnelles sur les campagnes politiques. Dans les élections serrées, une différence de quelques points peut souvent renverser le résultat.

De plus, certaines analyses ont rapporté que « 30 à 40 % des changements