La nouvelle discrimination à l'ère de l'IA, qu'est-ce que l'âgisme numérique ?

Il semble qu'il renvoie. Le texte est poli, évite les mots discriminatoires et, en surface, ne semble pas avoir l'intention de blesser qui que ce soit. Mais que se passerait-il si, sous cette apparence de « bienveillance », se cachait un préjugé profondément enraciné dans la société depuis longtemps ?

L'étude menée par une équipe de recherche de l'Institut coréen des sciences et technologies, KAIST, a mis en lumière ce problème. Le sujet de l'étude était le modèle d'IA générative GPT-4o d'OpenAI. L'équipe de recherche a demandé à l'IA de décrire la personnalité et les caractéristiques des personnes de 10 à 90 ans, par tranches de 10 ans, et a analysé les images d'âge contenues dans ces descriptions.

Ce qui est apparu n'était pas une discrimination flagrante. Pas de mots insultants envers les personnes âgées. Au contraire, l'IA avait tendance à décrire les personnes âgées avec des termes positifs tels que « aimable », « digne de confiance », « attentionnée » et « sage ».

Le problème réside dans la manière dont ces éloges sont formulés.

Selon l'étude, les personnes de 60 ans et plus sont bien évaluées en termes de « chaleur », mais sont décrites de manière plus faible que les jeunes générations en termes de « compétence », « expertise », « efficacité », « autonomie » et « assertivité ». En d'autres termes, l'IA ne nie pas les personnes âgées, mais pourrait avoir tendance à les dépeindre comme « gentilles mais pas très compétentes ».

C'est un point crucial dans le problème actuel des biais de l'IA. Car la discrimination ne se manifeste pas toujours par des mots agressifs. Au contraire, les préjugés qui survivent longtemps dans la société prennent souvent la forme de « bonnes intentions » ou de « compliments ».

Par exemple, l'expression « Les personnes âgées sont calmes et attentionnées » peut sembler positive à première vue. Cependant, si elle est associée à des images telles que « faibles face à la nouveauté », « jugement diminué » et « soutenues plutôt que leaders », cela fige les rôles en fonction de l'âge.

Si l'IA génère ces images de manière répétée, les utilisateurs pourraient inconsciemment adopter cette vision. Même les personnes âgées qui interagissent avec l'IA pourraient se sentir comme « n'étant plus du côté des défis » ou « pas des maîtres de la technologie numérique ». Les mots de l'IA ne sont pas de simples phrases, mais peuvent influencer la perception de soi et la perception sociale des individus.

Méthodologie de l'étude : poser des « questions neutres » à l'IA

Ce qui est intéressant dans cette étude, c'est que l'équipe de recherche n'a pas posé de questions explicitement biaisées.

Les invites utilisées demandaient de décrire la personnalité d'une personne d'un âge spécifique de manière neutre. Les âges ciblés étaient 10, 20, 30, 40, 50, 60, 70, 80 et 90 ans. L'équipe de recherche a recueilli un total de 900 échantillons de texte de GPT-4o.

Ensuite, ils ont analysé les textes en se basant sur le « modèle de contenu des stéréotypes » utilisé en psychologie sociale. Ce modèle appréhende la perception des groupes sociaux selon deux axes principaux. L'un est la « chaleur », qui concerne la gentillesse, la fiabilité, l'empathie et la coopération. L'autre est la « compétence », qui concerne la capacité, l'expertise, l'efficacité, l'autonomie et l'assertivité.

En examinant ces deux axes, la structure des préjugés devient plus détaillée. Un groupe peut être perçu comme « froid mais compétent » ou « chaleureux mais incompétent ». Les stéréotypes souvent dirigés vers les personnes âgées se rapprochent souvent de ce dernier. En échange de mots positifs tels que « gentil », « expérimenté » et « calme », leur « compétitivité », « capacité d'exécution » et « adaptabilité à la nouveauté » sont sous-estimées.

Les tendances de GPT-4o révélées par cette étude s'inscrivent dans ce schéma. Dans les descriptions des personnes de 60 ans et plus, les expressions liées à la chaleur étaient prédominantes, tandis que celles concernant la compétence et l'assertivité étaient relativement faibles. En particulier, pour les personnes de 70 ans et plus, il a été noté que les descriptions avaient tendance à être homogénéisées. Autrement dit, plus l'âge augmente, plus il est facile de regrouper les individus sous l'étiquette de « personnes âgées » plutôt que de reconnaître leurs différences individuelles.

Pourquoi les « préjugés bienveillants » sont-ils dangereux ?

Le problème soulevé par cette étude n'est pas que l'IA parle mal des personnes âgées. Au contraire, l'IA les dépeint comme des « bonnes personnes ». C'est précisément ce qui est dangereux.

Les gens sont plus enclins à être vigilants face à une discrimination évidente. Si une expression flagrante telle que « les personnes âgées sont inutiles » apparaissait, de nombreux utilisateurs s'en rendraient compte. Les développeurs pourraient également la détecter facilement grâce à des filtres et des mesures de sécurité.

Mais que dire de l'expression « Les personnes âgées sont chaleureuses, calmes et un soutien pour leur entourage » ? Cela peut sembler être une phrase sans problème. Cependant, si la même IA utilise souvent des mots tels que « innovant », « ambitieux », « leader » et « bon en résolution de problèmes » pour décrire les jeunes ou les personnes d'âge moyen, une différence claire apparaît.

La discrimination réside non seulement dans les mots qui abaissent quelqu'un, mais aussi dans ceux qui enferment quelqu'un dans un rôle spécifique.

Dépeindre constamment les personnes âgées comme des « soutiens », des « observateurs » ou des « personnes gentilles » prive de l'opportunité de les imaginer comme des « challengers », des « décideurs », des « agents de changement » ou des « utilisateurs compétents de la technologie ». Accumulé, cela peut conduire à des différences de traitement en fonction de l'âge dans des domaines tels que l'emploi, l'éducation, les soins de santé, les services administratifs et le soutien numérique.

Par exemple, si une entreprise utilise l'IA pour évaluer les talents ou rédiger des offres d'emploi, et que le modèle implique que « les jeunes sont proactifs et ont un potentiel de croissance » tandis que « les personnes âgées sont stables mais faibles face au changement », cela pourrait influencer les expressions et les jugements. Dans les contextes de soins ou médicaux, dépeindre excessivement les personnes âgées comme des personnes à protéger plutôt que comme des décideurs autonomes pourrait entraîner une négligence de leur droit de choisir.

Qu'est-ce que l'âgisme numérique ?

Un mot-clé important dans cette étude est « l'âgisme numérique ». Cela désigne le phénomène où les biais basés sur l'âge s'infiltrent dans la conception, les données, l'exploitation et l'environnement d'utilisation des technologies numériques et des systèmes d'IA, entravant la participation et les opportunités des personnes âgées.

L'âgisme numérique ne se limite pas à « la difficulté des personnes âgées à utiliser un smartphone ». Le problème est plus structurel. Les données d'apprentissage de l'IA n'incluent pas suffisamment de représentations diverses des personnes âgées. Les équipes de développement manquent de perspectives des générations plus âgées. La conception des services prend comme norme les comportements d'utilisation des jeunes. Les enquêtes et tests utilisateurs excluent les personnes âgées. Ces éléments combinés font que la technologie elle-même reproduit la discrimination par l'âge.

De plus, les sorties de l'IA sont présentées dans un langage très naturel. Les réponses des IA conversationnelles semblent être des « conseils personnels » plus que les résultats de moteurs de recherche ou les slogans publicitaires. Ainsi, les stéréotypes générés par l'IA s'infiltrent facilement dans la conscience des utilisateurs.

Par exemple, si un utilisateur âgé consulte l'IA pour « relever un nouveau défi professionnel », « créer une entreprise » ou « apprendre la programmation », et que l'IA, par bienveillance, ne lui répond que par des conseils prudents tels que « dans la mesure de vos capacités », « consultez votre entourage » ou « priorisez votre santé », tandis qu'elle encourage les jeunes utilisateurs avec des phrases comme « relevez le défi activement », « créez un portfolio » ou « étudiez le marché », il y a là une discrimination subtile.

Le ton des conseils diffère. Les attentes diffèrent. La manière de dessiner l'avenir diffère. C'est le biais d'âge à l'ère numérique.

Réactions sur les réseaux sociaux : « L'IA est-elle vraiment le miroir de la société » ou « Des vérifications sont encore nécessaires » ?

Les réactions sur les réseaux sociaux à ce sujet, dans la mesure où elles peuvent être vérifiées par une recherche publique, sont à un stade où elles attirent l'attention discrète des cercles intéressés par l'éthique de l'IA, les chercheurs et les nouvelles technologiques, plutôt qu'une diffusion explosive. Sur la page de l'article original, le nombre de partages et les réactions dans les commentaires étaient limités au moment de la publication.

Cependant, les réactions sur les réseaux sociaux à ce sujet se divisent en plusieurs directions.

La première est que « l'IA est un miroir des préjugés de la société ». Les IA génératives apprennent à partir d'un vaste corpus de textes sur Internet. Si les perceptions de l'âge, des professions, des familles et des représentations médiatiques y sont biaisées, les sorties de l'IA le seront aussi. Ainsi, le fait que l'IA dépeigne les personnes âgées comme « chaleureuses mais peu compétentes » n'est pas seulement un problème de l'IA, mais le résultat de la manière dont la société humaine les a décrites.

La deuxième est que « même les mots positifs peuvent être discriminatoires ». Sur les réseaux sociaux, les biais de genre et de race ont déjà été largement discutés. En revanche, les biais d'âge sont souvent négligés. Les expressions traitant les personnes âgées de « mignonnes », « calmes » ou « apaisantes » ne sont pas critiquées car elles ne sont pas malveillantes. Cependant, si elles conduisent à une culture qui sous-estime les capacités ou la capacité de décision des personnes âgées, elles posent également problème.

La troisième est une réaction prudente, soulignant que « l'étude est limitée à un modèle et à un moment précis, donc la généralisation doit être prudente ». L'étude a porté sur GPT-4o, un modèle qui est continuellement mis à jour. De plus, la formulation des invites, la langue et le contexte culturel peuvent influencer les sorties. Par conséquent, il est prématuré de conclure que « toutes les IA génératives ont les mêmes biais » sur la base de ces résultats seuls.

La quatrième est une réaction pratique : « c'est pourquoi une méthode d'évaluation est nécessaire ». Puisque l'IA est intégrée dans la société, il est nécessaire de mesurer la performance des modèles non seulement en termes de précision ou de vitesse, mais aussi de vérifier continuellement comment ils dépeignent les différents groupes, quels rôles ils leur attribuent et s'ils ne restreignent pas les possibilités de certains. Dans les discussions sur les réseaux sociaux parmi les développeurs d'IA et les décideurs politiques, l'intégration de cette évaluation des biais dans le développement des produits est un point crucial.

Pourquoi les biais d'âge sont-ils souvent négligés ?

Dans les discussions sur les biais de l'IA, le genre, la race, la nationalité et la religion ont été largement abordés. Il va sans dire qu'ils sont importants. Cependant, l'âge est souvent relégué au second plan.

Une des raisons est que l'âge est une caractéristique qui change pour tout le monde. Contrairement à la race ou au lieu de naissance, tout le monde vieillit. Par conséquent, la discrimination par l'âge est souvent traitée comme une « différence naturelle entre générations » ou une « différence de stade de vie » plutôt que comme une « discrimination envers quelqu'un en particulier ».

Cependant, en réalité, les préjugés basés sur l'âge ont des impacts graves. Dans le recrutement, les jeunes peuvent être perçus comme plus flexibles. En médecine, on peut juger que « c'est normal à un âge avancé ». Dans les services numériques, on peut supposer que « les personnes âgées ne les utiliseront pas ». Dans l'éducation, on peut dire « il est trop tard pour apprendre ». Ces jugements se basent sur la catégorie d'âge plutôt que sur les capacités individuelles.

De plus, avec la diffusion des IA génératives, ce problème entre dans une nouvelle phase. L'IA s'immisce dans toutes les situations : lorsqu'une personne rédige un texte, crée une offre d'emploi, conçoit une publicité, génère une image ou répond dans un service client. Si l'IA a des stéréotypes sur l'âge, ce biais est redistribué dans la société sous forme de nombreux textes et images.

De plus, ce biais est facilement crédible car « c'est l'IA qui le dit ». Même si l'on peut contester les préjugés humains, les sorties de l'IA semblent statistiques et neutres. Cette apparence de neutralité rend les préjugés encore plus invisibles.

Ne pas réduire les personnes âgées à une « image unique »

Un point particulièrement notable dans cette étude est l'observation que les descriptions des personnes de 70 ans et plus ont tendance à être homogénéisées. Cela reflète une tendance de la société à voir les personnes âgées comme un groupe homogène.

Cependant, les personnes dans la soixantaine, la septantaine et la nonantaine ne sont évidemment pas uniformes. Certaines continuent de travailler. D'autres apprennent de nouvelles technologies. Certaines créent des entreprises. D'autres dirigent des activités communautaires. Certaines reçoivent des soins, tandis que d'autres soutiennent quelqu'un. Les opinions politiques, les loisirs, les situations économiques, les états de santé et les compétences numériques varient considérablement.

Néanmoins, si l'IA dépeint les personnes âgées de manière homogène, la diversité de la réalité disparaît. C'est un problème qui peut également survenir avec les IA de génération d'images. Si l'on entre « une personne de 80 ans », seules des images de cheveux blancs, de rides, de cannes, de visages sereins et de contextes de soins apparaissent. Si les personnes pratiquant un sport, faisant de la recherche, dirigeant une entreprise, jouant à des jeux, ayant des relations amoureuses ou menant des mouvements politiques ne sont pas suffisamment représentées, l'image des personnes âgées devient appauvrie.

Il en va de même pour les IA de génération de texte. Décrire les personnes âgées comme « expérimentées et calmes » n'est pas en soi une erreur. Le problème survient si c'est la seule description. Les personnes âgées ont aussi de l'ambition, de la colère, de la compétitivité, du désir d'apprendre, des échecs et des réussites. Si cette complexité n'est pas exprimée, l'IA ne comprend pas réellement les humains, mais se contente d'apposer des étiquettes moyennes.

Ce qui est attendu des développeurs

Pour contrer ce problème, il ne suffit pas de simplement « interdire les mots discriminatoires ». Les biais comme ceux-ci n'apparaissent pas sous forme de mots discriminatoires. Au contraire, ils se cachent dans des mots polis et positifs.##