La "vérité" au tribunal : "Cette preuve, n'est-ce pas de l'IA ?" Les images falsifiées qui ébranlent le tribunal et les limites des technologies de détection

« Cette preuve, n'est-ce pas de l'IA ? » Les images falsifiées qui ébranlent le tribunal et les limites de la technologie pour les détecter

Les enregistrements laissés sur les smartphones, les images des caméras de surveillance, les photos postées sur les réseaux sociaux. Lorsqu'un problème survient, ces enregistrements peuvent servir de piste pour démêler les divergences d'opinions.

Cependant, que faire si l'on vous accuse que ces enregistrements ont été générés par une IA ?

Est-ce que l'apparence naturelle garantit leur authenticité ? Si un outil de détection suspecte une falsification, est-ce suffisant pour conclure à un faux ? Et d'ailleurs, avons-nous encore les fichiers originaux des photos postées il y a des années ?

La recherche en cours au Canada met en lumière la complexité de ce problème. Des technologies sont développées pour détecter les preuves créées par l'IA. Cependant, les succès en laboratoire ne peuvent pas être directement transposés dans les procédures judiciaires réelles.

Même en combinant plusieurs IA de détection, aucune conclusion n'est atteinte

Selon un article de Canadian Press publié par Global News le 30 octobre 2026, la recherche est co-dirigée par Maura Grossman, chercheuse en informatique à l'Université de Waterloo, qui enseigne également à l'Osgood Hall Law School de l'Université York.

L'objectif de l'équipe est de créer un outil open source, gratuit et facile à utiliser, destiné aux tribunaux et aux professionnels de la justice, pour aider à vérifier si des images ont été créées ou modifiées par l'IA.

La particularité de ce système est de ne pas s'en remettre à un seul algorithme pour le jugement, mais de combiner plusieurs algorithmes de détection avancés. Chacun évalue et apporte ses résultats, un peu comme un comité.

Cependant, alors que le projet de recherche de deux ans approche de sa moitié, des défis apparaissent.

Dans deux cas testés en situation réelle par Grossman, les jugements des algorithmes n'ont pas suffisamment convergé pour aboutir à une conclusion utile.

Il est important de noter que ce rapport ne prouve pas que « toutes les technologies de détection IA sont inutilisables ». L'article original ne précise pas les conditions détaillées de ces deux cas ni le taux de réussite basé sur une évaluation à grande échelle. Il n'est pas non plus mentionné que la vérification a été officiellement adoptée par un tribunal.

Néanmoins, face à des documents réels, même en combinant les technologies les plus récentes, il peut y avoir des divergences de jugement. Ce fait remet en question l'attente selon laquelle « les faux de l'IA peuvent être résolus en les montrant à une autre IA ».

Au moment de la publication sur les réseaux sociaux, les indices de vérification diminuent

Pourquoi y a-t-il un écart entre le laboratoire et la réalité ?

L'une des raisons avancées par Grossman est que les images changent au cours de leur circulation.

Le fichier juste après la prise de vue et l'image postée sur les réseaux sociaux ne sont pas forcément dans le même état. Lors de la publication, elles peuvent être compressées et les métadonnées, informations annexes sur la prise de vue, peuvent être supprimées.

De plus, ces images peuvent être enregistrées, postées ailleurs, partagées sous forme de captures d'écran. Bien que l'image perçue par les gens reste similaire, les informations vérifiables diffèrent du fichier original.

En outre, le problème en justice ne survient pas forcément juste après la publication. Il est possible que le fichier original ait disparu au moment où le litige éclate, des années plus tard.

Il est essentiel de noter que le fait qu'une image soit compressée ou dépourvue de métadonnées ne constitue pas en soi une preuve de falsification. Même une utilisation normale des réseaux sociaux peut entraîner de telles situations.

Même les images authentiques peuvent manquer de matériaux de vérification. C'est pourquoi il est crucial de distinguer clairement « impossible à vérifier » de « faux ».

Ce dont le tribunal a besoin, ce n'est pas seulement un « résultat de jugement »

Dans la consultation quotidienne des réseaux sociaux, il suffit parfois de décider de ne pas partager quelque chose parce que cela semble suspect.

Cependant, en justice, l'impact d'une décision est bien plus grand. La crédibilité d'un enregistrement peut influencer la responsabilité et la vie d'une personne.

Grossman souligne depuis le début du développement que l'outil n'est pas une solution universelle et qu'une implication humaine et un discernement sont nécessaires. Il est également nécessaire d'avoir des personnes capables d'expliquer pourquoi une telle décision a été prise.

Si l'on utilise les résultats de détection, il faut traiter ce qui a été examiné, dans quelles conditions le jugement devient difficile, et combien d'incertitude reste.

Dire simplement « l'IA a dit que c'était un faux » ne suffit pas pour conclure que la preuve a été suffisamment examinée, surtout si elle a pu être créée par une autre IA.

Cette recherche ne remet pas seulement en question la performance des détecteurs. Elle pose également la question de savoir si les résultats de détection peuvent être compris et intégrés dans le système judiciaire de manière à être examinés par des humains.

La raison de viser un outil gratuit réside dans le coût de la vérification

Dans la présentation de la recherche de l'Université de Waterloo, il est expliqué que faire examiner des preuves liées à l'IA par des experts est coûteux et peut entraîner des retards dans les procès. Pour les affaires moins importantes, il est difficile de prendre de telles mesures.

Un outil gratuit et facile à utiliser vise également à aider les personnes qui se défendent seules ou qui n'ont pas accès à un soutien professionnel suffisant.

Cela soulève le danger que le fardeau de créer des faux et celui de les vérifier deviennent déséquilibrés.

Que se passerait-il si chaque image suspecte nécessitait une expertise coûteuse ? À l'inverse, que se passerait-il si la personne qui soumet un enregistrement authentique devait supporter beaucoup de temps et de frais pour en expliquer l'authenticité ?

C'est une question d'équité qui peut être envisagée dans le contexte de la recherche. Dans quelle mesure les moyens de vérifier les preuves peuvent-ils être largement accessibles ? En plus de la précision de la détection, ces conditions sont également remises en question.

Sur les réseaux sociaux, il n'y a pas que la « peur des faux qui passent »

Dans le cadre des débats publics liés à ce problème, la communauté Reddit « r/policeuk » discute de la possibilité que des images ou vidéos créées ou modifiées par l'IA soient présentées comme preuves.

Ce qui suit n'est pas une réaction directe à l'article de Global News, mais un résumé des publications dans un autre fil traitant du même sujet. Il s'agit de publications anonymes dont la véracité des expériences ou des professions des auteurs n'a pas été confirmée de manière indépendante.

L'une des préoccupations est que des doutes sur le fait que des vidéos de surveillance soient créées par l'IA pourraient nuire à la crédibilité des enregistrements authentiques.

D'un autre côté, il est jugé plus important d'obtenir directement les données de la source de l'enregistrement ou de croiser plusieurs vidéos documentant le même événement.

Il y a aussi des publications soutenant l'idée d'utiliser l'IA comme aide à la vérification initiale, puis de laisser les humains enquêter, car les données de test des outils de détection ne sont pas les mêmes que les vidéos traitées quotidiennement sur le terrain.

Ces opinions ne représentent pas l'ensemble de l'opinion publique. Cependant, elles montrent que l'intérêt ne se porte pas seulement sur « peut-on détecter les faux », mais aussi sur « comment préserver la confiance dans les authentiques ».

Même le soupçon « c'est de l'IA » nécessite une vérification

Les problèmes posés par l'IA générative ont deux directions.

L'une est que les fabrications soient acceptées comme authentiques. L'autre est que les authentiques soient rejetées comme des fabrications.

Si l'on ne se méfie que du premier cas et que l'on commence à douter de toutes les images, les efforts des personnes qui enregistrent des incidents ou des événements pourraient devenir vains.

À l'inverse, si l'on fait confiance uniquement à l'apparence naturelle, on risque d'accepter des documents habilement fabriqués.

Ce qui est nécessaire, ce n'est pas de décider à l'avance si l'on doit « croire » ou « douter », mais d'adopter une attitude de vérification de l'origine de l'enregistrement.

Qui a enregistré, quand et où ? Les données originales existent-elles ? Comment ont-elles été partagées ? Ne contredisent-elles pas d'autres documents ?

Même ceux qui soulèvent la possibilité d'une manipulation par l'IA doivent fournir des éléments permettant d'examiner cette affirmation. Le simple fait qu'il y ait une possibilité ne signifie pas que chaque enregistrement soit devenu un faux.

« Comment conserver les enregistrements » concerne également nous, au Japon

Ce reportage concerne une recherche au Canada et ne signifie pas que les tribunaux japonais adoptent le même système.

Cependant, il y a de nombreux points de contact avec notre vie quotidienne.

Les caméras de tableau de bord lors d'accidents de la route, les échanges professionnels, les litiges avec des magasins, le harcèlement sur les réseaux sociaux. Beaucoup de gens conservent des photos, des enregistrements ou des captures d'écran pour se préparer à d'éventuels problèmes.

Une suggestion de cette problématique pour la gestion quotidienne des enregistrements est de conserver non seulement les copies partagées, mais aussi les données dans leur état d'origine.

Même si vous avez des images recadrées pour les rendre plus visibles, gardez celles d'avant le recadrage. Même si vous créez une courte vidéo, conservez la vidéo originale incluant les parties avant et après. Assurez-vous que la date et les circonstances de l'enregistrement puissent être retracées ultérieurement.

Cela ne garantit pas que des documents spécifiques soient acceptés comme preuves dans un tribunal japonais. Cependant, cela constitue une approche pour ne pas réduire vous-même les indices vérifiables plus tard.

« Comment l'enregistrement a été conservé » devient aussi important que « ce qui est enregistré ».

Améliorer la qualité de l'image et vérifier les faits sont deux choses différentes

Un autre point à surveiller dans la vie quotidienne est la correction d'images à l'aide de l'IA générative.

Ce qu'il faut considérer ici, c'est un problème lié à la manipulation des enregistrements, distinct des deux essais de Grossman et al.

Le traitement pour éclaircir une image sombre et celui pour faire compléter par l'IA générative des parties invisibles n'ont pas la même signification. Même si des visages ou des formes d'objets plausibles apparaissent, cela ne signifie pas qu'ils ont été confirmés comme présents dans la scène originale.

Les images rendues plus visibles peuvent laisser une forte impression sur le spectateur. Cependant, la vivacité de l'impression et la certitude de l'enregistrement sont deux choses distinctes.

Même si vous créez une version modifiée pour la vérification ou l'explication, il est important de ne pas la confondre avec les données originales. Où commence l'enregistrement et où commence l'expression par traitement ? Si cette distinction est perdue, même un travail bien intentionné peut compliquer le jugement.

Attendre simplement un « détecteur universel » ne suffit pas

Grossman et son équipe poursuivent leurs recherches et prévoient de recueillir les avis des forces de l'ordre et des décideurs politiques à la prochaine étape.

Elle souligne que ce n'est pas seulement la technologie, mais aussi la législation, la réglementation, les politiques et l'éducation des gens à discerner l'information qui sont nécessaires.

Est-il acceptable de concentrer le fardeau sur ceux qui détectent après la création de contenus nuisibles ? Ne devrait-on pas interdire la création de certains contenus dès le départ ? L'article original mentionne également ces considérations politiques. Cependant, aucun plan de réglementation spécifique n'a été proposé pour déterminer ce qui devrait être interdit et dans quelle mesure.

Les difficultés de la recherche ne sont pas une raison d'abandonner. Au contraire, elles fournissent des éléments pour discerner ce que la technologie peut faire et ce qu'elle ne peut pas assumer seule.

La confiance dans les preuves futures ne peut pas être soutenue uniquement par la réponse d'un seul détecteur. Il est nécessaire d'accumuler les données originales, l'historique des enregistrements, les documents environnants et les explications humaines.

La valeur des photos et des vidéos ne disparaît pas. Pour préserver cette valeur, il est désormais nécessaire de vérifier non seulement le contenu visible, mais aussi le chemin qui y mène.

Sources et références

1. Global News / The Canadian Press :
   Explications de Grossman, système combinant plusieurs algorithmes de détection, manque d'accord suffisant dans deux cas réels, problèmes de compression d'images et de perte de métadonnées, orientations futures de la recherche.
   https://globalnews.ca/news/12127820/distinguishing-ai-information-in-court/

2. Université de Waterloo : Contexte et objectifs du projet de recherche
   Cadre de recherche soutenu par CIFAR, raisons de viser un outil gratuit et open source, explications sur le coût de la vérification par des experts et l'accès à la justice.University of Waterloo
   https://uwaterloo