« Une augmentation des recherches "non humaines" : la tentation de contourner l'examen éthique. La recherche accélérée par les données médicales synthétiques, une confiance ébranlée. »

Les universités contournent-elles l'examen éthique avec des "données médicales synthétiques"? — La recherche en IA entre rapidité et confiance

Introduction

"Si les données médicales sont synthétiques et créées par l'IA, elles ne concernent pas des sujets humains et échappent donc à l'examen éthique (IRB)." — Selon un rapport de Nature, plusieurs institutions de recherche médicale au Canada, aux États-Unis et en Italie avancent dans leurs recherches en omettant l'examen éthique habituel sur cette base, déclenchant un débat intense sur les réseaux sociaux à l'échelle mondiale. Le défi sous-jacent est de concilier la protection de la vie privée des patients avec la rapidité de la recherche, un enjeu crucial pour l'IA médicale.Nature

WebProNews a également abordé ce sujet, soulignant les avantages de l'accélération de la recherche et les inquiétudes concernant la dégradation des normes éthiques. Cet article résume les points clés de l'article original, tout en intégrant les dernières découvertes de la recherche, les directives de gouvernance et les réactions sur les réseaux sociaux, afin de clarifier les enjeux pour les entreprises, les universités et les médias.WebProNews

Ce qui se passe : Données synthétiques et l'argument "pas de recherche sur des sujets humains"

Selon l'article de Nature, des institutions comme l'École de médecine de l'Université de Washington (États-Unis), l'Hôpital pour enfants d'Ottawa / Hôpital d'Ottawa (Canada), et l'Hôpital de recherche IRCCS Humanitas (Italie) mènent des recherches utilisant des données synthétiques générées par l'IA, considérées comme "ne relevant pas de la recherche sur des sujets humains", et donc exemptées de l'examen IRB. La justification est qu'elles ne contiennent pas d'informations identifiables sur des patients réels. Aux États-Unis, cette interprétation est alignée sur la Common Rule de 1991. Cependant, certaines institutions exigent encore l'approbation de l'IRB pour l'accès aux données réelles nécessaires à la création de données synthétiques, ce qui montre que la démarcation n'est pas uniforme.Nature

Qu'est-ce que les données synthétiques ?

Il s'agit d'une méthode où un modèle génératif formé sur des données de patients réels crée des enregistrements fictifs tout en conservant des propriétés statistiques. Cela facilite le partage et favorise la collaboration entre établissements, selon les partisans. Cependant, selon la manière dont elles sont créées, des biais et des fuites d'informations peuvent subsister.Nature

La confidentialité est-elle vraiment assurée ? Réidentification et inférence d'appartenance

"Anonymisation ou synthétisation = sécurité" n'est pas toujours vrai. Stanford HAI a averti que l'anonymisation basée sur la suppression de "18 éléments" selon la norme HIPAA ne peut pas éliminer complètement le risque de réidentification, car il est possible d'identifier des individus en croisant avec des données externes.Stanford HAI

De plus, une étude de 2024 a montré que même les modèles formés sur des notes cliniques anonymisées ou synthétiques peuvent être vulnérables à des "attaques d'inférence d'appartenance", permettant de deviner si des données d'entraînement incluaient un individu. Cela remet en question l'argument selon lequel il n'y a pas d'implication de patients réels, justifiant l'exemption d'examen.Nature

Zone grise éthique et légale : L'examen n'est pas une question de "tout ou rien"

Dans le monde des IRB, des cadres pour soutenir l'examen de la recherche en IA sont en cours d'élaboration. Le MRCT Center basé à Harvard publiera en 2025 un cadre d'examen IRB pour la recherche en IA. Il propose une liste de contrôle pratique allant de questions initiales sur la nature de la recherche, la participation humaine, et l'utilisation de l'IA (intervention, aide à la gestion), jusqu'à l'équité, la transparence, le consentement et la gouvernance des données. Plutôt qu'un choix binaire entre exemption totale et examen complet, il encourage une supervision cohérente incluant un **"examen léger"** en fonction des risques.Centre d'essais cliniques de l'hôpital Brigham and Women's

Vitesse de la recherche vs confiance sociale : Avantages et effets secondaires

Les avantages soulignés par les partisans sont clairs. Avec des données synthétiques, le partage de données entre établissements est facilité, accélérant et élargissant la recherche. Cela permet des simulations de maladies rares, des réactions médicamenteuses, et des suivis à long terme difficiles à réaliser avec des données réelles — un point également souligné dans Nature par les parties prenantes.Nature

Cependant, **si la "dispense d'examen" pour la rapidité devient courante, cela accumule un "coût invisible" d'érosion de la confiance sociale**. Il ne faut pas oublier la réaction croissante de l'opinion publique contre les "expériences furtives" utilisant des techniques synthétiques ou l'IA.The Washington Post

Comment les réseaux sociaux ont réagi : Ambiance de soutien et de scepticisme

• Le post original de Nature a été largement partagé par des comptes communautaires de bibliothèques médicales et de médecins urgentistes. L'intérêt du milieu clinique est élevé, et le titre "peut contourner l'examen habituel" a suscité de fortes réactions.X (anciennement Twitter)X (anciennement Twitter)

• Certains chercheurs et éducateurs ont exprimé des critiques, qualifiant cela de **"profondément douteux"**. Ils craignent que l'exception à l'examen éthique ne favorise finalement des pratiques de recherche frauduleuses ou des "dérives" algorithmiques.X (anciennement Twitter)

• Retraction Watch a également partagé l'article. La diffusion par ce média, qui suit de près les cas de mauvaise conduite ou de rétractation dans la recherche en IA, symbolise un renforcement de la "surveillance".X (anciennement Twitter)

En résumé, l'ambiance sur les réseaux sociaux montre que la communauté clinique et éducative oscille entre "attente prudente" et "méfiance envers la légèreté des procédures". Comparée à la communauté technologique générale, la communauté médicale et éthique semble plus prudente.

Pour les praticiens : "7 auto-vérifications" pour les données médicales synthétiques

Même avec une "dispense d'examen", il reste beaucoup à faire. C'est la réalité mise en avant par l'article de Nature, les directives du MRCT, et la recherche sur la confidentialité. Avant de démarrer un projet, vérifiez au moins ces 7 points.

1. Audit du processus de génération : Documentez le protocole d'évaluation de la synthéticité (relation réel-synthétique, similarité statistique) et de la possibilité de "retraçage".Nature

2. Modèle de menace pour la confidentialité : Évaluer l'inférence d'appartenance, la réidentification et la possibilité de liaison (utiliser la confidentialité différentielle si nécessaire).Nature

3. Cartes de données / modèles : Publier (même en interne) l'origine des données, les filtres, les biais, et les précautions d'utilisation imprévue.Centre d'essais cliniques de l'hôpital Brigham and Women's

4. Test d'équité : Vérifier les écarts de représentativité (traitement des minorités et des maladies rares).Centre d'essais cliniques de l'hôpital Brigham and Women's

5. Humain dans la boucle : Si impliqué dans la prise de décision, préciser les points d'intervention humaine et les conditions d'arrêt.Centre d'essais cliniques de l'hôpital Brigham and Women's

6. Transparence et divulgation : Indiquer l'utilisation de données synthétiques dans les publications et rapports, et mentionner les limites et risques prévus.Centre d'essais cliniques de l'hôpital Brigham and Women's

7. Établissement d'un "examen léger" : Même si non soumis à l'IRB, mettre en place une cellule de revue spécialisée en recherche IA, avec audits annuels et revues postérieures.Centre d'essais cliniques de l'hôpital Brigham and Women's
   
   

Foire aux questions (FAQ)

• Q : Les données synthétiques signifient-elles zéro information personnelle ?##