„Mehr Forschung ohne menschliche Probanden“ – Die Versuchung, die Begutachtung zu überspringen: Wie synthetische medizinische Daten die Forschung beschleunigen und das Vertrauen erschüttern

Universitäten überspringen Ethikprüfungen mit "synthetischen medizinischen Daten"? – AI-Forschung zwischen Geschwindigkeit und Vertrauen

Einleitung

"Wenn 'synthetische medizinische Daten' von KI erstellt werden, sind keine menschlichen Probanden beteiligt, daher fällt es nicht unter die Ethikprüfung (IRB)." – Mehrere medizinische Forschungseinrichtungen in Kanada, den USA und Italien haben ihre Forschung unter dieser Prämisse ohne die üblichen Ethikprüfungen vorangetrieben, wie Nature berichtet. Dies hat sowohl national als auch international zu hitzigen Diskussionen in sozialen Netzwerken geführt. Im Hintergrund steht die Herausforderung, den Schutz der Privatsphäre von Patienten mit der Geschwindigkeit der Forschung in Einklang zu bringen, ein Problem, dem sich die medizinische KI stellen muss.Nature

Auch WebProNews hat diese Entwicklung aufgegriffen und berichtet über die Vorteile der beschleunigten Forschung sowie die Bedenken hinsichtlich der Aushöhlung ethischer Standards. In diesem Artikel werden die Hauptpunkte des Originalberichts zusammengefasst, aktuelle Forschungsergebnisse und Governance-Richtlinien sowie Reaktionen in sozialen Netzwerken analysiert, um die zentralen Themen für Unternehmen, Universitäten und Medienvertreter herauszuarbeiten.WebProNews

Was passiert: Synthetische Daten und das Argument "keine menschliche Forschung"

Laut einem Artikel in Nature haben die medizinische Fakultät der Universität Washington (USA), das Kinderkrankenhaus Ottawa / Ottawa Hospital (Kanada) und das IRCCS Humanitas Research Hospital (Italien) damit begonnen, Forschung mit von KI generierten synthetischen Daten durchzuführen, die als "nicht als menschliche Forschung gelten" und daher keine IRB-Prüfung erfordern. Die Begründung ist, dass sie keine identifizierbaren Informationen realer Patienten enthalten. In den USA wird erklärt, dass diese Interpretation mit der Common Rule von 1991 übereinstimmt. Allerdings gibt es auch Einrichtungen, die argumentieren, dass der Zugriff auf reale Daten zur Erstellung synthetischer Daten eine IRB-Genehmigung erfordert, was zeigt, dass die Abgrenzung nicht einheitlich ist.Nature

Was sind synthetische Daten?

Es handelt sich um eine Methode, bei der ein generatives Modell, das mit realen Patientendaten trainiert wurde, fiktive Datensätze erstellt, die statistische Eigenschaften beibehalten. Befürworter argumentieren, dass dies die Zusammenarbeit zwischen Einrichtungen erleichtert. Allerdings gibt es Bedenken hinsichtlich möglicher Verzerrungen und Informationslecks, abhängig von der Art und Weise, wie die Daten erstellt werden.Nature

Ist die Privatsphäre wirklich sicher? Re-Identifikation und Mitgliedschaftsinferenz

"Anonymisierung oder Synthese = Sicherheit" ist nicht immer der Fall. Stanford HAI hat gewarnt, dass die auf HIPAA basierende Anonymisierung durch "Entfernung von 18 Elementen" das Risiko der Re-Identifikation nicht vollständig beseitigen kann, da Personen durch Abgleich mit externen Daten identifiziert werden könnten.Stanford HAI

Eine Studie aus dem Jahr 2024 zeigte zudem, dass Modelle, die mit anonymisierten klinischen Notizen oder synthetischen Notizen trainiert wurden, durch "Mitgliedschaftsinferenzangriffe" vorhersagen können, ob Daten im Trainingssatz enthalten waren. Dies untergräbt das Argument, dass "keine realen Patienten beteiligt sind" und daher keine Prüfung erforderlich ist.Nature

Grauzone von Ethik und Recht: Prüfung ist nicht nur "Null oder Voll"

Auch in der Welt der IRBs wird an Rahmenwerken gearbeitet, die die Prüfung von AI-Forschung unterstützen. Das MRCT Center in Harvard wird 2025 ein IRB-Prüfungsrahmenwerk für AI-Forschung veröffentlichen. Es bietet eine Checkliste von der Entscheidung, ob es sich um Forschung handelt, über die Beteiligung von Menschen bis hin zu den Einsatzbereichen von KI (Intervention, Betriebsunterstützung) und behandelt Themen wie Fairness, Transparenz, Einwilligung und Daten-Governance. Es wird eine konsistente Aufsicht gefördert, die auch "leichtgewichtige Prüfungen" entsprechend dem Risiko umfasst, anstatt nur die Wahl zwischen vollständiger Prüfung oder gar keiner.Brigham and Women's Hospital Clinical Trials Center

Forschungsgeschwindigkeit vs. gesellschaftliches Vertrauen: Vorteile und Nebenwirkungen

Die von den Befürwortern hervorgehobenen Vorteile sind klar. Mit synthetischen Daten wird der Datenaustausch zwischen Einrichtungen erleichtert, und die Geschwindigkeit und der Umfang der Forschung nehmen zu. Simulationen von seltenen Krankheiten oder Medikamentenreaktionen sowie die Nachbildung langfristiger Verfolgungen, die mit realen Daten schwierig sind, werden möglich – auch Nature hebt diesen Punkt in den Worten der Beteiligten hervor.Nature

Allerdings führt die **Verallgemeinerung des "Prüfungssprungs" zugunsten der Geschwindigkeit zu einem "unsichtbaren Kostenfaktor" des gesellschaftlichen Vertrauensverlusts**. In den letzten Jahren hat die öffentliche Meinung zunehmend negativ auf "Stealth-Experimente" mit synthetischen oder AI-gestützten Methoden reagiert.The Washington Post

Wie reagierten die sozialen Netzwerke: Die Stimmung von Zustimmung und Ablehnung

• Der Beitrag von Nature wurde weit verbreitet, insbesondere von medizinischen Bibliotheken und Notfallmedizin-Community-Accounts. Das Interesse aus der klinischen Praxis war groß, und der Titel, dass "normale Prüfungen umgangen werden können", löste starke Reaktionen aus.X (formerly Twitter)X (formerly Twitter)

• Einige Forscher und Pädagogen äußerten in kritischen Posts, dass die Ausnahme von der Ethikprüfung letztlich Forschungsskandale oder das "Durchdrehen" von Algorithmen fördern könnte.X (formerly Twitter)

• Retraction Watch teilte ebenfalls den Artikel. Die Verbreitung durch dieses Medium, das unangemessene AI-Forschung und Fälle von Rücknahmen verfolgt, symbolisiert die zunehmende "Überwachung".X (formerly Twitter)

Zusammenfassend zeigt die Stimmung in den sozialen Netzwerken, dass die klinische und pädagogische Gemeinschaft zwischen "vorsichtiger Erwartung" und "Misstrauen gegenüber vernachlässigten Verfahren" schwankt. Im Vergleich zur allgemeinen Tech-Community ist die medizinische und ethische Gruppe deutlich vorsichtiger.

Für Praktiker: "7 Selbstkontrollen" für synthetische medizinische Daten

Auch wenn "Prüfungssprünge" gemacht werden, gibt es viele Dinge zu beachten. Dies ist die Realität, die der Nature-Artikel, die MRCT-Richtlinien und die Datenschutzforschung aufzeigen. Vor Beginn eines Projekts sollten mindestens die folgenden 7 Punkte überprüft werden.

1. Audit des Generierungsprozesses: Dokumentation der Bewertung von Synthesegrad (Beziehung real-zu-synthetisch, statistische Ähnlichkeit) und "Rückverfolgbarkeit".Nature

2. Modell der Datenschutzbedrohung: Bewertung von Mitgliedschaftsinferenz, Re-Identifikation und Verknüpfbarkeit (bei Bedarf unter Verwendung von Differential Privacy etc.).Nature

3. Datenkarten/Modellkarten: Veröffentlichung von Datenherkunft, Filtern, Verzerrungen und Vorsichtsmaßnahmen für unvorhergesehene Nutzung (auch intern möglich).Brigham and Women's Hospital Clinical Trials Center

4. Fairness-Prüfung: Überprüfung von Repräsentationslücken (Behandlung von Minderheiten oder seltenen Krankheiten).Brigham and Women's Hospital Clinical Trials Center

5. Human-in-the-Loop: Wenn Menschen an Entscheidungsprozessen beteiligt sind, sollten Eingriffspunkte und Notabschaltungen (Stoppbedingungen) klar definiert werden.Brigham and Women's Hospital Clinical Trials Center

6. Transparenz und Offenlegung: In Veröffentlichungen und Berichten die Verwendung synthetischer Daten klar angeben und deren Grenzen und Risiken erläutern.Brigham and Women's Hospital Clinical Trials Center

7. Einrichtung von "leichtgewichtigen Prüfungen": Auch wenn etwas nicht als IRB-pflichtig eingestuft wird, sollte eine spezialisierte Überprüfungsstelle für AI-Forschung eingerichtet werden, um jährliche Audits und Nachprüfungen zu institutionalisieren.Brigham and Women's Hospital Clinical Trials Center
   
   

Häufige Missverständnisse (FAQ)

• F: Sind synthetische Daten völlig frei von persönlichen Informationen?
  A: Wenn reale Daten als Grundlage verwendet werden und die statistische Ähnlichkeit zu hoch ist, besteht die Möglichkeit von Mitgliedschaftsinferenz und Re-Identifikation. Eine Risikobewertung, die auch die Verarbeitungsschritte umfasst, ist unerlässlich.