El día en que aumentan los estudios "no dirigidos a humanos" - La tentación de omitir la revisión: La investigación acelerada por datos médicos sintéticos, la confianza tambaleante

¿Las universidades omiten la revisión ética con "datos médicos sintéticos"? - La investigación de IA entre la velocidad y la confianza

Introducción

"Si los 'datos médicos sintéticos' son creados por IA, no se trata con sujetos humanos, por lo que no se requiere revisión ética (IRB)". - Múltiples instituciones de investigación médica en Canadá, EE.UU. e Italia están avanzando en sus investigaciones omitiendo la revisión ética habitual bajo este razonamiento, según informó Nature, lo que desató un acalorado debate en las redes sociales tanto nacionales como internacionales. Detrás de esto se encuentra el desafío de equilibrar la protección de la privacidad del paciente con la velocidad de la investigación, un reto al que se enfrenta la IA médica.Nature

WebProNews también abordó este movimiento, informando sobre el equilibrio entre los beneficios de acelerar la investigación y las preocupaciones sobre la desvalorización de los estándares éticos. En este artículo, se resumen los puntos clave del artículo original, así como los últimos conocimientos de investigación, directrices de gobernanza y reacciones en redes sociales, para organizar los temas que deben ser considerados por empresas, universidades y medios de comunicación.WebProNews

¿Qué está sucediendo?: Datos sintéticos y el argumento de "no es investigación con humanos"

Según el artículo de Nature, en la Facultad de Medicina de la Universidad de Washington (EE.UU.), el Hospital Infantil de Ottawa / Hospital de Ottawa (Canadá), y el Hospital de Investigación IRCCS Humanitas (Italia), se está extendiendo la práctica de considerar que la investigación que utiliza datos sintéticos generados por IA "no constituye investigación con humanos", por lo que no requiere revisión por parte de un IRB. La justificación es que "no incluye información identificable de pacientes reales". En EE.UU., se ha explicado que esta interpretación se ajusta a la Common Rule de 1991. Sin embargo, algunas instituciones sostienen que el acceso a datos reales para crear datos sintéticos requiere la aprobación del IRB, por lo que no hay una línea clara.Nature

¿Qué son los datos sintéticos?

Es una técnica que utiliza modelos generativos entrenados con datos de pacientes reales para crear registros ficticios que mantienen propiedades estadísticas. Los defensores argumentan que facilita el intercambio y la colaboración entre instituciones. Sin embargo, dependiendo de cómo se generen, pueden persistir preocupaciones sobre sesgos y filtración de información.Nature

¿Es realmente segura la privacidad?: Reidentificación e inferencia de membresía

"Anonimización o sintetización = seguridad" no siempre es cierto. Stanford HAI ha advertido que la anonimización basada en la eliminación de "18 elementos" al estilo HIPAA no elimina completamente el riesgo de reidentificación, ya que es posible identificar a individuos al cotejar con datos externos.Stanford HAI

Además, una investigación de 2024 demostró que incluso los modelos entrenados con notas clínicas anonimizadas o sintéticas pueden ser vulnerables a ataques de "inferencia de membresía", permitiendo deducir si los datos de entrenamiento incluían a un individuo. Esto socava la justificación de omitir la revisión al afirmar que "no hay participación de pacientes reales".Nature

Zonas grises éticas y legales: La revisión no es una elección de "todo o nada"

En el ámbito del IRB, se están desarrollando marcos para apoyar la revisión de investigaciones de IA. El MRCT Center, con sede en Harvard, publicará en 2025 un marco de revisión de IRB para investigaciones de IA. Este incluye desde preguntas iniciales sobre si es investigación, la participación humana, y el uso de IA (intervención, apoyo operativo), hasta listas de verificación prácticas sobre equidad, transparencia, consentimiento y gobernanza de datos. Promueve una supervisión consistente que incluya **"revisiones ligeras"** según el riesgo, en lugar de una elección entre omisión total o revisión completa.Centro de Ensayos Clínicos del Hospital Brigham and Women's

Velocidad de investigación vs. confianza social: Beneficios y efectos secundarios

Los beneficios que enfatizan los defensores son claros. Con datos sintéticos, el intercambio de datos entre instituciones es más fácil y aumenta la velocidad y escala de la investigación. Simulaciones de enfermedades raras, reacciones a medicamentos, y recreaciones de seguimiento a largo plazo, que son difíciles de verificar solo con datos reales, se vuelven posibles. Nature también destaca este punto con palabras de los involucrados.Nature

Sin embargo, **si se generaliza la "omisión de revisión" priorizando la velocidad, se acumulan "costos invisibles" de desgaste de la confianza social**. No debemos olvidar que en los últimos años ha aumentado la oposición pública a los "experimentos encubiertos" que utilizan síntesis y IA.The Washington Post

¿Cómo reaccionaron las redes sociales?: La atmósfera de aprobación y desaprobación

• La publicación original de Nature fue ampliamente compartida por cuentas comunitarias de bibliotecas médicas y médicos de urgencias. El interés desde el ámbito clínico fue alto, y el titular de "posibilidad de omitir la revisión habitual" generó fuertes reacciones.X (anteriormente Twitter)X (anteriormente Twitter)

• Algunos investigadores y educadores publicaron críticas calificando la situación como **"extremadamente dudosa (deeply dubious)"**. La preocupación es que el trato excepcional en la revisión ética podría, en última instancia, fomentar la mala conducta en la investigación o el "descontrol" de los algoritmos.X (anteriormente Twitter)

• Retraction Watch también compartió el artículo. La difusión por parte de este medio, que ha estado siguiendo casos de implementación inapropiada y retractación en investigaciones de IA, simboliza el aumento de la "vigilancia".X (anteriormente Twitter)

En resumen, el ambiente en las redes sociales muestra que la comunidad clínica y educativa mezcla "expectativas cautelosas" con "desconfianza hacia la negligencia en los procedimientos". Se puede observar una diferencia de temperatura, siendo más cautelosos los clústeres médicos y éticos que el ámbito tecnológico general.

Para los profesionales: "7 autoevaluaciones" para datos médicos sintéticos

Incluso si se "omite la revisión", hay muchas cosas que hacer. Esta es la realidad que plantean los artículos de Nature, las directrices de MRCT y la investigación sobre privacidad. Antes de comenzar un proyecto, al menos verifique los siguientes 7 puntos.

1. Auditoría del proceso de generación: Documentar el protocolo de evaluación de la relación real-sintética, similitud estadística y posibilidad de "reversión".Nature

2. Modelo de amenaza a la privacidad: Evaluación de inferencia de membresía, reidentificación y posibilidad de enlace (usar privacidad diferencial si es necesario).Nature

3. Tarjetas de datos/modelos: Publicar el origen de los datos, filtros, sesgos y precauciones para usos imprevistos (incluso internamente).Centro de Ensayos Clínicos del Hospital Brigham and Women's

4. Pruebas de equidad: Verificar brechas de representatividad (tratamiento de minorías y enfermedades raras).Centro de Ensayos Clínicos del Hospital Brigham and Women's

5. Humano en el bucle: Si se involucra en la toma de decisiones, especificar los puntos de intervención humana y las válvulas de seguridad (condiciones de detención).Centro de Ensayos Clínicos del Hospital Brigham and Women's

6. Transparencia y divulgación: Indicar claramente el uso de datos sintéticos en artículos e informes, y detallar sus limitaciones y riesgos previstos.Centro de Ensayos Clínicos del Hospital Brigham and Women's

7. Establecimiento de "revisión ligera": Incluso si se considera fuera del ámbito del IRB, establecer una ventanilla de revisión especializada en investigación de IA, con auditorías anuales y revisiones posteriores.Centro de Ensayos Clínicos del Hospital Brigham and Women's
   
   

Preguntas frecuentes (FAQ)

• P: ¿Los datos sintéticos significan cero información personal?
  R: Si se utilizan datos reales como material de generación y son "demasiado similares" estadísticamente, puede haber margen para inferencia de membresía o reidentificación. Es esencial evaluar los riesgos, incluyendo los procesos de tratamiento.Nature##HTML