¿Se puede permitir la entrada de la IA en el consultorio médico? Un médico habla sobre "dónde debería usarse y dónde evitarse".

¿Se puede permitir la entrada de la IA en el consultorio médico? Un médico habla sobre "dónde debería usarse y dónde evitarse".

1) Los médicos no están en contra de la IA. El problema es la "IA que habla directamente con los pacientes"

Lo que TechCrunch describió no es un conflicto "médicos VS IA". Más bien, tanto los médicos como los inversores ven que "la ineficiencia médica puede mejorarse con IA". La preocupación surge cuando la IA se convierte en la **interfaz con los pacientes**, ya que en ese momento las cuestiones de responsabilidad y seguridad se vuelven más pesadas.


En la publicación de TechCrunch en LinkedIn, la preocupación no era "la IA en sí", sino el punto de que "cuando la IA comienza a encargarse de la atención al paciente, la ubicación de la responsabilidad se vuelve ambigua". En el mundo médico, si el resultado es malo, alguien debe asumir la responsabilidad legal, ética y clínica.


2) Un número fuerte como "45% de embolia pulmonar" distorsiona la atención médica

El Dr. Sina Bari, cirujano y líder en el campo de la IA médica, relata una experiencia en la que se sorprendió por una respuesta generada por IA que un paciente trajo consigo. La respuesta incluía un número, "45% de probabilidad de embolia pulmonar", junto con el medicamento recomendado, pero al investigar, descubrió que provenía de un estudio sobre un grupo limitado de pacientes con tuberculosis, y no aplicaba a ese paciente.


Aquí es donde radica el peligro de los chatbots médicos.
Los números en medicina cambian de significado según el grupo objetivo, las condiciones y los supuestos. Sin embargo, **"los números son poderosos"**. Los pacientes se preocupan y los médicos deben comenzar la consulta corrigiendo malentendidos. Cuanto más confiada sea la declaración errónea (lo que se llama alucinación), mayores serán los costos y riesgos de comunicación.


3) Aún así, ¿por qué el Dr. Bari tiene expectativas para "ChatGPT Health"?

Lo sorprendente es que, incluso después de esta experiencia, el Dr. Bari mostró "más expectativas que preocupaciones" hacia ChatGPT Health de OpenAI. La razón es simple: la tendencia de los pacientes a consultar su salud con IA ya está ocurriendo. Por lo tanto, es mejor preparar un espacio más privado y medidas de protección, y "institucionalizar" hacia el lado seguro en alineación con la realidad.


ChatGPT Health separa las conversaciones en el ámbito de la salud en un espacio dedicado y (según la explicación de OpenAI) no utiliza el modelo base para el aprendizaje. También se habla de la idea de aumentar la individualidad mediante la carga de registros médicos y la integración con Apple Health y MyFitnessPal.


4) "Es peligroso, no lo uses" no funciona: la realidad de esperar de 3 a 6 meses

El Dr. Nigam Shah de Stanford muestra que el debate sobre la IA médica no puede tratarse solo de "precisión". En una situación donde esperar de 3 a 6 meses para una consulta de atención primaria no es raro, plantea la pregunta: "¿Esperar seis meses para ver a un médico real o hablar con alguien que no es médico pero puede hacer algo?"


Este punto de vista es importante. Si el acceso a la atención médica es suficiente, se puede optar por "no usar IA porque es peligrosa". Sin embargo, para aquellos que no pueden recibir atención o es demasiado tarde, la IA se introduce como **"mejor que nada"**. Por lo tanto, el enfoque del debate se traslada de "¿se puede prohibir la IA?" a cómo diseñar e instituir para reducir accidentes.


5) El atajo para la IA médica es "recuperar el tiempo de los médicos" en lugar de "reemplazar a los pacientes"

La ruta realista que muestra el Dr. Shah no es un chat para pacientes, sino la implementación en el lado de los **proveedores de atención médica**. En la atención primaria, se señala que las tareas administrativas consumen casi la mitad del tiempo de los médicos, y si se puede automatizar esta parte, se puede aumentar el número de pacientes atendidos y reducir la presión para que los pacientes recurran a "IA médica de reemplazo".


ChatEHR, desarrollado por Stanford, tiene como objetivo hacer que la búsqueda de información en los registros electrónicos de salud sea interactiva, reduciendo el "tiempo de búsqueda" de los médicos y devolviendo el tiempo para "hablar con los pacientes".


En el mismo contexto, se explica que Claude for Healthcare de Anthropic puede acortar tareas "tediosas pero esenciales" como la autorización previa. En la explicación para las partes interesadas, se menciona la posibilidad de ahorrar de 20 a 30 minutos por caso, lo que se traduce en un gran ahorro de tiempo acumulado.


6) Privacidad: ¿Qué sucede cuando se sale del ámbito de HIPAA?

Cuando los pacientes entregan sus registros médicos a un chatbot, los datos salen del ámbito de gestión del hospital y el marco de protección puede cambiar. Itai Schwartz, cofundador de una empresa de protección contra fugas de datos, señala el problema del traslado de datos médicos de organizaciones conformes a HIPAA a proveedores no conformes, y está atento a la respuesta de los reguladores.


Esta preocupación también es fuerte en las redes sociales. En el debate de Hacker News, se observó una preocupación de que "los datos de salud están fuera de HIPAA y podrían conectarse a la monetización futura (seguros, empleo, etc.)", así como que las configuraciones son complejas y se comparten "sin darse cuenta".


Por otro lado, OpenAI explica que Health no es un reemplazo médico sino un apoyo, y adopta un diseño de protección dedicado. Aquí, no solo la "promesa de la empresa", sino que la auditoría, regulación y transparencia para hacerlo "verificable" se convierten en condiciones para la confianza.


7) Reacciones en redes sociales: Las opiniones están divididas, pero los puntos de conflicto son casi los mismos

En **LinkedIn (alrededor de la publicación de TechCrunch)**, se apoyó la idea de que "la IA que apoya a los médicos en diagnósticos y documentación es bienvenida, pero la IA que interactúa directamente con los pacientes hace que la delimitación de responsabilidades sea ambigua". En resumen, la preocupación es más sobre el "lugar de la responsabilidad" que sobre la "comodidad".


En Hacker News, la diferencia de opiniones es aún mayor.
Un grupo comparte experiencias en las que la IA ayudó a comprender los resultados de las pruebas o a prepararse para la comunicación con el médico, argumentando que "se necesita regulación, pero el valor no debe desaparecer".


Otro grupo está preocupado por el hecho de que la IA tiende a guiar hacia respuestas "con las que uno está de acuerdo" (reiniciar la conversación para obtener la respuesta deseada, etc.) y los riesgos de aumentar el autodiagnóstico, el uso excesivo de suplementos y la desconfianza médica. También hay opiniones fuertes de que "si se va a hacer público, primero debe haber una certificación de seguridad independiente".


Este conflicto finalmente se reduce a los siguientes tres puntos.

  1. Cuanto peor sea el acceso a la atención médica, mayor será la demanda de IA (difícil de detener)

  2. El daño de la desinformación tiende a concentrarse en los "más vulnerables" (cuanto más necesitado, más se confía)

  3. Lo peor es que la responsabilidad y la privacidad se expandan sin claridad (por eso se necesita un sistema)


8) Entonces, ¿cómo usar los chatbots médicos para pacientes para "reducir accidentes"?

En conclusión, la IA médica es más segura si se usa primero como un apoyo para mejorar la calidad de la atención en lugar de como un "reemplazo del diagnóstico".

  • Organizar síntomas y evolución, y tomar notas de los puntos clave a comunicar durante la consulta

  • Comprender explicaciones generales de resultados de pruebas, medicamentos y nombres de enfermedades (pero el juicio final es del médico)

  • Hacer una lista de preguntas para la próxima consulta


Y del lado de la sociedad, es más sensato invertir primero en **IA para proveedores de atención médica (búsqueda de registros, administración, autorización previa, etc.)** para reducir el "esperar seis meses".


Como dijo el Dr. Bari, para proteger a los pacientes, se requiere que los proveedores de atención médica sean "conservadores y cautelosos". La IA médica no debe ser una herramienta que rompa esa cautela, sino una que la apoye.


URL de referencia


Artículo de referencia

Los médicos piensan que la IA tiene un lugar en la atención médica, pero tal vez no como un chatbot.
Fuente: https://techcrunch.com/2026/01/13/doctors-think-ai-has-a-place-in-healthcare-but-maybe-not-as-a-chatbot/

Artículos relacionados