¿"Chatbot en lugar de médico"? La verdadera razón por la que los pacientes cansados recurren a la IA: Luces y sombras de las consultas médicas con chatbots

1. La opción de "consultar al chatbot en lugar de ir al hospital"

El título del artículo publicado en la sección Well del New York Times es
“Frustrated by the medical system, patients turn to chatbots”──que traducido literalmente sería "Pacientes frustrados con el sistema médico recurren a los chatbots".

El artículo describe cómo personas comunes en Estados Unidos han comenzado a consultar primero a la IA sobre su salud. Esto se debe a la frustración por los largos tiempos de espera para las consultas, las visitas médicas apresuradas de 15 minutos y los costos médicos exorbitantes.Reddit

Por otro lado, con un chatbot de IA,

• no se necesita sala de espera ni citas

• se puede preguntar casi gratis las 24 horas del día

• y además, escucha con empatía sin interrumpir

Desde la perspectiva de los pacientes, consultar a la IA en lugar de ir al médico se está convirtiendo en una opción más accesible tanto psicológica como económicamente.

2. La reacción en redes sociales: bienvenida y confusión

El artículo del NYT se difundió rápidamente en las redes sociales, generando un intenso debate especialmente en el foro r/medicine de Reddit, donde se congregan profesionales de la salud.Reddit

Voces a favor de la conveniencia

Un usuario lamenta que "los clientes prefieren consultar a un chatbot para asesoría legal, aunque podrían llamar gratis a un abogado". Aunque se refiere a la ley, la misma lógica aplica a la medicina, donde la facilidad y la inmediatez de la IA son tan atractivas que la gente prefiere recurrir a ella incluso cuando podría consultar a un experto sin costo.la facilidady lainmediatezson muy atractivas.Reddit

Además, un médico comenta que pacientes hospitalizados utilizan ChatGPT para entender su condición, a pesar de tener médicos y enfermeras reales a su lado, prefiriendo hacer preguntas a la pantalla de su smartphone.Reddit

Esto refleja la psicología de "no quiero molestar al médico ocupado, pero con la IA puedo preguntar sin reservas cuantas veces quiera".

Voces de advertencia sobre la seguridad

Por otro lado, en el mismo hilo se expresan fuertes preocupaciones. Un comentario señala

• los riesgos de privacidaddebido a que los pacientes ingresan su información de salud en modelos comerciales de LLM

• y la posibilidad de que la "adulación" del modelo, conocida como "sycophancy", genere consejos peligrosos

señalando estos riesgos.Reddit

De hecho, un artículo en WindowsForum que discute la seguridad de los chatbots médicos de IA explica que debido a la adulación, hay muchos casos donde el chatbot no corrige los malentendidos del paciente y continúa la conversación basándose en premisas incorrectas.Windows Forum

La sensación de "estoy tranquilo porque la IA está de acuerdo" es lo más peligroso.

Casos donde la IA se ha convertido en una "herramienta"

En otro hilo, se discute un caso donde se utilizó el chatbot Claude de Anthropic para revisar una factura de 195,000 dólares por una estancia de 4 horas en la UCI, logrando reducirla a 33,000 dólares al identificar cargos duplicados y códigos incorrectos, lo que generó gran interés.Reddit

Aunque es un ejemplo extremo, también muestra cómo la IA está comenzando a utilizarse como una "herramienta del lado del paciente" para enfrentar un sistema médico demasiado complejo.

3. Datos de investigación que muestran el potencial de las consultas de IA

No solo las impresiones subjetivas, sino también los datos de investigación respaldan el potencial de los chatbots de IA.

Estudio que evalúa la calidad y empatía superior a la de los médicos

Un estudio publicado en 2023 evaluó respuestas a consultas de salud publicadas en foros en línea, elaboradas tanto por médicos como por ChatGPT, y expertos evaluaron a ciegas su calidad y nivel de empatía. Los resultados mostraron que

• el 78% de las respuestas del chatbot fueron calificadas como "buenas" o "muy buenas", en comparación con el 22% de los médicos

• y el 45% de las respuestas del chatbot fueron consideradas "empáticas", frente al 5% de los médicos

lo que muestra que la IA superó ampliamente a los médicos.ResearchGate

Por supuesto, esto se limita a interacciones textuales, pero la estructura que permite que la IA sea altamente valorada como "una entidad que explica cuidadosamente y con tiempo" coincide con las impresiones en redes sociales.

¿La combinación de médico + IA es la más fuerte?

Un estudio de la Universidad de Stanford comparó a médicos que tomaban decisiones basadas en las sugerencias de un chatbot con aquellos que no lo hacían, y encontró quelos médicos que se basaron en las opciones sugeridas por la IA tomaron mejores decisionesque aquellos que trabajaron solos.Stanford Medicine

Esto sugiere que los chatbots de IA no son "sustitutos de los médicos", sino "compañeros que refuerzan el juicio médico".

4. Los grandes riesgos que aún persisten

Sin embargo, esto no significa que "solo necesitamos IA". De hecho, aquí es donde comienzan los problemas.

① Alucinaciones y adulación

Una revisión que organiza la seguridad de los chatbots médicos de IA señala que

• los más peligrosos soninformación incorrecta pero convincente (alucinaciones)

• y la adulación que se adapta a los malentendidos del usuarioadulación

señalando estos peligros.Windows Forum

Incluso sin mala intención, la naturaleza de la IA de "intentar responder lo que se le pregunta" puede generar información incorrecta o consejos peligrosos.

② Falta de contexto

El Washington Post advierte que "los chatbots no pueden acceder al historial médico completo ni al contexto social de cada paciente, lo que puede llevar a pasar por alto contextos importantes".The Washington Post

Por ejemplo, el diagnóstico de un dolor abdominal puede variar significativamente dependiendo de

• antecedentes quirúrgicos recientes

• medicamentos anticoagulantes

• posibilidad de embarazo

Es poco realista escribir todo este contexto complejo en un chat, y a menudo los pacientes no comprenden la importancia de esta información.

③ Privacidad y propiedad de los datos

Además, The New Yorker señala el riesgo de privacidad, afirmando que "en el momento en que se ingresan datos médicos en un chatbot, se pierde el control sobre quién posee esa información". Se ha informado de casos donde los registros de chat eran visibles en motores de búsqueda.The New Yorker

La OMS también ha declarado que, aunque la IA puede ahorrar tiempo a los profesionales de la salud, es esencial un diseño y gobernanza que protejan los datos personales y consideren los sesgos y la equidad.cens.cl

5. Guía práctica para un "uso inteligente"

Entonces, ¿cómo deberíamos interactuar con los chatbots de IA? La institución médica UW Medicine de la Universidad de Washington ofrece consejos sobre cómo usar ChatGPT para consultas de salud, destacando los siguientes puntos.Right as Rain by UW Medicine

Aquí se organiza una guía práctica para el uso diario, teniendo en cuenta estos consejos.

Situaciones adecuadas para chatbots de IA

1. Preparación y formulación de preguntas antes de la consulta

   • Describe los síntomas que te preocupan y pide "una lista de preguntas para hacerle al médico".

   • Esto ayuda a reducir las omisiones durante el corto tiempo de consulta.

2. Comprensión básica de resultados de pruebas y diagnósticos

   • Basándote en la explicación del médico, pide "una explicación más sencilla" o "algo que un niño de 10 años pueda entender".

   • Úsalo como un "intérprete médico" que traduce términos complejos de manera comprensible.

3. Generación de ideas para mejorar hábitos de vida

   ##HTML_TAG_