Inteligencia artificial en medicina: una respuesta convincente también necesita revisión
Una explicación puede estar perfectamente redactada y seguir siendo incorrecta.
Puede incluir términos médicos, mecanismos fisiológicos y referencias científicas. Puede sonar clara, ordenada y segura. Y aun así, partir de una suposición equivocada.
Esto ya ocurría antes de la inteligencia artificial. Lo que ha cambiado es la facilidad con la que podemos producir explicaciones convincentes en pocos segundos.
Para quienes trabajamos en salud, esa posibilidad resulta extraordinaria. Podemos utilizar estas herramientas para estudiar, organizar información, explorar alternativas y preparar explicaciones más comprensibles. Pero también aparece una pregunta: ¿estamos utilizándolas para examinar nuestras ideas o para darles una apariencia más sólida?
La calidad de la redacción y la calidad del razonamiento son cosas diferentes. Comprender esa diferencia importa tanto al preparar un artículo como al interpretar una respuesta sobre salud.
La pregunta puede orientar demasiado la respuesta
Imaginemos que alguien escribe: «Explícame por qué mi cansancio se debe al cortisol».
La petición ya contiene una conclusión. No pregunta qué podría explicar el cansancio, sino que solicita desarrollar una causa concreta. Una respuesta extensa sobre estrés y hormonas puede parecer útil mientras deja pendiente lo principal: ¿tenemos motivos para atribuir ese síntoma al cortisol?
La misma dificultad aparece en medicina cuando nos aferramos demasiado pronto a una hipótesis. Empezamos a seleccionar los datos que encajan y prestamos menos atención a los que podrían cuestionarla. Una herramienta capaz de elaborar argumentos puede ayudarnos a revisar ese proceso, pero no garantiza que lo haga en cada conversación.
Por eso puede resultar más útil formular otra petición: «¿Qué explicaciones debemos considerar, qué datos faltan y qué hallazgos harían menos probable mi primera hipótesis?».
Cambiar la pregunta amplía el espacio para razonar. Aun así, la respuesta necesita comprobación. Pedir alternativas no asegura que sean correctas, relevantes o completas.
La Organización Mundial de la Salud ha advertido sobre el riesgo de sesgo de automatización: aceptar demasiado fácilmente una propuesta del sistema puede llevar a pasar por alto errores que, de otra manera, habríamos detectado.
Estar de acuerdo con una respuesta no demuestra que esté bien fundamentada. A veces solo significa que coincide con lo que esperábamos leer.
Una herramienta capaz no garantiza una mejor decisión
Un ensayo publicado en JAMA Network Open en 2024 estudió esta cuestión con 50 médicos. Comparó su razonamiento diagnóstico ante casos escritos cuando disponían de recursos convencionales o de esos recursos junto con un modelo de lenguaje.
En las condiciones del estudio, disponer del modelo no produjo una mejora estadísticamente significativa en la puntuación de razonamiento diagnóstico. En una evaluación adicional, el modelo utilizado por separado obtuvo mejores resultados que ambos grupos de médicos.
El hallazgo invita a pensar en cómo colaboramos con estas herramientas. Su capacidad para resolver una tarea no se traduce automáticamente en una mejora cuando se incorpora al trabajo de una persona.
También hay que respetar los límites del estudio: utilizó un modelo concreto, casos escritos y una forma determinada de evaluar las respuestas. No midió resultados en pacientes ni permite concluir cómo funcionan todas las herramientas actuales.
Aun así, deja una enseñanza práctica: incorporar tecnología exige algo más que tener acceso a ella. Importan la tarea, la información disponible, la formación y la manera de revisar el resultado.
En una consulta, además, los datos no aparecen siempre ordenados en un texto. Hay que preguntar, explorar, aclarar contradicciones y decidir qué información resulta relevante. Si falta un dato importante o se introduce de forma incorrecta, una respuesta bien construida puede desarrollarse sobre una base incompleta.
Esto tampoco convierte al juicio humano en infalible. Los profesionales podemos equivocarnos, y una herramienta puede señalar algo que habíamos pasado por alto. Precisamente por eso, la relación más útil necesita permitir la revisión en ambas direcciones: examinar la propuesta del sistema y reconsiderar nuestra propia interpretación.
Utilizarla para comprender mejor
En divulgación médica, una aplicación valiosa consiste en pedir ayuda para hacer más clara una explicación. Podemos revisar si hemos mezclado una asociación con una causa, si una metáfora se está presentando como un mecanismo literal o si una recomendación parece universal cuando depende del contexto.
Después hay que volver a las fuentes. Una referencia incluida en una respuesta necesita existir, corresponder al trabajo citado y respaldar la afirmación concreta. Incluso una publicación real puede haberse interpretado de forma incorrecta.
Imaginemos que un experimento encuentra un cambio en células de laboratorio. La conclusión no debería transformarse, sin más, en que una intervención mejora una enfermedad en personas. Entre el mecanismo y el beneficio clínico hay preguntas sobre dosis, seguridad, población y resultados que siguen necesitando respuesta.
Para quien consulta información sobre su propia salud, estas herramientas pueden ayudar a entender términos, ordenar dudas o preparar una conversación con un profesional. Su utilidad disminuye si una explicación se toma como diagnóstico sin valorar lo que falta o si se modifica un tratamiento únicamente porque la respuesta parece convincente.
La información clínica también merece cuidado. Utilizar una herramienta requiere conocer si es adecuada para esa finalidad y qué ocurre con los datos introducidos. La facilidad de copiar un informe no elimina la necesidad de protegerlo.
En Medicina con Coherencia, el interés por la inteligencia artificial encaja con una idea más amplia: aprender a utilizar cada herramienta con criterio. Podemos reconocer su potencial, comprobar sus resultados y cambiar de opinión cuando aparecen datos mejores.
Eso exige conservar preguntas sencillas: ¿de dónde sale esta afirmación?, ¿qué la respalda?, ¿qué incertidumbre queda? Y una especialmente útil cuando la respuesta coincide demasiado bien con nuestra primera impresión: ¿qué podríamos estar pasando por alto?
La inteligencia artificial puede ayudarnos a encontrar información y a formular mejores preguntas. Su valor aumenta cuando incorporamos la verificación al proceso.
Una respuesta merece confianza por cómo se sostiene, no por la seguridad con la que está escrita.
Fuentes para profundizar
Sobre el autor
El Dr. Eduardo Chávez es médico venezolano residente en España y creador de Medicina con Coherencia. Divulga sobre fisiología, medicina clínica y estilo de vida para ayudar a comprender mejor el cuerpo y tomar decisiones de salud con criterio.
La salud no se impone, se comprende.
Este artículo tiene finalidad informativa y educativa. No sustituye una valoración médica individual.
Comentarios
Publicar un comentario