En el glosario de la inteligencia artificial surgen constantemente nuevas palabras, conceptos y expresiones. Conocer los principales términos de IA en medicina es fundamental para seguir las novedades y participar en los debates sobre herramientas que están transformando la práctica médica.

¿Agente de IA? ¿AI washing? ¿Reasoning model? El blog de Voa presenta seis conceptos que los médicos deben conocer para comprender los avances, las oportunidades y los retos de la IA en medicina.

En este artículo aprenderás

• Qué son los agentes de IA y cómo pueden ejecutar tareas de forma relativamente autónoma en el ámbito sanitario.

• Qué es RAG (Retrieval-Augmented Generation) y por qué esta técnica ayuda a que los sistemas de IA sean más fiables y estén alineados con la evidencia científica.

• Qué significa Human-in-the-Loop y por qué la supervisión humana sigue siendo indispensable en medicina.

• Qué es AI Washing y cómo identificar soluciones que utilizan la inteligencia artificial más como argumento de marketing que como una ventaja real.

• Qué son los Reasoning Models, modelos capaces de realizar etapas intermedias de análisis antes de generar respuestas.

• Qué es Deskilling y cómo evitar que el uso excesivo de la tecnología perjudique habilidades fundamentales del razonamiento clínico.

Agente de IA

La lógica de las herramientas de inteligencia artificial solía ser bastante sencilla: el usuario hacía una pregunta y la IA respondía. Los agentes de IA amplían esa lógica. Estos sistemas son capaces no solo de responder a solicitudes, sino también de ejecutar tareas de forma relativamente autónoma para alcanzar objetivos definidos. Según los permisos y los límites establecidos, el agente puede buscar información, analizar documentos, completar formularios, organizar flujos de trabajo e incluso tomar decisiones operativas.

En sanidad, los agentes de IA se utilizan en herramientas capaces de navegar por distintos sistemas, recuperar información clínica relevante, organizar documentos, sugerir derivaciones administrativas y ayudar en la gestión de procesos asistenciales, entre otras aplicaciones que mejoran el recorrido del paciente. Los expertos subrayan que la autonomía de estos sistemas debe delimitarse cuidadosamente en entornos clínicos. Cuanto mayor sea el posible impacto sobre los pacientes, mayor debe ser el grado de supervisión humana.

RAG (Retrieval-Augmented Generation)

Una de las mayores preocupaciones en torno a los modelos de lenguaje es la generación de respuestas incorrectas, desactualizadas o sin un respaldo científico adecuado. Para abordar este problema surgió el concepto de RAG, siglas de Retrieval-Augmented Generation, que puede traducirse como generación aumentada por recuperación. En lugar de responder únicamente a partir del conocimiento adquirido durante su entrenamiento, un sistema con RAG consulta documentos, bases de datos y bibliotecas de conocimiento para formular la respuesta.

Al recuperar referencias relevantes antes de responder, la IA puede reducir el riesgo de ofrecer respuestas desactualizadas y mejorar su adecuación a protocolos, guías clínicas y evidencias recientes. En medicina, RAG se está convirtiendo en una estrategia fundamental para que los sistemas de IA sean más fiables y estén alineados con la práctica basada en la evidencia. Aun así, la fiabilidad depende de la calidad de las fuentes, de cómo se recuperan los documentos y de la revisión del profesional sanitario.

Es el caso de Charcot, el asistente de Voa de apoyo al razonamiento clínico. La herramienta consulta una base amplia y cuidadosamente seleccionada de publicaciones científicas, protocolos y guías para apoyar la reflexión clínica durante la consulta. Además, el médico puede crear una base personalizada, incorporando documentos propios, consensos institucionales y protocolos de su servicio para que las respuestas se ajusten aún más a su contexto asistencial.

Human-in-the-Loop

HITL es un enfoque importante para el uso responsable de la inteligencia artificial en medicina. Con esta metodología, las decisiones o recomendaciones generadas por la IA siguen bajo supervisión humana. El sistema puede analizar datos, sugerir hipótesis diagnósticas, identificar patrones y generar recomendaciones, pero las decisiones finales son responsabilidad de un profesional.

La mirada humana es indispensable en el contexto clínico por una razón sencilla: incluso los modelos más avanzados pueden cometer errores, interpretar la información de forma inadecuada o presentar sesgos que generen riesgos, especialmente en decisiones clínicas de gran impacto. Por eso, el papel del médico no desaparece con la IA. Al contrario. En muchos escenarios, la intervención del profesional cobra aún más importancia.

AI Washing

La inteligencia artificial se ha convertido en una de las tecnologías más valoradas del mercado. Un efecto secundario de este avance es un fenómeno conocido como AI Washing. El término, inspirado en conceptos como greenwashing, en el que las empresas exageran o simulan credenciales medioambientales, describe la práctica de presentar productos, servicios o empresas como soluciones basadas en IA cuando esta tecnología tiene un papel inexistente, limitado o irrelevante en el funcionamiento que se ofrece.

En algunos casos, funciones automatizadas sencillas se promocionan como IA avanzada. En otros, la tecnología existe técnicamente, pero tiene poca influencia real en el funcionamiento del producto. En el ámbito sanitario, el AI Washing puede generar expectativas poco realistas entre gestores, médicos y pacientes, al presentar historias clínicas electrónicas, plataformas administrativas y sistemas clínicos como soluciones basadas en IA sin evidencias claras de beneficios concretos.

Al evaluar una solución de IA en salud, conviene plantearse algunas preguntas: ¿Qué problema clínico resuelve? ¿Cómo funciona la tecnología? ¿Existe validación científica? ¿Hay estudios publicados? ¿La mejora se puede demostrar en la práctica? Más importante que afirmar que se utiliza IA es demostrar un valor real para médicos y pacientes.

Reasoning Model

No todos los modelos de IA procesan una solicitud de la misma forma. Los llamados reasoning models, o modelos de razonamiento, son sistemas diseñados para realizar etapas intermedias de análisis antes de generar una respuesta. En lugar de producir una conclusión inmediata, evalúan información intermedia, consideran alternativas y organizan una secuencia lógica de razonamiento.

Este enfoque ha mostrado un rendimiento superior en determinadas tareas complejas que requieren varias etapas de análisis, como la resolución de problemas, la interpretación de información ambigua y el análisis de escenarios. En medicina, esto es especialmente relevante porque muchos retos no dependen solo de recuperar información, sino de integrar síntomas, factores de riesgo, pruebas, diagnósticos diferenciales y el contexto del paciente.

Charcot utiliza esta lógica para apoyar el razonamiento clínico del médico. La herramienta no solo presenta respuestas, sino que también explicita el razonamiento utilizado para llegar a las hipótesis y sugerencias, lo que permite al profesional seguir el proceso analítico y ejercer un juicio crítico sobre las conclusiones presentadas. Por eso, los modelos de razonamiento se consideran una de las evoluciones más relevantes de la IA aplicada a la salud y al apoyo a la decisión clínica.

Deskilling

Uno de los debates más importantes sobre inteligencia artificial en medicina no se centra únicamente en lo que la tecnología puede hacer, sino también en el impacto que puede tener sobre las habilidades humanas a lo largo del tiempo. Deskilling es la pérdida gradual de competencias profesionales por una dependencia excesiva de tecnologías que pasan a ejecutar determinadas tareas.

En medicina, existe la preocupación de que este fenómeno, ya estudiado y documentado, afecte a la capacidad de razonamiento clínico, la formulación de diagnósticos diferenciales, la interpretación de pruebas, la evaluación crítica de la evidencia y la toma de decisiones clínicas. Esto no significa que deba evitarse la IA, sino que debe utilizarse como herramienta de apoyo y no como sustituta del pensamiento clínico.

Lee también:
La IA, sin complicaciones: 6 términos que todo profesional sanitario debe conocer
IA en salud: lo que los médicos deben saber sobre adulación, slop y GEO

Cómo evitar el deskilling en la práctica médica

1. Formula tu hipótesis antes de consultar a la IA

Antes de recurrir al apoyo de la tecnología, intenta construir tu propio razonamiento clínico. Después, compara tu análisis con la respuesta generada.

2. Cuestiona las sugerencias presentadas

En lugar de aceptar automáticamente una recomendación, analiza si tiene sentido para ese paciente concreto y qué evidencias la respaldan.

3. Sigue estudiando y repasando los fundamentos clínicos

La IA puede acelerar el acceso a la información, pero no sustituye al conocimiento médico. Cuanto mayor sea la base de conocimiento del profesional, mejor será su capacidad para evaluar de forma crítica las respuestas producidas por la tecnología.

4. Utiliza la propia IA para entrenar tu razonamiento

La IA también puede utilizarse como herramienta de estudio y simulación. En lugar de pedir una respuesta cerrada, pídele que presente casos clínicos progresivos, cuestione tus hipótesis, sugiera diagnósticos diferenciales que quizá no hayas considerado o indique qué información falta para reforzar una hipótesis. Así, la tecnología funciona como apoyo al razonamiento y no solo como un atajo hacia la respuesta.

La inteligencia artificial ya forma parte de los debates sobre eficiencia, seguridad y calidad en la salud. Para los médicos, comprender términos como RAG, Human-in-the-Loop, AI Washing, Reasoning Models y Deskilling ayuda a evaluar mejor las herramientas, plantear preguntas más precisas y utilizar la tecnología con sentido crítico.