"La IA nunca sustituirá a un médico en una decisión clínica"

La Inteligencia Artificial (IA) es una herramienta indispensable de apoyo al diagnóstico que ahorra tiempo y ayuda a detectar detalles sutiles en pruebas de imagen, pero jamás debe tomar decisiones de forma autónoma cuando hay vidas en juego.

Así lo explica Diego Castillo, doctor en Ingeniería e investigador en Ciencia de Datos biomédicos e IA aplicada en el Instituto de Investigación Biomédica de Málaga y Plataforma en Nanomedicina (IBIMA Plataforma BIONAND), durante su intervención en el Curso de Verano de la Universidad Internacional de Andalucía (UNIA) Fundamentos de Inteligencia Artificial: modelos generativos y aplicaciones avanzadas en salud, visión artificial y lenguaje, que se está celebrando en la Sede Antonio Machado de Baeza (Jaén).

Ante el debate sobre la posibilidad de automatizar diagnósticos en radiografías, TACs o resonancias magnéticas sin intervención humana, Castillo es categórico al remarcar que los algoritmos cometen errores que exigen siempre un filtro profesional: «La respuesta rápida es no; la IA ayuda a visualizar cosas sutiles y ahorra tiempo, pero no se puede dejar el 100% de la decisión de su parte. Nunca sustituirá a un médico en una decisión clínica, siempre se necesita supervisión humana».

Modelos de lenguaje en la práctica clínica diaria
El experto detalla cómo las herramientas generativas más extendidas como ChatGPT, Claude o Gemini están dando el salto de la creación de texto convencional al ámbito asistencial de la cardiología u oncología. «Se utilizan como herramientas de apoyo para la toma de decisiones, aportando un complemento de información tras ser entrenadas. Específicamente, ayudan a interpretar y resumir historias clínicas o analíticas complejas, identificando puntos críticos», explica.

En el marco del proyecto europeo de investigación de excelencia ERC-ORACLE, en el que participa, comenta que la tecnología ya está mostrando un impacto directo en el tratamiento de pacientes convalecientes de un síndrome coronario agudo. Mediante el monitoreo continuo de biomarcadores con sensores (como los niveles de glucosa) y el análisis de variables antropométricas, se logran modelos de escalas de riesgo muy precisos. «Predecimos si puede haber una recaída y ajustamos los tratamientos de forma personalizada gracias a las recomendaciones de la IA, determinando si el perfil del paciente tiene más o menos probabilidades de sufrir un segundo evento cardiovascular», puntualiza.

Andalucía, referente internacional en talento biomédico
Respecto al posicionamiento del ecosistema científico andaluz en la carrera tecnológica, el investigador, que colabora de forma habitual con instituciones de élite como la Universidad de Cambridge o la Universidad de Múnich, pone de relieve el alto nivel regional: «Andalucía está mucho más avanzado de lo que la gente de la calle puede pensar. Tenemos a algunos de los mejores investigadores a nivel mundial y somos una potencia nacional en este campo».
No obstante, matiza que la brecha respecto a los grandes centros internacionales no radica en el capital humano, sino en la financiación: «La diferencia con centros como Cambridge o Múnich no es la calidad de los profesionales, de hecho, allí hay muchos investigadores españoles, sino la inversión, el tamaño de los laboratorios y la potencia de las máquinas necesarias para entrenar estos modelos».

Ética y privacidad
Por otra parte, Castillo quiere enviar un mensaje de tranquilidad a la ciudadanía en relación con el uso y custodia de datos de salud altamente sensibles. A su juicio, el marco legal europeo y español bajo la Ley Orgánica de Protección de Datos garantiza que la información clínica se anonimice rigurosamente. «Podemos estar más tranquilos que en otras partes del mundo, como Estados Unidos o China, porque aquí la regulación está mucho más avanzada y acentuada», asevera.
Para finalizar, sobre la capacitación requerida para no quedar rezagados ante la disrupción tecnológica, el ponente aconseja que, si bien para los programadores el lenguaje Python es la herramienta de referencia para generar código y prompts, cualquier profesional debe adquirir un bagaje mínimo esencial: «Pido una base matemática y estadística básica a todos los profesionales, porque la estadística es el 'globo' que engloba verdaderamente a la inteligencia artificial y a las redes neuronales», concluye.