La UJA investiga una IA confiable en el ámbito biosanitario
"La incorporación de la IA en actividades humanas críticas hace imperativa la integración de valores éticos"
Foto: UJA
Imagen del Grupo SINAI de la Universidad de Jaén
El grupo de investigación SINAI (Sistemas Inteligentes de Acceso a la Información) de la Universidad de Jaén (UJA), miembro destacado del Centro de Estudios Avanzados en Tecnologías de la Información y la Comunicación (CEATIC), formará parte del consorcio que desarrollará la próxima generación de modelos de lenguaje aplicados a la salud. Su proyecto, denominado VERITAS-H (Verificar y Garantizar la Confianza en los LLM en el ámbito Biosanitario), ha sido seleccionado en la convocatoria de Proyectos en el Ámbito de la Inteligencia Artificial 2025 del Gobierno de España, siendo el único proyecto de la Universidad de Jaén en conseguir financiación en este competitivo programa.
El proyecto VERITAS-H, liderado por L. Alfonso Ureña y Eugenio Martínez, se encuadra dentro de la iniciativa coordinada ‘HumanAlze’, que busca incorporar valores humanos a la inteligencia artificial. Para lograr este ambicioso objetivo, el grupo SINAI trabajará en consorcio con instituciones de primer nivel científico: la Universidad de Santiago de Compostela, la Universidad del País Vasco (UPV/EHU), la Universidad de Alicante (UA), la Universidad Nacional de Educación a Distancia (UNED) y el Barcelona Supercomputing Center (BSC).
La incorporación de la IA en actividades humanas críticas hace imperativa la integración de valores éticos. En este sentido, las líneas de trabajo fundamentales de VERITAS-H lideradas desde la UJA se centrarán en la gobernanza de los datos, un aspecto crucial para asegurar que los modelos de lenguaje no induzcan a comportamientos ilícitos ni vulneren la privacidad de las personas, especialmente al tratar datos sensibles de pacientes. Asimismo, uno de los objetivos primordiales es la salvaguarda de la robustez; es decir, asegurar que la IA genere información factual y verídica, evitando errores que en el ámbito sanitario podrían tener consecuencias graves.
El sector médico destaca por su elevada exigencia, requiriendo servicios de IA que sean interpretables y confiables tanto para los profesionales sanitarios como para los pacientes. Por ello, VERITAS-H tiene la encomienda específica de adaptar y evaluar modelos de lenguaje para tareas propias del dominio biomédico.
Con este proyecto, la Universidad de Jaén se posiciona a la vanguardia de la investigación en Inteligencia Artificial Confiable, contribuyendo no solo al avance científico, sino al impacto social y económico de tecnologías que respetan los derechos y la privacidad de los ciudadanos.