La inteligencia artificial (IA) aplicada a la imagen médica no solo analiza resonancias magnéticas (MRI) del cerebro para estimar la probabilidad de enfermedad: también puede resaltar con colores las zonas cerebrales que han influido en su decisión. Al mostrar el fundamento junto con la conclusión, el sistema parece más fiable.
Pero esa «explicación» debe someterse a una comprobación aparte: hay que confirmar si el fundamento que marca la IA es estable. Si, al reentrenar una IA con la misma arquitectura, el sistema señala regiones cerebrales completamente distintas, la explicación inicial podría ser el resultado fortuito de un proceso de aprendizaje concreto.
El equipo del profesor Christian Wallraven, del Departamento de Inteligencia Artificial de la Universidad de Corea, comparó varios indicadores para evaluar las explicaciones de la IA médica junto con los equipos de los profesores Yoo Sung-hye, Kim Bo-gyu y Park A-rim, del Servicio de Radiología del Hospital Anam de la Universidad de Corea, según informó el día 24. El análisis concluye que la «robustez» (Robustness), que mide hasta qué punto la explicación se mantiene coherente incluso tras entrenamientos repetidos, es la que coincide de forma más estable con la evidencia clínica.
No es lo mismo una explicación verosímil que una explicación fiable
La IA basada en aprendizaje profundo (deep learning) genera resultados tras innumerables etapas de cálculo. En la práctica, a las personas les resulta difícil seguir y comprender ese proceso paso a paso. Por eso, incluso cuando la IA señala un hallazgo anómalo, al personal sanitario le cuesta identificar con claridad por qué ha tomado esa decisión. Como se asemeja a una caja cuyo interior no puede verse desde fuera, a esto se le llama el problema de la «caja negra».
La tecnología desarrollada para compensarlo es la inteligencia artificial explicable (XAI). Permite al personal sanitario comprobar visualmente el fundamento de la decisión al mostrar, a modo de mapa, las áreas cerebrales que la IA consideró importantes.
El problema es que no existe un criterio común claro para decidir qué explicaciones generadas de este modo merecen confianza. Se han propuesto métricas para evaluar hasta qué punto la explicación refleja fielmente el proceso real de decisión de la IA, o cuán simple y fácil de entender es, pero sigue sin verificarse lo suficiente si señalan correctamente las zonas clínicamente relevantes.
La robustez, en la que se fijó el equipo, es un indicador que mide hasta qué punto se mantienen similares las zonas que la IA marca como importantes cuando se entrena varias veces una IA con la misma arquitectura, cambiando solo el punto de inicio del aprendizaje. Cuanto más alta es la puntuación, más indica que no se trata de un resultado casual de un único proceso de entrenamiento, sino de una explicación estable que reaparece de forma repetida incluso al reentrenar.
El equipo utilizó unas 40.000 MRI cerebrales del UK Biobank y de la Alzheimer’s Disease Neuroimaging Initiative (ADNI). Combinó 9 tipos de modelos distintos de aprendizaje profundo y 8 tipos de técnicas de explicación, y realizó más de 10.000 simulaciones.
A continuación, contrastó si cada indicador de evaluación tenía relevancia clínica frente a tres criterios. Dividió las imágenes de MRI en pequeñas celdas en unidades llamadas «vóxeles» y, tras analizar las diferencias de forma del tejido cerebral, comparó por separado la relación entre el volumen por regiones cerebrales y la enfermedad, y el criterio de especialistas en radiología.
¿Basta con que la precisión sea alta?
Según el análisis, los indicadores existentes —como la «fidelidad», que evalúa hasta qué punto refleja correctamente el proceso de decisión de la IA, o la «complejidad», que valora cuán simple es la explicación— mostraron una baja correlación con la evidencia clínica. Incluso con la misma técnica de explicación, la puntuación variaba mucho cuando cambiaba la arquitectura del modelo de IA.
En cambio, la robustez coincidió de forma relativamente consistente con el criterio de especialistas en radiología, según los resultados del análisis de la forma cerebral y del volumen por regiones. Los resultados de la evaluación no fluctuaron de forma marcada aunque cambiara la arquitectura del modelo de IA, y la eficiencia computacional también fue buena.
El profesor Wallraven afirmó: «Este estudio es significativo porque conecta de manera sistemática los criterios para evaluar hasta qué punto son fiables las explicaciones de la IA médica con la evidencia clínica».
La profesora Yoo Sung-hye señaló: «Para que la IA médica se utilice en la práctica clínica real, no basta con un alto rendimiento diagnóstico; también hay que confirmar si el fundamento de la decisión que presenta la IA es clínicamente válido y coherente».
No obstante, este estudio se centró en la MRI cerebral estructural y en dos tareas de análisis. Se requiere una verificación adicional para determinar si la robustez muestra el mismo nivel de validez en otras imágenes médicas, como la tomografía computarizada (CT), las radiografías y las imágenes patológicas.
La Ley de Inteligencia Artificial de la Unión Europea clasifica como sistemas de alto riesgo algunas IA utilizadas en dispositivos médicos y exige transparencia, precisión y robustez, entre otros aspectos. Este estudio muestra que, al evaluar una IA médica, además de la precisión diagnóstica, hay que examinar si la explicación que ofrece la IA se mantiene coherente incluso tras entrenamientos repetidos.
Los resultados se publicaron en la edición en línea del 16 de junio de la revista internacional 《Medical Image Analysis》.
