La inteligencia artificial está avanzando a gran velocidad, pero uno de sus principales retos sigue siendo entender cómo llega a determinadas conclusiones. Jorge R. López Benito, socio director de Qublian y experto en Inteligencia Artificial, ha invitado al espacio "Ponte al día con la IA" de Onda Vasca a la investigadora Amaia Pikatza, recientemente doctorada por la Universidad de Deusto con la tesis Human-Centred Machine Learning for Health and Cognitive Modelling, defiende el desarrollo de una IA explicable y centrada en las personas. Su investigación demuestra que es posible desarrollar modelos predictivos de alto rendimiento que, además, permitan comprender las razones que hay detrás de sus predicciones.

Su trabajo se ha aplicado a cuatro ámbitos: la insuficiencia cardiaca, la multimorbilidad, los trastornos de la conducta alimentaria y el estudio de la creatividad humana. En el caso de la salud, Pikatza destaca la importancia de que médicos y profesionales puedan conocer qué factores han llevado al algoritmo a realizar una determinada predicción. La investigadora subraya que estos sistemas deben utilizarse como herramientas de apoyo para mejorar la toma de decisiones y no como sustitutos del criterio de los profesionales.