El Instituto Tecnológico de Aragón (ITA) ha participado en la cuarta edición del World Conference on eXplainable Artificial Intelligence (xAI 2026), celebrada en Fortaleza (Brasil), uno de los principales encuentros internacionales dedicados a la investigación en inteligencia artificial explicable.

Nuestro compañero Pablo Pérez Lázaro, del equipo de Big Data y Sistemas Cognitivos, presentó el trabajo científico «Delayed Convergence and Emergent CoT Reliance in RL-Tuned Language Models», una investigación centrada en la explicabilidad de los grandes modelos de lenguaje (LLM) con capacidades avanzadas de razonamiento.

Hacia una inteligencia artificial más transparente

La inteligencia artificial explicable, conocida como XAI (eXplainable Artificial Intelligence), tiene como objetivo que los sistemas de IA no solo ofrezcan resultados precisos, sino que también sean capaces de explicar cómo han llegado a sus conclusiones. Esta capacidad resulta esencial para generar confianza, facilitar la supervisión humana y garantizar un uso responsable de la inteligencia artificial, especialmente en ámbitos de gran impacto como la sanidad, la industria, la educación, la justicia o la administración pública.

En este contexto, el Congreso Mundial de XAI se ha consolidado como un foro internacional de referencia para compartir los últimos avances en transparencia, interpretabilidad y gobernanza de la inteligencia artificial. Durante varias jornadas, investigadores de todo el mundo debatieron sobre cuestiones como la interpretabilidad de los grandes modelos de lenguaje, los métodos neuro-simbólicos, las explicaciones basadas en reglas o los modelos contrafácticos, además de analizar los retos éticos y regulatorios asociados al despliegue de estas tecnologías.

Una investigación sobre el razonamiento de los grandes modelos de lenguaje

La investigación presentada por el ITA analiza el comportamiento de los modelos de lenguaje entrenados mediante aprendizaje por refuerzo y estudia cómo evolucionan sus capacidades de razonamiento, así como el grado en que dependen de procesos internos similares a una cadena de razonamiento (Chain of Thought). Comprender estos mecanismos resulta clave para desarrollar modelos más fiables, interpretables y seguros, favoreciendo su aplicación en entornos donde la transparencia es un requisito imprescindible.

Investigación con respaldo nacional y europeo

Este trabajo ha sido desarrollado con el apoyo del proyecto MAGELLAN (CPP2022-009790), financiado por el Ministerio de Ciencia, Innovación y Universidades a través del Programa de Colaboración Público-Privada 2022, y del grupo de investigación IODIDE (T17_23R), financiado por el Gobierno de Aragón. Asimismo, ha contado con financiación del Departamento de Big Data y Sistemas Cognitivos del ITA en el marco de Retech Tourism – Spain Living Lab, integrado en el Plan de Recuperación, Transformación y Resiliencia – NextGenerationEU, además del soporte de los recursos de computación de altas prestaciones y el apoyo técnico del Instituto Tecnológico de Aragón.

La participación en este congreso internacional pone de manifiesto el compromiso del ITA con la investigación de excelencia en inteligencia artificial y con el desarrollo de soluciones tecnológicas cada vez más transparentes, seguras y confiables, contribuyendo a acelerar la transferencia de conocimiento hacia las empresas y la sociedad.