Revisando la inteligencia artificial explicable (XAI) y su importancia en la administración tributaria

Por Antonio Seco, Blog del CIAT, 18 octubre de  2023 

Hace dos años, publicamos un post en este blog del CIAT destacando la creciente importancia de la XAI para el desarrollo de aplicaciones de Inteligencia Artificial (IA) en algunas áreas de la sociedad, especialmente en las administraciones tributarias [Seco, 2021]. La propuesta de este post es actualizar en la generalidad lo sucedido en algunos temas relacionados a la XAI y proveer referencias para estudios de mayor profundidad por parte de los interesados.

La IA explicable o XAI trata del desarrollo de técnicas / modelos que hacen comprensible el funcionamiento de un sistema de IA para una determinada audiencia.

Normalmente, los modelos de “caja negra” (black box), como las redes neuronales, el modelado difuso (fuzzy logic) y el aumento de gradiente (gradient boosting) proporcionan flexibilidad y una mayor precisión predicti

Introducción

va al tiempo que sacrifican la interpretabilidad. Los modelos de “caja blanca” (white box) tienen métodos más simples, como regresión lineal y árboles de decisión; sin embargo, suelen tener un poder predictivo más débil [Loyola-González, 2019]. Adicionalmente, Myrianthous (2023) indica que modelos más flexibles no garantizan mejores resultados, eso en función del fenómeno llamado overfitting: cuando, por acompañaren demasiadamente de cerca los ruidos y los errores de datos de entrenamiento, ya no logran generalizar apropiadamente puntos de datos nuevos, desapercebidos.

Leer nota Aquí