Interpretabilidad y Explicabilidad (XAI)

Entender por qué un modelo tomó una decisión específica, no solo qué tan preciso es en promedio.

ÁreaÉtica, Interpretabilidad y Gobernanza
DificultadIntermedio
Tiempo de aprendizaje3-4 semanas

¿Qué puedes lograr dominando este tema?

  • Explicar la predicción individual de un modelo complejo (caja negra) a un stakeholder no técnico
  • Identificar qué variables más influyeron en una decisión específica del modelo
  • Cumplir con requisitos regulatorios que exigen explicabilidad (crédito, seguros)

Descripción

A medida que los modelos se vuelven más precisos también suelen volverse menos transparentes. Técnicas como SHAP y LIME permiten explicar predicciones individuales de modelos complejos (caja negra), identificando qué variables influyeron más en cada decisión específica, sin sacrificar la precisión del modelo original.

Casos de uso

  • Explicación de decisiones de crédito o seguros a clientes y reguladores
  • Depuración de modelos que se comportan de forma inesperada
  • Generación de confianza en modelos de ML frente a stakeholders de negocio
  • Auditoría de sesgos en decisiones automatizadas

Ejemplo práctico

Ejemplo prácticopython
import shap

explainer = shap.TreeExplainer(modelo)
valores_shap = explainer.shap_values(X_test)
shap.summary_plot(valores_shap, X_test)

Ventajas y limitaciones

Ventajas

  • Permite confiar y depurar modelos complejos sin sacrificar precisión
  • Cada vez más exigido por regulación en sectores de alto impacto
  • Ayuda a detectar que un modelo aprendió el patrón equivocado

Limitaciones

  • Las explicaciones de SHAP/LIME son aproximaciones, no la verdad absoluta del modelo
  • Puede añadir sobrecarga computacional no trivial en modelos grandes

Herramientas relacionadas

Librerías y plataformas más comunes para practicar este tema.

  • SHAP
  • LIME
  • InterpretML

Temas relacionados