Interpretabilidad y Explicabilidad (XAI)
Entender por qué un modelo tomó una decisión específica, no solo qué tan preciso es en promedio.
ÁreaÉtica, Interpretabilidad y Gobernanza
DificultadIntermedio
Tiempo de aprendizaje3-4 semanas
¿Qué puedes lograr dominando este tema?
- Explicar la predicción individual de un modelo complejo (caja negra) a un stakeholder no técnico
- Identificar qué variables más influyeron en una decisión específica del modelo
- Cumplir con requisitos regulatorios que exigen explicabilidad (crédito, seguros)
Descripción
A medida que los modelos se vuelven más precisos también suelen volverse menos transparentes. Técnicas como SHAP y LIME permiten explicar predicciones individuales de modelos complejos (caja negra), identificando qué variables influyeron más en cada decisión específica, sin sacrificar la precisión del modelo original.
Casos de uso
- Explicación de decisiones de crédito o seguros a clientes y reguladores
- Depuración de modelos que se comportan de forma inesperada
- Generación de confianza en modelos de ML frente a stakeholders de negocio
- Auditoría de sesgos en decisiones automatizadas
Ejemplo práctico
import shap
explainer = shap.TreeExplainer(modelo)
valores_shap = explainer.shap_values(X_test)
shap.summary_plot(valores_shap, X_test)Ventajas y limitaciones
Ventajas
- Permite confiar y depurar modelos complejos sin sacrificar precisión
- Cada vez más exigido por regulación en sectores de alto impacto
- Ayuda a detectar que un modelo aprendió el patrón equivocado
Limitaciones
- Las explicaciones de SHAP/LIME son aproximaciones, no la verdad absoluta del modelo
- Puede añadir sobrecarga computacional no trivial en modelos grandes
Herramientas relacionadas
Librerías y plataformas más comunes para practicar este tema.
- SHAP
- LIME
- InterpretML