Sesgo y Equidad (Fairness) en Modelos de ML

Detectar y corregir cuando un modelo trata sistemáticamente peor a ciertos grupos de personas.

ÁreaÉtica, Interpretabilidad y Gobernanza
DificultadAvanzado
Tiempo de aprendizaje4-6 semanas

¿Qué puedes lograr dominando este tema?

  • Medir cuantitativamente si un modelo discrimina entre grupos demográficos
  • Elegir entre distintas definiciones de equidad según el contexto
  • Aplicar técnicas de mitigación de sesgo en distintas etapas del pipeline de ML

Descripción

Un modelo entrenado con datos históricos puede aprender y amplificar sesgos sociales existentes, tratando sistemáticamente peor a ciertos grupos. Evaluar la equidad requiere métricas específicas (paridad demográfica, igualdad de oportunidades) y técnicas de mitigación en el preprocesamiento, entrenamiento o post-procesamiento del modelo.

Casos de uso

  • Auditoría de modelos de contratación o scoring crediticio
  • Evaluación de sistemas de justicia predictiva o asignación de recursos
  • Cumplimiento de regulaciones de no discriminación algorítmica
  • Construcción de modelos más robustos y confiables a largo plazo

Ejemplo práctico

Ejemplo prácticopython
from fairlearn.metrics import demographic_parity_difference

diferencia = demographic_parity_difference(
    y_true, y_pred, sensitive_features=df["genero"]
)
print(f"Diferencia de paridad demográfica: {diferencia:.3f}")

Ventajas y limitaciones

Ventajas

  • Previene daños reales a personas y riesgos reputacionales/legales serios
  • Cada vez más exigido por regulación en distintas regiones del mundo
  • Suele mejorar la robustez general del modelo, no solo su equidad

Limitaciones

  • Las distintas métricas de equidad pueden ser matemáticamente incompatibles entre sí
  • Corregir sesgo a veces implica un trade-off explícito con la precisión general

Herramientas relacionadas

Librerías y plataformas más comunes para practicar este tema.

  • Fairlearn
  • AI Fairness 360
  • SHAP

Temas relacionados