Sesgo y Equidad (Fairness) en Modelos de ML
Detectar y corregir cuando un modelo trata sistemáticamente peor a ciertos grupos de personas.
ÁreaÉtica, Interpretabilidad y Gobernanza
DificultadAvanzado
Tiempo de aprendizaje4-6 semanas
¿Qué puedes lograr dominando este tema?
- Medir cuantitativamente si un modelo discrimina entre grupos demográficos
- Elegir entre distintas definiciones de equidad según el contexto
- Aplicar técnicas de mitigación de sesgo en distintas etapas del pipeline de ML
Descripción
Un modelo entrenado con datos históricos puede aprender y amplificar sesgos sociales existentes, tratando sistemáticamente peor a ciertos grupos. Evaluar la equidad requiere métricas específicas (paridad demográfica, igualdad de oportunidades) y técnicas de mitigación en el preprocesamiento, entrenamiento o post-procesamiento del modelo.
Casos de uso
- Auditoría de modelos de contratación o scoring crediticio
- Evaluación de sistemas de justicia predictiva o asignación de recursos
- Cumplimiento de regulaciones de no discriminación algorítmica
- Construcción de modelos más robustos y confiables a largo plazo
Ejemplo práctico
from fairlearn.metrics import demographic_parity_difference
diferencia = demographic_parity_difference(
y_true, y_pred, sensitive_features=df["genero"]
)
print(f"Diferencia de paridad demográfica: {diferencia:.3f}")Ventajas y limitaciones
Ventajas
- Previene daños reales a personas y riesgos reputacionales/legales serios
- Cada vez más exigido por regulación en distintas regiones del mundo
- Suele mejorar la robustez general del modelo, no solo su equidad
Limitaciones
- Las distintas métricas de equidad pueden ser matemáticamente incompatibles entre sí
- Corregir sesgo a veces implica un trade-off explícito con la precisión general
Herramientas relacionadas
Librerías y plataformas más comunes para practicar este tema.
- Fairlearn
- AI Fairness 360
- SHAP
Temas relacionados
Interpretabilidad y Explicabilidad (XAI)
Ética Y GobernanzaEntender por qué un modelo tomó una decisión específica, no solo qué tan preciso es en promedio.
Privacidad y Anonimización de Datos
Ética Y GobernanzaUsar datos personales para análisis y modelos sin exponer la identidad o información sensible de las personas.