The Ethical Algorithm
Cómo diseñar algoritmos que sean privados, justos y responsables por construcción, no como ocurrencia tardía.
ÁreaÉtica y Sociedad de los Datos
TemaÉtica de Datos
NivelIntermedio
Publicación2019
Autor(es): Michael Kearns, Aaron Roth
¿Qué puedes lograr leyendo este libro?
- Entender las definiciones matemáticas formales de equidad algorítmica y sus trade-offs
- Aplicar técnicas concretas de privacidad diferencial y mitigación de sesgo en un modelo
- Reconocer por qué ciertas nociones de 'justicia' son matemáticamente incompatibles entre sí
Descripción
A diferencia de Weapons of Math Destruction, escrito para audiencia general, este libro (escrito por dos científicos de la computación) traduce las preocupaciones éticas sobre algoritmos en definiciones matemáticas precisas y técnicas concretas: privacidad diferencial, equidad algorítmica y sus trade-offs formales.
Para quién es ideal
- Data scientists técnicos que quieren implementar soluciones concretas de fairness
- Quien ya leyó Weapons of Math Destruction y quiere la contraparte técnica
- Investigadores en machine learning responsable o privacidad algorítmica
- Complemento técnico a las discusiones más generales de ética de IA
Contenido destacado
- Definiciones formales de equidad algorítmica y sus incompatibilidades matemáticas
- Privacidad diferencial: cómo proteger datos individuales estadísticamente
- Algoritmos robustos a la manipulación estratégica
- El problema de la retroalimentación en sistemas algorítmicos
- Hacia un diseño algorítmico éticamente consciente desde el inicio
Ventajas y limitaciones
Ventajas
- Traduce preocupaciones éticas abstractas en definiciones matemáticas concretas y accionables
- Escrito por investigadores activos en el campo, con rigor técnico real
- Cubre privacidad diferencial con más profundidad que la mayoría de libros de ética de IA
Limitaciones
- Requiere cierta comodidad con notación matemática, menos accesible que O'Neil
- Puede sentirse denso para quien busca una introducción puramente conceptual