Weapons of Math Destruction
El libro que puso en la conversación pública cómo los algoritmos pueden amplificar la desigualdad.
ÁreaÉtica y Sociedad de los Datos
TemaÉtica de Datos
NivelPrincipiante
Publicación2016
Autor(es): Cathy O'Neil
¿Qué puedes lograr leyendo este libro?
- Reconocer las características que hacen a un modelo potencialmente dañino a escala (opacidad, escala, daño)
- Cuestionar críticamente modelos que usas o construyes desde una perspectiva de impacto social
- Comunicar riesgos éticos de un modelo a audiencias no técnicas con ejemplos concretos
Descripción
O'Neil, matemática con experiencia en finanzas cuantitativas, expone cómo modelos algorítmicos opacos y a gran escala (en crédito, empleo, justicia penal, educación) pueden amplificar sesgos existentes y dañar de forma sistemática a las poblaciones más vulnerables, con ejemplos concretos y accesibles.
Para quién es ideal
- Cualquier data scientist que construya modelos con impacto en decisiones sobre personas
- Primera lectura crítica antes de libros más técnicos sobre fairness algorítmico
- Comunicar riesgos éticos de un proyecto a stakeholders no técnicos
- Desarrollar criterio ético antes de desplegar modelos de alto impacto
Contenido destacado
- Qué hace a un modelo un 'arma de destrucción matemática' (opacidad, escala, daño)
- Casos de estudio: scoring crediticio, contratación algorítmica, justicia predictiva
- Cómo los modelos pueden crear círculos viciosos de retroalimentación negativa
- El rol de la falta de transparencia en perpetuar el daño
- Hacia una práctica más responsable de construcción de modelos
Ventajas y limitaciones
Ventajas
- Extremadamente accesible, sin requerir conocimiento técnico previo
- Ejemplos concretos y memorables de daño algorítmico real
- Cambió la conversación pública sobre la responsabilidad de quienes construyen modelos
Limitaciones
- No ofrece soluciones técnicas concretas, es más un llamado de atención que un manual
- Sin código ni métricas formales de equidad, complementa pero no sustituye a The Ethical Algorithm