Weapons of Math Destruction

El libro que puso en la conversación pública cómo los algoritmos pueden amplificar la desigualdad.

ÁreaÉtica y Sociedad de los Datos
TemaÉtica de Datos
NivelPrincipiante
Publicación2016

Autor(es): Cathy O'Neil

¿Qué puedes lograr leyendo este libro?

  • Reconocer las características que hacen a un modelo potencialmente dañino a escala (opacidad, escala, daño)
  • Cuestionar críticamente modelos que usas o construyes desde una perspectiva de impacto social
  • Comunicar riesgos éticos de un modelo a audiencias no técnicas con ejemplos concretos

Descripción

O'Neil, matemática con experiencia en finanzas cuantitativas, expone cómo modelos algorítmicos opacos y a gran escala (en crédito, empleo, justicia penal, educación) pueden amplificar sesgos existentes y dañar de forma sistemática a las poblaciones más vulnerables, con ejemplos concretos y accesibles.

Para quién es ideal

  • Cualquier data scientist que construya modelos con impacto en decisiones sobre personas
  • Primera lectura crítica antes de libros más técnicos sobre fairness algorítmico
  • Comunicar riesgos éticos de un proyecto a stakeholders no técnicos
  • Desarrollar criterio ético antes de desplegar modelos de alto impacto

Contenido destacado

  • Qué hace a un modelo un 'arma de destrucción matemática' (opacidad, escala, daño)
  • Casos de estudio: scoring crediticio, contratación algorítmica, justicia predictiva
  • Cómo los modelos pueden crear círculos viciosos de retroalimentación negativa
  • El rol de la falta de transparencia en perpetuar el daño
  • Hacia una práctica más responsable de construcción de modelos

Ventajas y limitaciones

Ventajas

  • Extremadamente accesible, sin requerir conocimiento técnico previo
  • Ejemplos concretos y memorables de daño algorítmico real
  • Cambió la conversación pública sobre la responsabilidad de quienes construyen modelos

Limitaciones

  • No ofrece soluciones técnicas concretas, es más un llamado de atención que un manual
  • Sin código ni métricas formales de equidad, complementa pero no sustituye a The Ethical Algorithm

Libros relacionados