Race After Technology

Cómo el diseño de sistemas 'neutrales' puede codificar y perpetuar discriminación racial existente.

ÁreaÉtica y Sociedad de los Datos
TemaÉtica de Datos
NivelIntermedio
Publicación2019

Autor(es): Ruha Benjamin

¿Qué puedes lograr leyendo este libro?

  • Reconocer cómo el diseño técnico 'neutral' puede codificar sesgos sociales existentes sin intención explícita
  • Ampliar tu marco de análisis ético más allá de métricas puramente estadísticas de equidad
  • Cuestionar críticamente los datos de entrenamiento y su relación con desigualdades históricas

Descripción

Benjamin, socióloga especializada en ciencia y tecnología, analiza cómo sistemas técnicos presentados como neutrales u objetivos (reconocimiento facial, algoritmos de riesgo, scoring) pueden codificar y perpetuar patrones históricos de discriminación racial, ofreciendo un marco sociológico complementario al técnico.

Para quién es ideal

  • Data scientists que quieren una perspectiva sociológica además de la técnica sobre sesgo algorítmico
  • Complemento crítico a The Ethical Algorithm desde las ciencias sociales
  • Equipos de producto/diseño trabajando en sistemas con impacto social significativo
  • Ampliar el marco de análisis de equidad más allá de métricas puramente estadísticas

Contenido destacado

  • El concepto de 'nuevo código de Jim Crow' aplicado a sistemas algorítmicos
  • Sesgo en sistemas de reconocimiento facial y su impacto diferencial
  • Cómo los datos de entrenamiento heredan desigualdades históricas
  • El mito de la neutralidad tecnológica
  • Hacia un diseño tecnológico consciente de la equidad racial

Ventajas y limitaciones

Ventajas

  • Perspectiva sociológica poco común en la literatura técnica de ciencia de datos
  • Amplía el análisis de sesgo más allá de lo puramente estadístico o matemático
  • Complementa muy bien las definiciones técnicas de The Ethical Algorithm

Limitaciones

  • Menos técnico y con menos soluciones algorítmicas concretas que Kearns & Roth
  • Requiere apertura a un marco de análisis distinto al puramente cuantitativo

Libros relacionados