Race After Technology
Cómo el diseño de sistemas 'neutrales' puede codificar y perpetuar discriminación racial existente.
ÁreaÉtica y Sociedad de los Datos
TemaÉtica de Datos
NivelIntermedio
Publicación2019
Autor(es): Ruha Benjamin
¿Qué puedes lograr leyendo este libro?
- Reconocer cómo el diseño técnico 'neutral' puede codificar sesgos sociales existentes sin intención explícita
- Ampliar tu marco de análisis ético más allá de métricas puramente estadísticas de equidad
- Cuestionar críticamente los datos de entrenamiento y su relación con desigualdades históricas
Descripción
Benjamin, socióloga especializada en ciencia y tecnología, analiza cómo sistemas técnicos presentados como neutrales u objetivos (reconocimiento facial, algoritmos de riesgo, scoring) pueden codificar y perpetuar patrones históricos de discriminación racial, ofreciendo un marco sociológico complementario al técnico.
Para quién es ideal
- Data scientists que quieren una perspectiva sociológica además de la técnica sobre sesgo algorítmico
- Complemento crítico a The Ethical Algorithm desde las ciencias sociales
- Equipos de producto/diseño trabajando en sistemas con impacto social significativo
- Ampliar el marco de análisis de equidad más allá de métricas puramente estadísticas
Contenido destacado
- El concepto de 'nuevo código de Jim Crow' aplicado a sistemas algorítmicos
- Sesgo en sistemas de reconocimiento facial y su impacto diferencial
- Cómo los datos de entrenamiento heredan desigualdades históricas
- El mito de la neutralidad tecnológica
- Hacia un diseño tecnológico consciente de la equidad racial
Ventajas y limitaciones
Ventajas
- Perspectiva sociológica poco común en la literatura técnica de ciencia de datos
- Amplía el análisis de sesgo más allá de lo puramente estadístico o matemático
- Complementa muy bien las definiciones técnicas de The Ethical Algorithm
Limitaciones
- Menos técnico y con menos soluciones algorítmicas concretas que Kearns & Roth
- Requiere apertura a un marco de análisis distinto al puramente cuantitativo