Necropolítica algorítmica / Necropolítica algorítmica / Algorithmic Necropolitics

RESUMEN

Resumen Este capítulo del libro Racismo algorítmico: inteligência artificial e discriminação nas redes digitais (Racismo algorítmico: inteligencia artificial y discriminación en redes digitales), publicado por el autor en 2022, demuestra el racismo codificado en la inteligencia artificial. Aborda la violencia material y simbólica, a menudo letal, infligida a personas y poblaciones negras y pobres mediante el despliegue de sistemas predictivos construidos y retroalimentados a partir de conjuntos de datos que reflejan una historia de explotación y segregación. Comienza con un panorama histórico de la normalización de la hipervigilancia y el control violento sobre poblaciones racializadas en Estados Unidos y Brasil. Luego muestra la continuidad de ese control por parte de los sistemas de clasificación algorítmicos contemporáneos, como el reconocimiento facial, la vigilancia predictiva y las puntuaciones de riesgo en seguridad y salud. Alineados con las narrativas oficiales de armonía racial y la justificación meritocrática de la política daltónica, sus desarrolladores, las empresas privadas e instituciones públicas que los emplean los consideran neutrales e ignoran insidiosamente sus prejuicios.

RESUMO

Resumo Este capítulo do livro Racismo algorítmico: inteligência artificial e discriminação nas redes digitalis, publicado pelo autor em 2022, demonstra o racismo codificado na inteligência artificial. Aborda a violência material e simbólica, muitas vezes letal, infligida a indivíduos e populações negras e pobres, através da implementação de sistemas preditivos baseados e realimentados a partir de conjuntos de dados que refletem uma história de exploração e segregação. Começa com um panorama histórico da normalização da hipervigilância e do controle violento sobre populações racializadas nos Estados Unidos e no Brasil. Em seguida, mostra a continuidade desse controle por sistemas contemporâneos de classificação algorítmica, como o reconhecimento facial, a vigilância preditiva e as escalas de risco em segurança e saúde. Alinhados com narrativas oficiais de harmonia racial e com a justificativa meritocrática da política daltônica, seus desenvolvedores, as empresas privadas e as instituições públicas que os empregam, consideram-nos neutros e ignoram insidiosamente os seus preconceitos.

ABSTRACT

Abstract This chapter of the author's 2022 book Racismo algorítmico: inteligência artificial e discriminação nas redes digitais (Algorithmic racism: artificial intelligence and discrimination in digital networks) demonstrates the racism encoded in artificial intelligence. It addresses the material and symbolic, often lethal, violence inflicted upon Black and poor individuals and populations by the deployment of predictive systems built and backfed from datasets that reflect a history of exploitation and segregation. It begins with a historical overview of the normalisation of hypervigilance and violent control over racialized populations in the United States and in Brazil. It then shows the continuity of that control by contemporary algorithmic classification systems such as facial recognition, predictive policing, and health and security risk scores. Aligned with official narratives of racial harmony and the meritocratic justification of colour-blind policy, they are deemed neutral by their developers, private enterprises and the public institutions that employ them, who insidiously ignore their bias.