Qué queremos

Diversas organizaciones han denunciado que las políticas de la UE y estados miembro en materia de sistemas de decisión automática e IA afianzan la desigualdad racial, la discriminación y la intolerancia, señalado que estos sistemas incorporan y amplifican el racismo estructural. Se trata de sesgos y jerarquías raciales que se (re)producen en el uso del reconocimiento facial, técnicas de procesamiento de lenguaje natural (PNL), o en diversas áreas de aplicación como la biomedicina o la llamada ‘policía predictiva’, que discriminan de forma sistemática por el perfil racial o señalan barrios y grupos racializados como lugares y colectivos donde encontrar delincuentes de forma más “probable”. Vulneraciones que se incrementan cuando estos sistemas son usados en el contexto de las leyes de migración y fronteras.

Una realidad ampliamente desconocida debido a la falta de transparencia en el sector, la no consideración de las voces racializadas y la ausencia de estudio de investigaciones en suelo español. Existe en los movimientos antirracistas una falta de herramientas para señalar a las nuevas tecnologías e IA en su rol de refuerzo del racismo. Por ello, hace falta aplicar una perspectiva antirracista que posibilite la participación directa de las comunidades racializadas en los espacios sobre la materia y que permita reivindicar una IA respetuosa con los derechos de todos y todas, que les permita pronunciarse sobre si cancelar el uso de implementaciones cuando corresponda.

Queremos aportar las herramientas necesarias para un debate amplio sobre el impacto que tiene el uso de la Inteligencia Artificial (IA) en las poblaciones racializadas. Para ello, trabajamos en una alianza estratégica, liderada por personas racializadas, que aborde desde una óptica antirracista y defensora de los derechos humanos la incidencia de las nuevas tecnologías en la sociedad.

Desde AlgoRace, en paralelo a estas comunidades, tejemos propuestas con organizaciones de la sociedad civil para que la administración pública y actores privados no refuercen el racismo y las lógicas coloniales existentes mediante la aplicación de la IA en todos los ámbitos de nuestra vidas.