[pt] O trabalho consiste em uma análise sobre os efeitos do que se convencionou denominar novas tecnologias sobre corpos e experiências não brancas no exercício de sua autonomia, mais precisamente os vieses algorítmicos oriundos de sistemas de inteligência artificial (IA) aplicados a produtos e serviços digitais. Dentro de um cenário global de intensa conectividade, associado a técnicas sofisticadas de IA e
uso predatório de dados pessoais, tem-se reproduzido, reforçado e ocultado dinâmicas de discriminação racial em plataformas e ferramentas de busca, políticas de vigilância e acesso a produtos e serviços. Há uma crença eficiente na neutralidade do direito e da tecnologia. No contexto brasileiro, essa crença ainda se apresenta aliada ao compartilhamento do mito da democracia racial, dos pactos narcísicos e do racismo por denegação, de modo que o enfrentamento das desigualdades raciais por tecno-regulação, governança algorítmica, ou mesmo à luz de desafios ético-jurídicos, se mantém esvaziado. Para explorar o fenômeno dos vieses raciais algorítmicos, propõe-se uma reflexão sobre os efeitos da colonialidade na interseção entre direito e tecnologia a partir da categoria políticocultural da amefricanidade, desenvolvida por Lélia Gonzalez. Parte-se da premissa de que, tanto o direito, quanto as novas tecnologias, seguem lidos e construídos sob o signo da branquitude por trás de uma suposta neutralidade e igualdade formal: um
lugar de privilégio de racialidade não nomeada. Sob o manto da desigualdade formal mantida pelo direito, a suposta indiferença de algoritmos e autômatos face à identidade racial dos indivíduos reproduz a perversa utilização de características étnico-raciais como mecanismo de exclusão. A construção normativa do direito e os valores éticos que permeiam a construção de uma governança tecnológica, por
sua vez, se produzem a partir da experiência da zona do ser. A partir da perspectiva amefricana radicada na experiência brasileira, pretende-se oferecer uma narrativa que reposicione o papel do direito e os desafios ético-jurídicos sobre os processos de violência da zona do não-ser no ambiente digital. / [en] This paper consists of analysis about the effects of what may be called new
technologies on not-white bodies and experiences when exercising their autonomy,
more precisely algorithmic biases derived from Artificial Intelligence (AI) systems
applied to digital products and services. In a global scenario of intense connectivity,
associated with sophisticated AI techniques and predatory use of personal data,
racial discrimination dynamics is being reproduced, reinforced, and hidden in
search platforms and engines, monitoring politics, and products and services
access. There is an efficient belief in law and technology neutrality. In the Brazilian
scenario, this belief still shows allied to sharing the myth of racial democracy,
narcissistic pacts, and racism denial, in a way that confronting racial inequalities by
techno-regulation, algorithmic governance, or even to the light of ethical-legal
challenges is still devoided. To explore the algorithmic racial bias phenomenon, it
is proposed a reflection about coloniality effects in the intersection between law and
technology from the Amefricanity politician-cultural category, developed by Lélia
Gonzalez. Starting from the premise that law and new technologies keep being read
and built on whiteness sign behind supposed neutrality and formal equality: a place
of privilege related to not-identified raciality. Under a formal inequality mantle kept
by law, the supposed indifference of algorithms and automatons in face of racial
identity of individuals reproduces a devilish use of ethnic-racial characteristics as
an exclusion mechanism. Right normative construction and ethical values that
surface the construction of technological governance, in turn, are produced from
the experience included in the being zone. From the Amefrican perspective
ingrained in Brazilian experience, it is intended to offer a narrative that re-establish
the role law performs and ethical-legal challenges on violence processes found on
the not-being zone in digital environment.
| Identifer | oai:union.ndltd.org:puc-rio.br/oai:MAXWELL.puc-rio.br:58993 |
| Date | 13 May 2022 |
| Creators | BIANCA KREMER NOGUEIRA CORREA |
| Contributors | MARIA CELINA BODIN DE MORAES |
| Publisher | MAXWELL |
| Source Sets | PUC Rio |
| Language | Portuguese |
| Detected Language | Portuguese |
| Type | TEXTO |
Page generated in 0.0026 seconds