É menino! É menina! Os riscos das tecnologias de análise facial para as identidades de gênero trans e não-binárias
| Autor | Paula Guedes Fernandes da Silva |
| Cargo | Doutoranda em Direito pela Universidade Católica Portuguesa (bolsista da Fundação para a Ciência e a Tecnologia) e Mestre em Direito Internacional e Europeu pela mesma instituição; especialista em Direito Digital pelo ITS-Rio em parceria com a UERJ. Pesquisadora do grupo de pesquisa em Direito e Tecnologia da PUC-Rio (Legalite) e do Grupo de ... |
| Páginas | 217-238 |
É menino! É menina! Os riscos das
tecnologias de análise facial para as
identidades de gênero trans e não-binárias
It’s a boy! It’s a girl! The risks of facial analysis technologies for
trans and non-binary gender identities
Paula Guedes Fernandes da Silva*
Universidade Católica Portuguesa – Escola do Porto, Porto, Portugal
1. Introdução
Atualmente, mesmo nos raros casos daqueles que a desconhecem, a tecno-
logia de análise facial1, que inclui o reconhecimento facial (RF), já impacta
a vida das pessoas em todo o mundo. De usos simples, como em tags au-
tomáticas de fotos em mídias sociais e desbloqueios de smartphones, aos
mais complexos, a exemplo de verificação de identidades por aplicativos
e câmeras de segurança, a ferramenta torna-se cada vez mais presente e
onipresente nas sociedades.
Nesse cenário, há argumentos a favor da tecnologia que, para seus
defensores, supostamente traria ganhos de acurácia, eficiência, conforto e
comodidade em certas áreas. Porém, sua implementação acelerada e sem
* Doutoranda em Direito pela Universidade Católica Portuguesa (bolsista da Fundação para a
Ciência e a Tecnologia) e Mestre em Direito Internacional e Europeu pela mesma instituição;
especialista em Direito Digital pelo ITS-Rio em parceria com a UERJ. Pesquisadora do grupo
de pesquisa em Direito e Tecnologia da PUC-Rio (Legalite) e do Grupo de Estudos em Novas
Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute. E-mail:
paulaguedes94@hotmail.com.
1 O reconhecimento facial e a análise facial são processos intimamente conectados. É comum
que pesquisadores de aprendizado de máquina, inclusive, classifiquem o “reconhecimento”
como uma forma de análise, o que incluiria também a detecção, classificação e estimativa;
CONCERNED RESEARCHERS, 2019.
Direito, Estado e Sociedade n.60 p. 217 a 238 jan/jun 2022
218
Direito, Estado e Sociedade n. 60 jan/jun 2022
supervisão formal mínima já se provou uma ameaça para direitos e liberda-
des fundamentais, principalmente de grupos tradicionalmente marginali-
zados da sociedade, como indivíduos transexuais e não-binários. No atual
estágio de desenvolvimento, além de permitir a vigilância em massa, estatal
e privada, o uso do reconhecimento facial pode ocasionar danos associados
à privacidade, proteção de dados, dignidade, liberdades, autodeterminação
e igualdade, com especial impacto negativo em comunidades vulneráveis.
Dito isso, o objetivo deste trabalho é analisar as consequências malé-
ficas da implementação da análise facial especificamente em identidades
trans e não-binárias, comunidades já historicamente discriminadas na so-
ciedade. Para isso, será necessária uma breve análise e explicação da tecno-
logia e suas classificações para posterior exposição dos possíveis riscos aos
direitos fundamentais desses grupos associados à sua utilização. Por fim,
serão expostas algumas estratégias de solução ou, ao menos, mitigação de
violações e abusos.
2. Breve explicação sobre tecnologias de reconhecimento facial
As TRF são ferramentas digitais de inteligência artificial (IA) que executam
determinadas tarefas em imagens e vídeos que contenham rostos huma-
nos, atualmente presentes em diversos aspectos da vida em sociedade em
razão de sua implementação difundida em bancos, transporte público, es-
colas, lojas e até em dispositivos conectados.2 Dentre as possibilidades de
uso, a ferramenta pode desempenhar diferentes funções, de acordo com a
pergunta que se busca responder. Vejamos:
1 – Detecção Facial – processo de detecção da presença de rostos em
determinada imagem ou vídeo. Busca-se apenas responder à pergunta
“há um rosto?”, sem efetuar a identificação ou categorização do rosto
encontrado;
2 – Categorização/Classificação facial – o objetivo é analisar e classifi-
car um rosto de acordo com suas emoções, expressões ou característi-
cas. Por exemplo, o software pode ser desenvolvido para extrair atribu-
2 BUOLAMWINI, 2020, pp. 2, 7-8.
Paula Guedes Fernandes da Silva
Para continuar a ler
PEÇA SUA AVALIAÇÃO