O agente algorítmico - licença para discriminar? (Um olhar sobre a seleção de candidatos a trabalhadores através de técnicas de inteligência artificial)
| Autor | Milena da Silva Rouxinol |
| Ocupação do Autor | Professora Auxiliar da Faculdade de Direito da Escola do Porto da Universidade Católica Portuguesa |
| Páginas | 1013-1032 |
57
O AGENTE ALGORÍTMICO – LICENÇA PARA
DISCRIMINAR? (UM OLHAR SOBRE A SELEÇÃO
DE CANDIDATOS A TRABALHADORES ATRAVÉS
DE TÉCNICAS DE INTELIGÊNCIA ARTIFICIAL)
Milena da Silva Rouxinol
Professora Auxiliar da Faculdade de Direito da Escola do Porto da Universidade
Católica Portuguesa.
Sumário: 1. Introdução. 2. Notas de esclarecimento terminológico-conceptual. 2.1. Discer-
nindo, à superfície, as sinapses da inteligência articial. 2.2 O fenómeno discriminatório e o
direito antidiscriminação – algumas notas com relevo a propósito da atuação algorítmica. 3.
A discriminação (não) praticada por algoritmos. 3.1 “Amazon´s sexist hiring algorithm could
still be better than a human”. 3.2 “A computer can make a decision faster. That doesn’t make
it fair”. 4. Combate à discriminação por via algorítmica – breves notas sobre os desaos e
formas de superação. 5. Conclusão.
1. INTRODUÇÃO
“I know some algorithms are biased, because I created one”1 – declara o cientista
Nicolas T. Young, no seu blogue2 –. enquanto, por seu turno, numa publicação quase
coeva, Kimberly A. Houser3 explica como pode a inteligência artificial mitigar o ruído
e o preconceito, isto é, a discriminação, quando se trata de decidir quem contratar para
um emprego.
Parece, na verdade, inexistir qualquer insuperável antagonismo entre ambas as
perspetivas. Será injusto afirmar que a aclamação da inteligência artificial e, em espe-
cial, da sua utilização no âmbito da seleção de candidatos a emprego é mero canto de
sereia – tais ferramentas apresentam, na verdade, vantagens não despiciendas –, mas,
do mesmo passo, importa lembrar que, pese embora a aparência criada pela parte supe-
rior do corpo, uma sereia não é um ser humano… Ou podemos dizê-lo parafraseando
Ifeoma Ajunwa4: um algoritmo não deve ser visto como um oráculo que tudo sabe, do
1. “Eu sei que alguns algoritmos são discriminatórios, porque criei um” – tradução da nossa responsabilidade.
2. O blogue chama-se Scientific American e o texto a cujo título se fez referência é datado de 31 de janeiro de 2020.
Pode ser consultado em https://blogs.scientificamerican.com/voices/i-know-some-algorithms-are-biased-becau-
se-i-created-one/.
3. “Can AI Solve the Diversity Problem in the Tech Industry? Mitigating Noise and Bias in Employment Decision-
-Making”, Stanford Technology Law Review, 2019, n. 22, p. 290-354 [maxime 290 e 324 e ss.].
4. “The paradox of automation as anti-bias intervention”, Cardozo Law Review, 2020, n. 41, p. 1-55 [14 e ss. e 55].
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 1013DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 1013 23/02/2021 14:55:4023/02/2021 14:55:40
MILENA DA SILVA ROUXINOL
1014
alto da sua majestade ante a ingénua intrepidez de quem o interpela; a sabedoria está em
interrogá-lo e interpretá-lo com inteligência e apuro crítico.
Nas linhas que se seguem, procuraremos, por um lado, assinalar os benefícios que
a utilização da inteligência artificial pode representar no âmbito da seleção de candida-
tos a trabalhadores, colocando o acento tónico na sua aptidão para minorar o impulso
discriminatório que, quer dolosa quer inconscientemente, inquina, frequentemente, tais
decisões; por outro, procuraremos explicar por que misteriosas vias aquela inteligência
artificial vem a revelar-se, afinal, artificiosa, redundando os seus aparentemente asséticos
códigos binários em resultados cujo impacto sobre sujeitos pertencentes a particulares
categorias sociais é bem distinto do verificado sobre aqueles fora de tal fronteira. É de
discriminação, pois, também agora, que falamos.
Pretendendo refletir sobre se e em que medida a utilização daqueles mecanismos tecno-
lógicos minora ou, ao contrário, potencia diferenciações de duvidosa admissibilidade, não
poderemos, por certo, deixar de evidenciar alguns topoi de importância crucial no contexto
que aqui nos convoca do Direito Antidiscriminação. Do mesmo modo, impõe-se levar a
cabo um conjunto de esclarecimentos terminológicos no que respeita ao funcionamento
dos algoritmos. Tentaremos fazê-lo, com a natural consciência de que falharemos, com
toda a probabilidade, ao rigor da linguagem tecnológica, mas também com o propósito de
escrever linhas que possam ser entendidas por quem não domina as técnicas de programação
informática. Reconhecemos que “para prevenir o viés algorítmico, as definições jurídica
e técnica do que seja ‘justiça algorítmica’ deveriam alinhar-se”5, mas não é de tal monta
o nosso objetivo. Bastamo-nos com o propósito – que é desafiante: custa encontrar um
texto que não se refira aos algoritmos como black boxes6 – de, no mencionado contexto da
contratação laboral, procurar explicar como pode um robô cruzar o caminho do princípio
da igualdade. É por estes esclarecimentos terminológico-conceptuais que principiaremos.
Consignaremos, finalmente, algumas notas breves às propostas que a doutrina
vem apresentando em vista da superação do problema da discriminação emergente do
uso de algoritmos, enquanto, do mesmo passo, assinalaremos as dificuldades sentidas.
2. NOTAS DE ESCLARECIMENTO TERMINOLÓGICO-CONCEPTUAL
2.1 Discernindo, à superfície, as sinapses da inteligência articial
Um algoritmo – designação derivada do matemático persa Alkhwarizmi7 – é um
sistema computacional, ou de matemática aplicada8, capaz de tomar decisões, ou de dar
5. Alice Xiang, “To prevent algorithmic bias, legal and technical definitions around algorithmic fairness must align”,
publicado, a 23 de março de 2020, na plataforma Partnership in AI (https://www.partnershiponai.org/to-preven-
t-algorithmic-bias-legal-and-technical-definitions-around-algorithmic-fairness-must-align/). Veja-se, ainda,
Alice Xiang/ Inioluwa Deborah Raji, “On the Legal Compatibility of Fairness Definitions”, Cornell University,
arXiv:1912.00761 (disponível em: https://www.arxiv-vanity.com/papers/1912.00761/).
6. Por exemplo, Kimberly A. Houser, “Can AI Solve…”, cit., p. 340 e ss.
7. Donald E. Knuth, “Algorithms in modern mathematics and computer science”, Computer Science Department –
Stanford University, 1980, p. 2 e ss. (disponível em: https://apps.dtic.mil/dtic/tr/fulltext/u2/a089912.pdf).
8. Donald E. Knuth (ibidem) sublinha que a descrição do algoritmo como uma ferramenta informática põe em evi-
dência não tanto o sistema em si mesmo mas o equipamento através do qual opera.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 1014DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 1014 23/02/2021 14:55:4023/02/2021 14:55:40
Para continuar a ler
PEÇA SUA AVALIAÇÃO