No curto prazo
| Páginas | 13-40 |
Não é de hoje que algoritmos de inteligência articial permeiam nossas vi-
das,1 subjacentes a atividades do dia a dia como a escolha de produtos ou serviços
a serem consumidos em plataformas online, a tradução de textos, a pesquisa de
conteúdo – v.g., jurisprudência em sites de Tribunais – e mesmo a operação de
centrais de atendimento ao cliente, por chat ou telefone. Já é possível, portanto,
tratar de aspectos ou repercussões jurídicas desse uso, no curto prazo. Aliás, nem
é de um futuro próximo que se cogita, mas do presente e mesmo de um passado
recente.
As repercussões jurídicas desse uso são as mais diversas. Basicamente dizem
respeito ao que se faz, por meio dos algoritmos, e do tratamento que tais ações
têm ou deveriam ter à luz das normas jurídicas. Nos itens seguintes, colhem-se
apenas alguns desses aspectos, de maneira naturalmente não exaustiva. Estão
todos relacionados ao controle ou à limitação do poder – nalidade precípua do
Direito – e aos desaos a tanto lançados pelo uso da IA.
A interação de seres humanos exige a interveniência do Direito enquanto
instrumento de compartição de liberdade.2 Inafastável, assim, que essa interação,
quando levada a efeito por meio de algoritmos, suscite questões relacionadas ao
seu disciplinamento jurídico. Tais questões tornam-se mais sensíveis quando a
interação tem como parte pessoas que supostamente corporicam os interesses
da coletividade, vale dizer, que agem em nome do Poder Público.
Os algoritmos fazem mais delicados alguns aspectos da atuação dos que
exercem o poder, em uma sociedade, por dicultarem a atuação de mecanis-
mos construídos ao longo de séculos, em um lento processo de tentativa e erro,
para controlar esse exercício. Tais mecanismos institucionais foram moldados
a partir de erros cometidos por humanos, e destinam-se a evita-los, ou corri-
gi-los, levando em consideração a experiência haurida de quando praticados
por humanos, o que pode não funcionar, ou não funcionar tão bem, quando
máquinas passam a executar as mesmas tarefas. Será preciso identicar os erros
e as particularidades presentes quando da atuação de máquinas, para que se
corrijam ou aprimorem os mesmos mecanismos jurídicos. Publicidade, trans-
parência, imparcialidade, legitimidade dos ns a serem perseguidos, respeito a
normas preestabelecidas, efetiva possibilidade de correção de erros, essas são
apenas algumas das questões que a IA, quando utilizada por autoridades, torna
mais problemáticas e desaadoras.
1. FENOLL, Jordi Nieva. Inteligencia Articial e Proceso Judicial. Madrid: Marcial Pons. 2018.
2. ZIPPELIUS, Reinhold. Introdução ao Estudo do Direito. Trad. Gercélia Batista de Oliveira Mendes,
Del Rey, Belo Horizonte, 2006, p. 35.
DIREITO E INTELIGÊNCIA ARTIFICIAL • Hugo de Brito Machado Segundo
16
2.1 VIESES E O MITO DA NEUTRALIDADE
Um dos problemas atuais no uso de algoritmos para o desempenho das
mais variadas tarefas, desde a tradução de textos até a denição de quem deve
ter direito à liberdade condicional, ou a quais áreas a polícia deve patrulhar de
maneira mais ostensiva, reside em sua aparente e possível neutralidade. Quando
usados por autoridades do poder público, então, algoritmos enviesados tornam-se
ainda mais potencialmente danosos.
Partindo de uma compreensão coloquial, haurida do senso comum, pode
parecer que máquinas, executando algoritmos no desempenho de tarefas que
envolvem seleções, escolhas e julgamentos, serão neutras por denição. Com-
putadores não teriam preconceitos, ou preferências pessoais, de modo a serem
pautados por motivações racistas, machistas, ideológicas etc. Trata-se, porém,
de uma concepção falsa.
A partir de informações com as quais são alimentados (input), são capazes
de executar as fórmulas matemáticas que os integram e, em seguida, apresentar
resultados (output). Nessa condição, se os dados dos quais partirem forem en-
viesados, os resultados possivelmente também o serão. Carl T. Bergstrom e Jevin
West, no curso Calling Bullshit in the Age of Big Data, disponível no Youtube,3
usam expressão simples e direta para designar esse fenômeno: garbage in, gar-
bage out. O que pode ser traduzido para algo como: se entra lixo, o que sai é lixo
também. Voltando ao exemplo da receita de bolo para ilustrar, de modo muito
simplicado, o que seria um algoritmo, ainda que se tenha uma excelente receita,
o emprego de ingredientes de má qualidade prejudicará sem dúvida o resultado.
Alguns testes podem ser feitos, os quais, em princípio, poderiam refutar a
hipótese acima formulada, de que os algoritmos não são neutros, por uma série
de razões, sendo a principal delas decorrente da circunstância de que não há
neutralidade na coleta dos dados que os alimentam. Tome-se como exemplo o
sistema de tradução automatizado Google Tradutor. Trata-se de um sosticado
algoritmo de inteligência articial, inclusive capaz de aprender com a experiência
de traduções anteriormente nele efetuadas e com a colaboração dos usuários. Na
época em que se escrevem estas linhas, no ano de 2020, se se inserisse a frase em
inglês “I want to be a judge”, e se selecionasse a opção de tradução para a língua
portuguesa, o resultado apresentado seria “eu quero ser juiz”. Por que não “eu
quero ser juíza”?
3. Disponível em: https://youtu.be/A2OtU5vlR0k.
Para continuar a ler
PEÇA SUA AVALIAÇÃO