Contratos e algoritmos: alocação de riscos, discriminação e necessidade de supervisão por humanos
| Autor | Marcos Ehrhardt Júnior e Gabriela Buarque Pereira Silva |
| Ocupação do Autor | Advogado/Mestranda em Direito Público pela Universidade Federal de Alagoas |
| Páginas | 775-796 |
44
CONTRATOS E ALGORITMOS: ALOCAÇÃO DE
RISCOS, DISCRIMINAÇÃO E NECESSIDADE DE
SUPERVISÃO POR HUMANOS
Marcos Ehrhardt Júnior
Advogado. Doutor em Direito pela Universidade Federal de Pernambuco (UFPE). Profes-
sor de Direito Civil da Universidade Federal de Alagoas (UFAL) e do Centro Universitário
CESMAC. Editor da Revista Fórum de Direito Civil (RFDC). Vice-Presidente do Instituto
Brasileiro de Direito Civil (IBDCIVIL). Membro Fundador do Instituto Brasileiro de
Direito Contratual – IBDCont e do Instituto Brasileiro de Estudos de Responsabilidade
Civil (IBERC). E-mail: contato@marcosehrhardt.com.br
Gabriela Buarque Pereira Silva
Mestranda em Direito Público pela Universidade Federal de Alagoas. Advogada.
gabrielabuarqueps@gmail.com
Sumário: 1. Introdução. 2. Breves notas sobre a inteligência articial e discriminação algorít-
mica. 3. A interferência da inteligência articial no ambiente contratual. 4. Das diretrizes e
dos mecanismos de controle. 5. Considerações nais. 6. Referências.
1. INTRODUÇÃO
A revolução tecnológica verificada nos últimos anos trouxe à tona uma série de
novas dinâmicas de mercado, de socialização e de resolução de conflitos, atreladas a uma
série de riscos e danos que ainda não foram objeto de satisfatória avaliação e regulação,
e que demandam do aplicador jurídico o desafio da adaptação cada vez mais frequente
dos textos normativos à realidade social.
O advento do neoconstitucionalismo e de uma nova dinâmica nas relações sociais
requer que o intérprete verifique os parâmetros de atuação dos setores privados sob o
prisma da principiologia constitucional, tornando insuficientes paradigmas clássicos
de interpretação jurídica.
Não obstante a evidente e inquestionável utilidade social decorrente do desenvol-
vimento de tecnologias de inteligência artificial, são também inúmeras as possibilidades
de eclosão de danos, no exercício de tal atividade, numa sociedade pós-moderna marcada
pelo risco de sua utilização, o que não pode ser desconsiderado pelo Direito. Em sede de
contratos, essa perspectiva assume destaque especialmente em razão da possibilidade
de discriminações algorítmicas quando da interação entre as relações contratuais e a IA,
entre outros probemas eventualmente verificados em quaisquer de suas fases.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 775DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 775 23/02/2021 14:55:2523/02/2021 14:55:25
MARCOS EHRHARDT JÚNIOR E GABRIELA BUARQUE PEREIRA SILVA
776
O presente texto tem por objetivo analisar, por meio de metodologia dedutiva de
revisão bibliográfica, qual o impacto da utilização de aplicações de inteligência artificial
nos contratos, para avaliar quais as diretrizes jurídicas a serem apontadas na resolução
de impasses e no desenvolvimento de tais tecnologias.
2. BREVES NOTAS SOBRE A INTELIGÊNCIA ARTIFICIAL E DISCRIMINAÇÃO
ALGORÍTMICA
É incontestável que os algoritmos vêm assumindo vasta participação numa série de
atividades. Exsurge um novo paradigma operacional cibernético cada vez mais presente,
com máquinas tomando decisões e assumindo posturas típicas de indivíduos. Sistemas
decidem como serão feitos os investimentos de um banco, carros são conduzidos de
modo autônomo, negócios jurídicos são firmados por meio de softwares em contratos
eletrônicos, microscópios da Google Brain são capazes de diagnosticar câncer1, robôs
são produzidos para colaborar no cotidiano de idosos no Japão2, sistemas de reconheci-
mento facial vêm sendo utilizados na segurança pública3, além de mecanismos utilizados
no cotidiano como Spotify, Waze e Netflix. São apenas algumas amostras do potencial
transformador da inteligência artificial no meio comunitário, nos mais diversos campos
do saber.
A Microsoft, por exemplo, possui um projeto chamado Hanover que se dedica a
prever combinações de drogas para tratamento de câncer a partir da “memorização”,
vale dizer, análise de banco de dados de artigos específicos sobre o tema4. No mesmo
sentido, novas tecnologias vêm sendo massivamente utilizadas no combate à pandemia
da Covid-195. Para além de tais funções, nos EUA, algoritmos de avaliação de risco vêm
sendo usados para medir a probabilidade de reincidência de um acusado6, num fenômeno
chamado de predictive justice. Desse modo, o americano Eric Loomis foi condenado a
1. TECMUNDO. Microscópio da Google com realidade aumentada e IA pode detectar câncer. Disponível em: https://
www.tecmundo.com.br/produto/129343-microscopio-google-realidade-aumentada-ia-detectar-cancer.htm.
Acesso em: 20 set. 2018.
2. G1. Robôs poderão ajudar população de idosos no Japão no futuro. Disponível em: http://g1.globo.com/tecnologia/
noticia/2011/10/robos-poderao-ajudar-populacao-de-idosos-no-japao-no-futuro.html Acesso em: 20 set. 2018.
3. CANAL TECH. Polícia do RJ adota sistema de reconhecimento facial para identificar criminosos. Disponível em:
https://canaltech.com.br/inovacao/policia-do-rj-adota-sistema-de-reconhecimento-facial-para-identificar-cri-
minosos-129511/. Acesso em: 19 abr. 2020.
4. MICROSOFT. How Microsoft computer scientists and researchers are working to ‘solve‘ cancer. Disponível em: https://
news.microsoft.com/stories/computingcancer/. Acesso em: 19 set. 2019.
5. UOL. Coronavírus: inteligência artificial monitora sintomas em multidões. Disponível em: https://www.uol.
com.br/tilt/noticias/redacao/2020/03/20/coronavirus-inteligencia-artificial-monitora-sintomas-em-multidoes.
htm. Acesso em: 29 mai. 2020. Sobre o tema, seja permitido remeter ao artigo “O tratamento de dados pessoais
no combate à Covid-19: entre soluções e danos colaterais”, elaborado pelos autores em conjunto com Jéssica
Modesto, que integrará o livro Direito Civil e Tecnologia. No momento da elaboração deste artigo, o referido livro
ainda estava no prelo. Recentemente, a Data Privacy BR editou o livro eletrônico “Os dados e o vírus: pandemia,
proteção de dados e democracia artificial”, com diversas reflexões sobre o tema, que não serão aqui abordadas
por conta dos limites deste texto. O livro referido está disponível gratuitamente em https://conteudo.dataprivacy.
com.br/ebook-os-dados-e-o-virus. Acesso em: 27 jul. 2020.
6. PARIS INNOVATION REVIEW. Predictive justice: when algorithms pervade the law. Disponível em: http://parisin-
novationreview.com/articles-en/predictive-justice-when-algorithms-pervade-the-law. Acesso em: 14 mai. 2019.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 776DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 776 23/02/2021 14:55:2523/02/2021 14:55:25
Para continuar a ler
PEÇA SUA AVALIAÇÃO