Proteção de dados e decisões automatizadas

AutorAnita Spies da Cunha, Carolina da Rosa Roncatto e Gustavo da Silva Melo
Páginas141-167
PROTEÇÃO DE DADOS E DECISÕES
AUTOMATIZADAS
Anita Spies da Cunha
Mestranda em Direito, vinculada ao Centro de Estudos Europeus e Alemães, na
Universidade Federal do Rio Grande do Sul, orientada pela Profa. Dra. Ms. Lisiane
Feiten Wingert Ody. Graduada em Direito pela Universidade do Vale do Rio dos Sinos
(2017). Advogada.
Contato: anitadacunha@hotmail.com.
Carolina da Rosa Roncatto
Mestranda em Direito Civil e Empresarial pela Universidade Federal do Rio Grande
do Sul – UFRGS. Bacharela em Direito pela UFRGS. Advogada.
Contato: crroncatto@gmail.com.
Gustavo da Silva Melo
Mestrando em Direito Civil e Empresarial pela Universidade Federal do Rio Grande
do Sul – UFRGS. Especialista em responsabilidade civil, contratos e direito imobiliário
pela Pontifícia Universidade Católica do Rio Grande do Sul – PUCRS. Graduado em
direito pela UFRGS. Advogado. gustavosmelo10@gmail.com.
Sumário: 1. Introdução – 2. Decisões automatizadas e riscos; 2.1 Decisões automatizadas e o
proling; 2.2 Discriminação algorítmica – 3. Soluções para evitar discriminações nas tomadas
de decisões automatizadas; 3.1 Direito à revisão e à explicação; 3.2 Governança algorítmica – 4.
Considerações nais – 5. Referências.
1. INTRODUÇÃO
A quarta revolução industrial transforma a atualidade e é marcada pela informa-
ção: os dados, hoje, são o maior ativo econômico do mundo. Essa nova era, chamada
“era Big Data”, é caracterizada pelo volume, variedade e velocidade que os dados
conseguem ser coletados e analisados.1 E essa capacidade dos novos sistemas infor-
máticos representa inúmeras possibilidades, tanto no setor privado como no setor
público, especialmente no que tange à tomada de decisões. Isso porque, a partir da
análise de uma quantidade imensurável de dados, variáveis e não necessariamente
relacionados entre si, é possível obter informações e “perf‌is” e, até mesmo, tomar
decisões sem a interferência humana.
1. Sobre Big Data, ver: TSAI, Chun-Wei et al. Big data analytics: a survey. Journal of Big Data, v. 2, n. 21, 2015.
DOI 10.1186/s40537-015-0030-3.
EBOOK LEI GERAL DE PROTECAO DE DADOS.indb 141EBOOK LEI GERAL DE PROTECAO DE DADOS.indb 141 17/05/2022 17:39:5017/05/2022 17:39:50
ANITA SPIES DA CUNHA, CAROLINA DA ROSA RONCATTO E GUSTAVO DA SILVA MELO
142
As decisões automatizadas já são parte da vida de quase todos os brasileiros,
seja no setor público, com a concessão de benefícios como o auxílio emergencial ou
no julgamento de processos judiciais, seja no setor privado, com o score de crédito,
por exemplo. Ocorre que o processamento de dados, e especialmente as decisões
automatizadas, pode afetar profundamente direitos individuais e coletivos, pelo seu
potencial discriminatório. Apesar disso, apenas recentemente, com a entrada em
vigor da Lei Geral de Proteção de Dados (LGPD), é que as decisões automatizadas
passaram a ser reguladas de forma geral pelo direito brasileiro.2
É nesse contexto que o presente trabalho se insere, marcado não só pela rápida
evolução da temática, eis que o desenvolvimento tecnológico avança a passos largos,
como também pela consequente incipiência do direito brasileiro sobre a matéria.
Diante disso, o presente trabalho buscou identif‌icar os principais riscos relaciona-
dos às decisões automatizadas e, após, apresentar as possíveis soluções jurídicas e
de governança para os problemas encontrados. Trata-se de pesquisa bibliográf‌ica e
documental, com apoio na literatura brasileira e estrangeira.
A primeira parte do texto apresenta as decisões automatizadas, seus conceitos
e aplicações, para, em seguida, problematizar seus usos diante da possibilidade de
discriminação, trazendo exemplos concretos para dimensionar o problema. A partir
disso, a segunda parte do texto busca apresentar possíveis soluções para evitar discri-
minações, tanto no âmbito individual, com os direitos de revisão e explicação, como
no âmbito da governança, apresentando os caminhos possíveis para uma utilização
consciente e responsável das decisões automatizadas.
2. DECISÕES AUTOMATIZADAS E RISCOS
Na primeira parte do presente artigo, serão abordados conceitos importantes a
f‌im de se ter uma melhor compreensão sobre o tema objeto de estudo. Assim, em um
primeiro momento, serão vistos aspectos gerais a respeito da decisão automatizada,
com enfoque em sua def‌inição, aplicabilidade (tanto no setor público, quanto no
privado) e sua relação com a técnica do prof‌iling.
Posteriormente, será abordada a questão da discriminação algorítmica na to-
mada de decisões automatizadas, com destaque para uma conceituação dos termos
“algoritmo” e “discriminação algorítmica” e uma explicação do princípio da não
discriminação. Ademais, com o intuito de melhor dimensionar a relevância e atua-
lidade do tema, serão analisados casos concretos em que houve vieses algorítmicos
na tomada de decisões automatizadas, tanto no Brasil, quanto no exterior.
2. Destaca-se que, mesmo antes da LGPD, as decisões automatizadas já eram objeto da Lei do Cadastro Positivo
e sofriam incidência de princípios e garantias previstos em outras legislações, como no Código de Defesa
do Consumidor e no Marco Civil da Internet.
EBOOK LEI GERAL DE PROTECAO DE DADOS.indb 142EBOOK LEI GERAL DE PROTECAO DE DADOS.indb 142 17/05/2022 17:39:5017/05/2022 17:39:50

Para continuar a ler

PEÇA SUA AVALIAÇÃO

VLEX uses login cookies to provide you with a better browsing experience. If you click on 'Accept' or continue browsing this site we consider that you accept our cookie policy. ACCEPT