Levando os algoritmos a sério
| Autor | Flaviana Rampazzo Soares |
| Ocupação do Autor | Doutora e Mestre em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul (PUC/RS) |
| Páginas | 43-64 |
3
LEVANDO OS ALGORITMOS A SÉRIO
Flaviana Rampazzo Soares
Doutora e Mestre em Direito pela Pontifícia Universidade Católica do Rio Grande do
Sul (PUC/RS). Especialista em Direito Processual Civil. Advogada e Professora.
Sumário: 1. Considerações iniciais. 2. Denições prévias essenciais. 3. Alguns problemas rele-
vantes. 4. A “caixa-preta” dos algoritmos. 5. Algumas propostas viáveis: auditoria e certicação.
6. Princípios que devem nortear a operação dos algoritmos. 7. Gênese do dever de proteção
na dignidade da pessoa humana, na proteção de dados, na intimidade e na vida privada. 8.
Meios de proteção dos usuários: a tutela metaindividual na prevenção e na indenização por
danos. 9. Considerações nais. 10. Referências.
1. CONSIDERAÇÕES INICIAIS
Inegavelmente vivencia-se uma revolução do conhecimento. A circulação da in-
formação proporcionada pela tecnologia atual é um triunfo geoestratégico para quem o
detém, na contemporaneidade. O exercício prático da inteligência humana desencadeou
feitos de grandes impactos no modo de vida no planeta.
Se a internet é um legado das pesquisas posteriores à Segunda Guerra Mundial
tendo como antecessora a rede Arpanet nos anos 1960, nos anos 1990 a World Wide Web
(www) descortinou-se como um horizonte de crescimento das competências humanas,
notadamente do conhecimento, nos mais diversos setores. Sucessivas ondas de aprimo-
ramento ampliaram exponencialmente as potencialidades da rede, passando a ocupar
grande parte da vida, cada vez mais conectada em volume, intensidade e complexidade.
A quantidade de atividades desenvolvidas ou incluídas no ambiente da internet
evidenciou que, sem que certos atos ou decisões sejam automatizados, é impossível que
o ser humano ou órgãos personificados consigam atender aos seus anseios ou objetivos
nesse universo digital.
Em razão dessa necessidade, a inteligência humana foi capaz de desenvolver a
inteligência artificial (IA), trazendo uma nova etapa de desenvolvimento na rede, parte
já conhecida, parte antevista e outra desconhecida. Os algoritmos, e a própria IA, são
onipresentes, prósperos, inevitáveis e invisíveis1, além de apresentarem-se como uma
proposta sedutora de automação, com a disseminação de facilidades e potencialidades
sob infinitas dimensões e de alçarem-se como ferramentas automatizadas de auxílio aos
atos praticados por meio da internet.
1. DOWEK, Gilles; ABITEBOUL, Serge. The age of algorithms. Cambridge: Cambridge University Press, 2020. p. 5-7.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 43DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 43 23/02/2021 14:54:4123/02/2021 14:54:41
FLAVIANA RAMPAZZO SOARES
44
Os algoritmos, no sentido figurado, constroem, decidem e percorrem caminhos
digitais, determinando os trajetos de todos os sujeitos no ambiente digital, por meio da
coleta, da comparação, de cálculos e de ações automatizadas, algumas mediante espe-
cificações predeterminadas, outras por intermédio de permissões de ações decorrentes
de autoaprendizado do próprio sistema.
A IA tem possibilidades infinitas nas suas formas de atuação e na intensidade
destas, tanto quanto o progresso da ciência e as necessidades humanas permitirem, e
o direito atua para regular essa realidade, estabelecendo limites a movimentos virtuais
juridicamente inadmissíveis.
A IA efetiva processos automatizados e, por esse meio, auxilia na escolha da melhor
modalidade de transporte, tendo em vista variados critérios (tempo, preço, facilidade de
acesso, etc.) e o trajeto que o usuário percorrerá ao sair de casa. Ela proporciona a sin-
cronização de agendas, a efetivação de atos cibernéticos com maior rapidez; a realização
de transações bancárias remotamente; a execução de cálculos complexos para diferentes
fins, ou, ainda, a interpretação e o preenchimento de dados em inúmeras operações.
Conforme Balkin, algoritmos podem contratar, projetar holograficamente pessoas,
ameaçar, entreter, copiar, difamar, fraudar, advertir, consolar ou seduzir, em atividades
que “ultrapassam as fronteiras entre o físico, o econômico, o social e o emocional”, de-
vendo-se atentar à “diversidade de usos que as tecnologias terão” e, consequentemente,
à “de danos e ameaças” que elas podem representar2.
Quanto mais complexa se torna a vida humana, mais desenvolvida a tecnologia, e
quanto maior o número de atos, informações ou opções, maior será o peso dos algoritmos
na tomada de decisões, o que se exemplifica nos sites de compras, que indicam produtos
segundo o fator de busca especificado pelo consumidor, ou nos aplicativos de relaciona-
mentos afetivos, que direcionam o interessado a determinados possíveis pretendentes, de
acordo com características específicas previamente fornecidas ou detectadas. Algoritmos
são artefatos técnicos utilitários, ajustados a determinadas necessidades e interesses. Eles
podem poupar tempo do usuário e, ao mesmo tempo, orientar o seu comportamento,
pois eles conhecem, com memória infinita e incansável, as suas preferências, gostos e
características, bem como todos os seus dados.
A IA guardará informações e dados para uso posterior, com o propósito de facilitar o
cotidiano do usuário, bem como para oferecer funcionalidades, benefícios e produtos ou
serviços. Por outro lado, o desafio é o uso indesejável dessa tecnologia: quando sistemas
de IA coletam dados, notadamente os sensíveis3, que podem ser utilizados de forma a
atingir indevidamente interesses juridicamente protegidos.
Os algoritmos são uma espécie de quadro em branco, que tem espaço tanto para
o preenchimento correto quanto incorreto e, no design de interface em páginas da web
2. BALKIN, Jack M. The path of robotics law. California Law Review Circuit, v. 6, p. 45-60, jun. 2015. Trecho da p.
51. Disponível em: https://digitalcommons.law.yale.edu/fss_papers/5150/. Acesso em: 4 out. 2020.
3. De acordo com o art. 5°, II, da Lei Geral de Proteção de Dados Pessoais (LGPD – Lei n. 13.709/2018), dado pessoal
sensível é aquele que diz respeito a “origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato
ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético
ou biométrico, quando vinculado a uma pessoa natural”.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 44DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 44 23/02/2021 14:54:4123/02/2021 14:54:41
Para continuar a ler
PEÇA SUA AVALIAÇÃO