Pode a ética controlar o desenvolvimento tecnológico? O caso da inteligência artificial, à luz do direito comparado
| Autor | Eugênio Facchini Neto e Roberta Scalzilli |
| Páginas | 647-672 |
PODE A ÉTICA CONTROLAR O
DESENVOLVIMENTO TECNOLÓGICO?
O CASO DA INTELIGÊNCIA ARTIFICIAL,
À LUZ DO DIREITO COMPARADO
Eugênio Facchini Neto
Doutor em Direito Comparado pela Università Degli Studi di Firenze. Mestre em Direito
Civil pela USP. Professor titular dos cursos de graduação, mestrado e doutorado em
Direito da Pontifícia Universidade Católica do Rio Grande do Sul. Ex-Diretor da Escola
Superior da Magistratura/AJURIS. Desembargador no Tribunal de Justiça do RS. E-mail:
eugenio.facchini@pucrs.br
Roberta Scalzilli
Mestra e Doutoranda em Direito pela Pontifícia Universidade Católica do Rio Grande
do Sul – PUCRS, Especialista em Direito Empresarial pelo Instituto de Desenvolvimen-
to Cultural (IDC). Professora em cursos de Pós-graduação Lato Sensu. Julgadora do
Tribunal de Ética OAB/RS. Advogada. E-mail: mailto:robertascalzilli@gmail.comro-
bertascalzilli@gmail.com
Sumário: 1. Introdução – 2. Inteligência articial: o despertar de um novo mundo – 3. Sociedade
5.0? – 4. O debate ético necessário sobre potencialidades algorítmicas – 5. Diretrizes éticas para o
desenvolvimento de um design conável do algoritmo de inteligência articial: a experiência da
união europeia – 6. Análise de três modelos distintos: Estados Unidos, Alemanha e China – 7. O
Brasil à procura de um modelo – 8. Considerações nais – 9. Referências.
1. INTRODUÇÃO
A sociedade passa por um período de grandes transformações e mudanças de
paradigmas diante da contínua aceleração tecnológica. Segundo alguns, atualmente
vivemos a Revolução 4.0 ou a Quarta Revolução Industrial1, na qual dispositivos em
rede desconhecem barreiras geográficas e esvanecem diferenças entre o mundo digital
1. As primeiras três teriam sido decorrências da invenção da máquina a vapor (séc. XVIII), da descoberta da
eletricidade (séc. XIX) e do advento da informática (séc. XX) – nesses termos, dentre tantos, ROOS, Gautier;
YEH, Alexandra. L’IA en route vers la quatrième révolution industrielle? Méta-Media, 26 mar. 2017, dispo-
nível em: https://www.meta-media.fr/2017/03/26/lia-en-route-vers-la-quatrieme-revolution-industrielle.
html, acesso em: 28 ago. 2021. HOFFMANN-RIEM reduz a três as grandes ‘revoluções’: “no último milênio,
houve duas inovações tecnológicas ‘disruptivas’ especialmente sustentáveis. (...) Uma dessas inovações foi
a invenção da impressão tipográfica, a outra foi a industrialização. Desde o final do último milênio, estamos
em meio a outra convulsão tecnológica, que provavelmente provocará uma mudança social tão séria quanto
as duas grandes inovações (...). Trata-se da digitalização e, com ela, a transformação digital da economia,
da cultura, da política, da comunicação pública e privada, e provavelmente de quase todas as áreas da vida”
– HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital. Transformação digital – desafios para o
direito. Trad. Italo Fuhrmann. Rio de Janeiro, Forense, 2021, p. 1.
EBOOK TUTELA JURIDICA DO CORPO ELETRONICO.indb 647EBOOK TUTELA JURIDICA DO CORPO ELETRONICO.indb 647 05/07/2022 15:20:5205/07/2022 15:20:52
EUGÊNIO FACCHINI NETO E ROBERTA SCALZILLI
648
e o mundo real. Essa revolução não é apenas digital, mas também biológica (pense-
-se nos produtos da engenharia genética) e física (como se percebe pela tecnologia
robótica), em que o software é montado em um hardware que interage ativamente
com o ambiente.2
Por trás da última grande revolução disruptiva está a inteligência artificial (IA),
que consiste em um conjunto de tecnologias que combinam dados, algoritmos e
capacidade computacional de forma a emular a inteligência humana. Trata-se de ino-
vação incrivelmente vantajosa para a sociedade em geral, desde que seja centrada no
ser humano, ética, sustentável, e respeite os direitos e os valores fundamentais. Esse
deve ser o desafio constante: que a técnica, sempre mutável e de desenvolvimento
ilimitável, respeite eventuais limites impostos pela ética e seus valores estruturantes
e permanentes.
O problema é que as enormes vantagens das múltiplas aplicações da IA em
nossas vidas vêm acrescidas de riscos e perigos já detectados. Não se trata apenas de
riscos potenciais, mas sim de efeitos danosos que concretamente já são percebidos
em muitas situações. Os perigos detectados são relevantes, pois dizem respeito a
atitudes discriminatórias e a potenciais violações a direitos fundamentais e mani-
pulações de todas as ordens.
Tanto as vantagens das aplicações da IA quanto os riscos associados são im-
portantes. Daí porque se revela impensável – além de ineficaz – a proibição pura e
simples desse tipo de inovação. Uma intensa e minuciosa regulação do setor, para
afastar riscos de danos, igualmente revela-se problemática, pois seria grande o risco
de diminuir o ritmo das inovações. Em mercados altamente competitivos, isso poderia
representar o distanciamento de um país da vanguarda do setor.
A opção de deixar ao mercado que se autorregule é igualmente utópico, pois a
lógica que preside a tecnologia é diversa daquela que preside a ética e o direito. Em
termos puramente tecnológicos e científicos, o que pode ser feito, será feito. Even-
tuais limites éticos a determinados resultados, necessariamente devem ser impostos
por normas jurídicas. Cabe ao direito, eticamente inspirado, fixar as fronteiras que
não devem ser ultrapassadas. A heteronomia, destarte, é imprescindível nessa área.
O presente ensaio visa, por meio da metodologia dedutiva de revisão bibliográfica
e legislativa, analisar os desafios éticos para o desenvolvimento de um design con-
fiável de inteligência artificial, analisando como algumas experiências estrangeiras
vêm enfrentando essas questões.
2. COSTA, Augusto Pereira; FACCHINI NETO, Eugenio. Machina Sapiens v. Homo Sapiens e a questão da ju-
risdição: embate ou confraternização? Uma proposta de diálogo entre machine learning, jurimetria e tutelas
provisórias. In: PINTO, Henrique Alves; GUEDES, Jefferson Carús; CÉSAR, Joaquim Portes de Cerqueira
(Coord.). Inteligência artificial aplicada ao processo de tomadas de decisões. Belo Horizonte: D’Plácido, 2020,
p. 347/376, p. 349; e FIDALGO, Vítor Palmela. Inteligência artificial e direitos de imagem. In: LOPES
ROCHA, Manuel; SOARES PEREIRA, Rui (Coord.). Inteligência Artificial & Direito. Coimbra: Almedina,
2020, p. 137.
EBOOK TUTELA JURIDICA DO CORPO ELETRONICO.indb 648EBOOK TUTELA JURIDICA DO CORPO ELETRONICO.indb 648 05/07/2022 15:20:5205/07/2022 15:20:52
Para continuar a ler
PEÇA SUA AVALIAÇÃO