Inteligência artificial e direitos humanos: interfaces regulatórias e os desafios

AutorGustavo Silveira Borges e Vivian Maria Caxambu Graminho
Ocupação do AutorPós-Doutor em Direito pela UNISINOS/Mestra em Direito pela Universidade do Extremo Sul Catarinense (UNESC)
Páginas577-599
33
INTELIGÊNCIA ARTIFICIAL
E DIREITOS HUMANOS: INTERFACES
REGULATÓRIAS E OS DESAFIOS
Gustavo Silveira Borges
Pós-Doutor em Direito pela UNISINOS. Doutor em Direito na UFRGS. Professor
Permanente do Programa de Pós-Graduação em Direito da Universidade do Extremo
Sul Catarinense (PPGD/UNESC). E-mail: gustavoborges@hotmail.com
Vivian Maria Caxambu Graminho
Mestra em Direito pela Universidade do Extremo Sul Catarinense (UNESC). Pesquisa-
dora do Grupo de Pesquisa em Novos Direitos e Litigiosidade - PPGD/UNESC. E-mail:
vgraminho@yahoo.com.br
Sumário: 1. Introdução. 2. Desenho histórico-conceitual da Inteligência Articial na sociedade
da informação. 3. Inteligência Articial e os Direitos Humanos: articulação teórica e marcos
regulatórios no Brasil e na Europa. 4. Limites (necessários) dos Direitos Humanos à aplicação
da Inteligência Articial. 5. Considerações nais. 6. Referências.
1. INTRODUÇÃO
A sociedade da informação é constituída por um sem número de conexões de todas
as formas. As relações sociais estão interconectadas em diversos níveis constituindo re-
almente uma sociedade em rede1 de forma quase que universal2,3. Este contexto societário
já recebeu diversos adjetivos na tentativa de tentar compreender este momento, como:
sociedade de consumo4, do risco5 e do cansaço6.
1. O que se intensif‌icou notadamente a partir da revolução da tecnologia e informação, que alcançou todas as áreas da
atividade humana no curto espaço de tempo entre os anos de 1970 a 1990. É a partir de 1970 que se inicia a expansão
global com o surgimento de novas tecnologias como o microcomputador e novos softwares inicialmente no Vale do
Silício, nos Estados Unidos. CASTELLS, Manuel. A Sociedade em rede. São Paulo: Paz e terra, 2005, p. 97-100.
2. CASTELLS, op. cit., p. 70.
3. À despeito de já existirem introduções tecnológicas antes dos anos 70, este é considerado o estopim da difusão das
tecnologias e o início da Revolução Tecnológica; conforme Castells, as diversas criações como o microprocessador,
o microcomputador, novos softwares e as telecomunicações, impulsionaram e interligaram-se para provocar o início
da revolução surgida nos Estados Unidos, mais precisamente, no Vale do Silício. CASTELLS, op. cit., p. 97-100.
4. Bauman, Zygmunt. Globalização: as consequências humanas. Tradução de Marcus Penchel. Rio de Janeiro: Jorge
Zahar Ed., 1999, p. 86.
5. Como alude Beck, na qual existe constantemente a consciência de que estamos em perigo e de que somos impo-
tentes frente a esta situação, já que os riscos contemporâneos são qualitativa e quantitativamente maiores, e com
maior poder destrutivos do que os riscos vividos na sociedade pré-industrial e industrial. O desenvolvimento
tecnológico das ciências, ao tentar alterar a natureza, cria e/ou potencializa, em muitos casos, ambientes de risco,
conforme os debates atuais sobre os (possíveis) riscos das nanotecnologias, clonagem humana, transgênicos etc.
Beck, Ulrich. La sociedad del riesgo. Tradução de Jorge Navarro. Barcelona: Paidós, 1998.
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 577DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 577 23/02/2021 14:55:1523/02/2021 14:55:15
GUSTAVO SILVEIRA BORGES E VIVIAN MARIA CAXAMBU GRAMINHO
578
6
De fato, está ocorrendo o que anteviu Paul Virilio, no início dos anos 90, ao dizer
que está ocorrendo uma aceleração da sociedade.7 A tecnologia propicia, cada vez mais,
a imobilidade, obtida através dos deslocamentos virtuais instantâneos e da telepresença,
proporcionada por meio dos meios de transmissão. No contexto dessa rede, a sociedade
se desloca hiperaceleradamente, e, paradoxalmente, migra para uma inércia domiciliá-
ria.8 Experimenta-se, atualmente, a vida no ciberespaço9. Nesse cenário contemporâneo,
o ser humano abdicou-se de suas crenças em divindades superiores que aliviavam e
davam muitas vezes simbolismo à morte, para adentrar numa era sem barreiras para os
limites das novas tecnologias, de modo que se tornou seu próprio Deus na busca pela
imortalidade e felicidade10.
As novas tecnologias advindas sobretudo a partir da expansão da Internet como a
Inteligência Artif‌icial (IA), a robótica, a realidade virtual, as neurotecnologias, dentre
outras, constituem a Quarta Revolução Industrial11. Vive-se um período histórico inevi-
tável que acompanha benefícios e malefícios às sociedades: a possiblidade de expansão
da liberdade dentro do ambiente virtual, a ampliação do ambiente democrático, melhores
níveis de saúde e educação, são algumas destas possibilidades12. A IA é talvez o principal
instrumento que tem permitido esta rápida e constante transformação social.
A promessa da IA de melhorar a vida em sociedade é enorme. Sistemas baseados
em IA já estão superando os especialistas médicos no diagnóstico de certas doenças,
enquanto o uso de IA no sistema f‌inanceiro está expandindo o acesso ao crédito para
tomadores que antes eram ignorados. No entanto, a IA também tem apresentado muitas
desvantagens e mesmo prejudicado sua promessa considerável. Os sistemas baseados em
IA têm impactado e vulnerado vários direitos, como o direito à privacidade, uma vez que
dependem da coleta e do uso de grandes quantidades de dados para fazer previsões que,
em vários casos, têm servido para perpetuar os padrões sociais existentes de preconceito
e discriminação. Nesse sentido, é necessário – e urgente – incorporar considerações éti-
cas ao desenvolvimento e implantação da IA em razão dos impactos negativos e efeitos
deletérios sobre os direitos humanos. As implementações de IA, são capazes de impactar
toda uma gama de direitos humanos.13
6. Conforme Han, um tempo acelerado nesta sociedade do cansaço, em que há um incremento de uma sociedade
do doping uma vez que se tem que se tem de suportar as pressões diárias por desempenho. Han, Byung-Chul. A
sociedade do cansaço. Editora Vozes, 2015, p. 71.
7. Virilio, Paul. Inércia polar. Tradução de Ana Luísa Faria. Lisboa: Publicações Dom Quixote, 1993.
8. Virilio alude que “a ‘era do tempo intensivo’ já não é a era do meio de transporte físico. É, contrariamente ao ‘tempo
extensivo’ de outrora, o domínio exclusivo do meio de telecomunicação, ou por outras palavras, a ‘era da imobilidade
e da inércia domiciliária’.” Virilio, op. cit., p. 39.
9. Nas palavras de Levi, que pode ser entendido como o “estabelecimento de espaços virtuais de trabalho e de comu-
nicação descompartimentalizados, cada vez mais independentes de seus suportes”. LÉVY, Pierre. Cibercultura.
Tradução de Carlos Irineu da Costa. São Paulo: Editora 34, 2010, p. 42.
10. HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã. Editora Companhia das Letras, 2016, p. 25-28.
11. SCHWAB, Klaus; DAVIS, Nicholas. Aplicando a quarta revolução industrial. Edipro, 2019, p. 32.
12. SCHWAB; DAVIS, op. cit., p. 38.
13. Os autores propõem que a melhor maneira de entender o impacto da IA nos direitos humanos é examinando a sua
diferença, tanto positiva quanto negativa, e que a introdução da IA em uma determinada instituição social causa
impactos sobre os direitos humanos. Partem de duas premissas: 1. Determinar os impactos da IA sobre os direitos
humanos não é tarefa fácil, pois essas tecnologias estão sendo introduzidas e incorporadas em redes sociais exis-
tentes instituições, que não são neutras em termos de direitos. 2. Cada aplicação de IA impacta uma inf‌inidade de
direitos em complicados e, ocasionalmente, de contraditórias maneiras. Explorando esses relacionamentos dentro
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 578DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 578 23/02/2021 14:55:1523/02/2021 14:55:15

Para continuar a ler

PEÇA SUA AVALIAÇÃO

VLEX uses login cookies to provide you with a better browsing experience. If you click on 'Accept' or continue browsing this site we consider that you accept our cookie policy. ACCEPT