Big data, inteligência artificial e policiamento preditivo: bases para uma adequada regulação legal que respeite os direitos fundamentais
| Autor | Cyntia Souza de Menezes - José Ramon Agustina Sanllehí |
| Páginas | 103-135 |
Disponível em: www.univali.br/periodicos
Doi: 10.14210/nej.v26n1.p103-135
103
Licença CC BY:
Artigo distribuído sob
os termos Creative
Commons, permite
uso e distribuição
irrestrita em qualquer
meio desde que o
autor credite a fonte
original.
BIG DATA, INTELIGÊNCIA ARTIFICIAL E
POLICIAMENTO PREDITIVO: BASES PARA
UMA ADEQUADA REGULAÇÃO LEGAL QUE
RESPEITE OS DIREITOS FUNDAMENTAIS
BIG DATA, ARTIFICIAL INTELLIGENCE AND PREDICTIVE POLICING: BASES FOR
PROPER LEGAL REGULATION THAT RESPECTS FUNDAMENTAL RIGHTS
BIG DATA, INTELIGENCIA ARTIFICIAL Y POLICIAMIENTO PREDICTIVO: BASES
PARA UNA ADECUADA REGULACIÓN LEGAL QUE RESPETE LOS DERECHOS
FUNDAMENTALES
Cyntia Souza de Menezes1
José Ramon Agustina Sanllehí2
Resumo: Diante das novas ferramentas de análise policial se por um lado a polícia cumpre uma
função essencial na prevenção, detecção e investigação de um delito, ela não está livre de ter o
seu trabalho limitado e submetido ao princípio da legalidade. A ecácia do trabalho policial não
pode, como sabemos, saltar as garantias próprias de um Estado de Direito e sua atividade deve
submeter-se a critérios transparentes de razoabilidade e controle, entre outros princípios. Não
é legítimo que, para garantir a segurança de todos, seja sacricada a privacidade daqueles que
apenas supercialmente parecem suspeitos. As denominadas investigações prospectivas (phishing
expeditions) são proibidas quando é afetado um direito fundamental que requeira autorização judicial
prévia. À luz das reexões anteriores, entendemos que talvez seja precipitada a aplicação massiva
de sistemas de IA a modelos de polícia preditiva, enquanto (i) estejam pendentes de renação;
(ii) não tenham uma base cientíca sólida, e; (iii) operem em um ambiente onde o marco legal,
regulatório e de proteção cidadã é ainda limitado. Principalmente quando estes sistemas têm o
potencial de afetar de maneira importante a vida de grupos e populações em situação de exclusão
e que se veem cada dia mais vigiados.
Palavras-chave: Big Data; Inteligência articial; Regulação; Policiamiento predictivo.
Doi: 10.14210/nej.v26n1.p103-135
Revista Novos estuDos JuRíDicos - eletRôNica, vol. 26- N. 1 - JaN-aBR 2021 104
Abstract: In light of the new tools of police analysis, while on one hand, the police fulll an essential
role in the prevention, detection and investigation of an oence, on they other, they are not free to
have its work limited and subject to the principle of legality. The eectiveness of police work cannot,
as we know, ignore the guarantees inherent to a State of Law; their activities must be subject to
transparent criteria of reasonableness and control, among other principles. It is not legitimate, for
example, to sacrice the privacy of those who only appear to be suspicious in order to ensure the
safety of all. So-called phishing expeditions are prohibited when a fundamental right that requires prior
judicial authorization is aected. In light of previous reections, we understand that the widespread
application of AI systems to predictive police models may be precipitated, while (i) still requiring
further renement ; (ii) not having a sound scientic basis, and; (iii) operating in an environment
where the legal, regulatory and citizen protection framework is still limited. Especially when these
systems have the potential to signicantly aect the lives of groups and populations in situations of
exclusion and that are increasingly monitored.
Keywords: Big Data; Articial intelligence; Regulation; Predictive policing.
Resumen: Delante de las nuevas herramientas del análisis policial si por un lado la polícia cumple
una función esencial en la prevención, detección e investigación de un delito, ella no está libre de
tener su trabajo limitado y sometido al principio de la legalidad. La ecacia del trabajo policial no
puede, como sabemos, saltar las garantias propias de un Estado de Derecho y su actividad debe
someterse a criterios transparentes de razonabilidad y control, entre otros principios. No es legítimo
que, para garantizar la seguridad de todos, sea sacricada la privacidad de aquellos que apenas
supercialmente parecen sospechosos. Las denominadas investigaciones prospectivas (phishing
expeditions) son prohibidas cuando es afectado un derecho fundamental que requiera autorización
judicial previa. Frente a las reexiones anteriores, entendemos que tal vez sea precipitada la
aplicación masiva de sistemas de IA a modelos de polícia predictiva, mientras (i) estén pendientes
de renación; (ii) no tengan una base cientíca sólida, y; (iii) operen en un ambiente donde el marco
legal, regulatorio y de protección ciudadana es aún limitado. Principalmente cuando estos sistemas
tienen el potencial de afectar de manera importante la vida de grupos y poblaciones en situación de
exclusión y que se ven cada día más vigilados.
Palabras clave: Big Data; Inteligencia articial; Regulación; Policiamiento predictivo.
INTRODUÇÃO
É fato que a evolução das técnicas de coleta, entrecruzamento e tratamento massivo de dados
pessoais na era do Big Data deu à polícia acesso a potenciais meios de vigilância, investigação e controle
sem precedentes. Por meio da utilização destas técnicas, hoje os corpos policiais e de segurança dispõem
de um volume imenso de informações de caráter pessoal sobre os cidadãos. A partir destas informações
coletadas, é possível traçção de prognósticos de risco, cruzar dados
sobre investigações em curso, reduzir o círculo de suspeitos e muito mais. A denominada teoria do
mosaico (em contraste com a teoria das esferas)3 já sinalizava que, por meio da inter-relação entre
3 Sobre a teoria do mosaico e sua implicação nas técnicas de prevenção e persecução do delito por meio de
inteligência articial, ver VALLS PRIETO, J. Problemas jurídico penales asociados a las nuevas técnicas de
prevención y persecución del crimen mediante inteligencia articial. Madrid: Dykinson, 2017.
Disponível em: www.univali.br/periodicos
Doi: 10.14210/nej.v26n1.p103-135
105
vários dados pessoais, é possíção que afetam a privacidade do indivíduo
e que, além disso, proporcionam indícios ou previsões sobre uma possível implicação em atividade
delitiva no passado, presente ou no futuro. Esta intromissão sutil, mediante a soma e combinação de
dados aparentemente irrelevantes, levanta uma questão de limites.
Diante das novas ferramentas de análise policial, convém não esquecer que, se por um lado
a polícia cumpre uma função essencial na prevenção, detecção e investigação de um delito, ela
não está livre de ter o seu trabalho limitado e submetido ao princí ácia do
trabalho policial não pode, como sabemos, saltar as garantias próprias de um Estado de Direito e
sua atividade deve submeter-se a critérios transparentes de razoabilidade e controle, entre outros
princípios. O trabalho policial não deve, portanto, aproveitar-se de qualquer informação pessoal
obtida dos cidadã í
çã
Em uma sociedade com altas doses de intolerância ao risco, a pista escorregadia em direção
a um estado de vigilância total é mais que possível. A tentação é conhecida, especialmente em
situações de emergência social mais ou menos difusa4. No entanto, as razõ ácia nunca
podem passar por cima das razões de legitimidade. Entre as razões de legitimidade, para o que aqui
nos interessa, emergem com particular importância o direito à privacidade e o direito a não sofrer
discriminação por motivos de parcialidades e predições estatísticas ou algorítmicas.
A polícia não pode, portanto, ignorar as normas e utilizar dados pessoais sem controle apenas
porque tem um pressentimento, ou por simples conjectura. Não é legítimo que, para garantir a
seguranç
suspeitos. As denominadas investigaçõão proibidas quando é
afetado um direito fundamental que requeira autorização judicial prévia. Ingerências menos invasivas
devem vir precedidas de suspeita razoável (probable cause), sem prejuí
tenha-se legitimado por lei determinadas atuações ad hoc, procedimentos rotineiros ou controles
aleatórios. Também não pode a polí
realizar ingerências massivas em espaços de privacidade protegidos por lei. Por todas estas razões, é
necessário que os corpos policiais se submetam a um programa de compliance. Um controle rigoroso
poderá dar razão à á-lo, porque o “olfato policial” não costuma
ser espontâneo, senão baseado em dados. Caso contrá
uma informação obtida de forma ilegal. A tíções e por
quais motivos o serviço de imigração e controle de fronteiras seleciona determinados passageiros
ática que, limitando direitos
fundamentais, tenha por base um juízo de prognóstico fráém irá
compensar o cidadã ário baseado em um algoritmo muitas vezes
4 Até mesmo em situações de emergência terrorista (ou sanitária: SARS-CoV-2) é necessário amparar-se legalmente
e limitar a utilização desta cobertura legal ao lapso de tempo que justique tal regime especial.
Para continuar a ler
PEÇA SUA AVALIAÇÃO