Potencial e limites do uso de algoritmos de decisões automatizadas no controle da lavagem de dinheiro
| Autor | Matheus de Alencar |
| Páginas | 515-545 |
515
POTENCIAL E LIMITES DO USO DE ALGORITMOS DE
DECISÕES AUTOMATIZADAS NO CONTROLE DA
LAVAGEM DE DINHEIRO1
Matheus de Alencar2
Resumo: O objetivo do presente texto é analisar os potenciais ganhos
e as eventuais dificuldades no uso de sistemas de decisões
automatizadas – como a inteligência artificial e outros – para prevenir,
detectar e investigar lavagem de capitais. Atualmente, novas
tecnologias têm sido incorporadas no tecido social e isso inclui o
universo do trabalho das UIFs, especialmente no trabalho de receber e
processar informações de operações suspeitas de relação com o crime
fornecidas pelos agentes obrigados do art. 9º da Lei 9.613/98. Contudo,
em adição às dificuldades já identificadas que são impostas pelas novas
tecnologias, o escopo específico da lavagem de capitais apresenta
desafios particulares, em especial com relação ao viés de dados.
Visando a descrição e solução dos problemas, parte-se dos conceitos
envolvendo os sistemas de decisões automatizadas e como eles são
efetivamente utilizados no âmbito da prevenção à lavagem de capitais.
1 Este texto é uma versão traduzida, revisada, atualizada e resumida d e: AGAPITO,
Leonardo Simões; ALENCAR E MIRANDA, Matheus de; JANUÁRIO, Túlio Felippe
Xavier. On the Potentia lities and Limitations of Autonomous Systems in Money
Laundering Control. In: Revue Internationa le de Droit Péna l, v. 92, pp. 87-105, 2021.
Os coautores concederam a auto rização para a tradução, que foi feita por mim, ass im
como toda a revisão, atualização – especialmente com relação aos conceitos de
sistemas de decisões automatizadas, inteligência artificial, s istemas autônomos e seus
efeitos para o direito penal – e resumo do seu conteúdo.
2 Matheus de Alencar e Miranda é Doutorando e Mestre pela UERJ, Máster e
Especialista em Cumplimiento Normativo Penal pela UCLM e graduado em Direito
pela UNESP. Foi assessor criminal do MPRJ de 09/2017 a 01/2019 e assessor em
direito e tecnologia da mesma instituição de 02/2019 a 04/2022. Representou o MPRJ
como colaborador ENCCLA nos anos de 2020 (Transparência Pública) e 2021 (Big
Data e Inteligência Artificial nas atividades de in vestigação). Advogado e consultor
em Direito e Tecnologia desde 05/2022. Contato:
eus-de-alencar-e-miranda-778bb518b/>.
516
Após, são demonstradas as dificuldades encontradas nesse contexto,
partindo da insuficiência, baixa qualidade e imprecisão da informação
que alimenta os sistemas, para chegar nas dificuldades de compreender
explicar e permitir a refutação das conclusões que eles atingem.
Partindo dessa análise, lança-se mão de método dedutivo para propor
algumas possíveis soluções que permitiriam uma interação mais
eficiente e eficaz na interação entre humanos e os sistemas tecnológicos
no campo do controle e do processo penal da lavagem de capitais.
Palavras-chave: direito penal; lavagem de dinheiro; algoritmos;
inteligência artificial; decisões autônomas.
Introdução
É comum a defesa da ideia de que uma estratégia mais eficaz
para lidar com a grande criminalidade organizada e transnacional é
atacar o dinheiro que torna o crime atrativo e que alavanca a atividade
criminosa. Com base nessa ideia, a persecução do delito de lavagem de
capitais se tornou um consenso internacional em termos de política
criminal nos últimos trinta anos.3
Alguns desafios se apresentam atualmente para a rede de
controle da lavagem de capitais, sendo possível citar o efeito da
globalização facilitando a prática do crime, a profissionalização do
crime e a habilidade de adaptar, aumentar a complexidade e criar novos
métodos de cometer as infrações.4 Por isso, a definição das estratégias
de prevenção e repressão do delito requerem constante atenção de quem
desenha as políticas de enfrentamento ao fenômeno.
Considerando se tratar de problema comum a vários países,
essas políticas de enfrentamento têm sido desenvolvidas com base em
3 Cf.: BOTTINI, Pie rpaolo Cruz. Aspectos Conceituais da Lavagem de Dinheir o. In:
BADARÓ, Gustavo Henrique; BOTTINI, Pierpaolo Cruz. Lavagem de Dinheiro:
Aspectos Penais e Processuais Penais: Comentários à Lei 9.613/98, com alterações da
Lei 12.683/12. 4ª ed. São Paulo: Thomson Reuters Brasil, 2019. pp. 25-29.
4 BLANCO CORDERO, Isidoro. El Delito de Blanqueo de Capitales. 2ª ed. Aranzadi,
2002. pp. 51-55.
517
padronização da regulação a nível mundial. Por isso, as recomendações
do GAFI e articulações do grupo Egmont são rapidamente assimiladas
em vários países, incluindo o Brasil. Dentre essas recomendações,
destaca-se a imposição de rigorosos padrões de comunicações de
determinadas operações financeiras por agentes obrigados listados na
Lei 9.613/98, tratados como “gatekeepers”, aqueles que teriam deveres
de evitar a entrada de capitais ilícitos no sistema formal.
Essas comunicações terminam por formar uma grande e
importante base de dados no âmbito dos órgãos reguladores, seja a
agência reguladora de setor (especialmente o BACEN) ou a própria UIF
brasileira. O uso dessa informação para alimentar novas tecnologias no
controle do crime de lavagem de dinheiro é algo central para o bom
funcionamento da regulação. Contudo, essa não é uma tarefa simples.
Tendo as dificuldades em vista, o principal objetivo deste texto
é apontar como os problemas de regulação e aqueles envolvendo os
dados oriundos das comunicações obrigatórias podem afetar a
eficiência do controle da lavagem de capitais, incluindo o uso de
sistemas de decisões autônomas para detectar e prevenir operações
criminosas. Em seguida, pretende-se propor algumas alternativas para
uma melhor interação entre regulação, ciência de dados e tecnologia,
com vistas a aprimorar a detecção e repressão da lavagem de capitais.
Para isso, inicia-se pela discussão do conceito de tecnologias de
decisões automatizadas, sua intersecção com a inteligência artificial e
como elas se aplicam no cenário do controle da lavagem de capitais.
Em seguida, são apontadas as principais limitações e obstáculos do uso
dessas tecnologias no sistema de controle e, por fim, demonstra-se
como uma nova estrutura poderia ser desenhada com foco em mitigar
os problemas de viés de dados e reforçar a imposição da aplicação das
regras, com foco em tornar o sistema de prevenção mais eficiente.
Sistemas de Decisões Automatizadas, Automação Pré-
Programada, Inteligência Artificial e Algoritmos de
Decisões Autônomas
É comum atualmente o incentivo à automação de todo tipo de
tarefas, incluindo aquelas relacionadas com o sistema de justiça
518
criminal. Em particular, destaca-se a automação de tarefas repetitivas e
de análise de dados para investigações. Nesse contexto, a automação
ainda ocorre principalmente por meio de sistemas pré-programados,
inclusive aqueles que são capazes de tomar decisões de forma
aparentemente autônoma, que não precisam de comando humano
imediato. Contudo, é inegável que se percebe uma grande expansão da
automação a partir do aprimoramento e expansão das técnicas de
machine learning e deep learning. Isso enseja fortes discussões acerca
da inteligência artificial.5
Sobre o tema, conforme Santosuosso e Bottalico, ainda há
alguma confusão nas ciências criminais e no sistema de justiça criminal
com relação à distinção entre automação e inteligência artificial.6
Em seguida, conforme bem pontuado por Fabiano Hartmann e
Roberta Zumblick, o que importa para o estudo da inteligência artificial
é o reconhecimento de que se trata de um guarda-chuva que abriga
inúmeros conhecimentos (abarcando subcampos como, por exemplo:
visão, robótica, machine lear ning, processamento de linguagem
natural, planejamento, dentre outros), científicos e práticos, e a
aplicação de funções efetivamente cognitivas sendo desempenhadas
por máquina.7 A automação seria, então, aquilo que não foca em
funções efetivamente cognitivas. Ou seja, aquilo que se assemelha ao
comportamento humano de entender contextos e engendrar soluções
seria a inteligência artificial, enquanto aquilo que atinge objetivos por
meio da programação pré-definida seria a automação.
5 De acordo com Fabiano Hartmann e Roberta Zumblick, a inteligência artificial opera
com a identificação de padrões na base de dados disponível, priorizando, dentro deles,
comportamentos que têm efeitos positivos com relação aos objetivos estipulados para
a máquina. Largamente usada para encontrar padrões e classificar documentos, essa
tecnologia expandiu para outras funções. A ver: PEIXOTO, Fabiano Hartmann;
SILVA, Roberta Zumblick Martins da. Inteligência Artificial e Direito. Curitiba:
Alteridade Editora, 2019.
6 Sobre os conceitos e distinções, conferir: SANTOSUOSSO, Amedeo; BOTTALICO,
Barbara. Autonomous Systems and the Law: Why Intelligence Matters. In:
HILGENDORF, Eric; SEIDEL, Uwe (ed). Robotics and the Law: Legal Issues Arising
from Industry 4.0 Technology Programme of the German Federal Ministry for
Economic Affairs and Energy. Nomos, 2017.
7 HARTMANN Peixoto, Fabiano; SILVA, Roberta Zumblick Martins da. Op. Cit., n.r.
3, pp. 20 e ss.
519
Considerando a pluralidade de tecnologias que pode ser
enquadrada nos conceitos acima, os efeitos da intervenção de cada uma
são distintos e, com isso, mudam os deveres e as consequências
jurídicas. Isso sugere um aprofundamento na descrição e distinção
dessas tecnologias.
Dito isso, de modo a buscar alternativas para evitar certas
confusões conceituais e, ao mesmo tempo, trazer a segurança necessária
ao direito quando lida com palavras e significados diversos, algumas
terminologias específicas serão adotadas aqui. Sem que se estenda no
debate da razão de cada um dos termos, algo que não caberia aqui8, eles
estarão especificados abaixo com o intuito de permitir maior precisão
técnica no diálogo com a ciência da computação e na abertura do direito
penal a seus inputs.
O primeiro conceito é o de (1) sistemas de decisão
automatizadas. Eles seriam sistemas que demonstram capacidade de
análise de seu ambiente e tomada de decisão – conseguem entender
inputs de dados e executar comandos automaticamente (outputs) –, sem
a necessidade de um comando humano atual e imediato (aparentando
autonomia), com o fim de atingir objetivos específicos, podendo ser
puramente baseados em software ou estar acoplados a dispositivos de
hardware.9
8 A discussão completa que justifica os termos, com especial foco na relação com suas
consequências para o direito pode ser encontrada em: MIRANDA, Matheus de Alencar
e. Tecnologia, decisões automatizadas e responsa bilidade penal. 2022. Tese
(Doutorado em Direito Penal). Orientadores: Prof. Dr. Artur de Brito Gueiros Souza e
Prof. Dr. Fernan do Andrade Fernandes (Coorientador). Faculdade de Direito,
Universidade do Estado do Rio de Janeiro. 2022. (no prelo).
9 Fez-se aqui referência ao conceito de inteligência artificial da EUROPEAN
COMMISSION. Artificial Intelligence for Eur ope. COM(2018) 237 final, 25 April
2018. No original: “systems that display intelligent behaviour by analysing their
environment and taking actions – with some degree of autonomy – to achieve specific
goals. AI-based systems can be purely software-based, acting in the virtual world (e.g.
voice assistants, image analysis software, search engines, speech and face recognition
systems) or AI can be embedded in hardware devices (e.g. advanced robots,
autonomous cars, drones”. Como se nota, o conceito de inteligência artificial da
Comissão Europeia permite o enquadramento de várias tecnologias, confundindo
quando o output da tecnologia é pré-programado e quando ele é uma solução própria
da máquina, resultado de sua inteligência artificial. Não é difícil entender que a forma
de produção de ambos e os deveres de quem produz são bastante d istintos e, logo, as
520
A razão para trazer o conceito em questão é que o ponto
principal dessas novas tecnologias que gera consequências inéditas para
o direito é a capacidade de decisões automatizadas, que distancia uma
conduta de máquina juridicamente relevante de uma figura humana.
Sua principal característica, portanto, é a execução de conduta que não
necessita de um input humano imediato.
O segundo conceito é o de (2) inteligência artificial. Nesse
sentido, desde um aspecto mais técnico das ciências da computação,
mas com foco nas consequências jurídicas da tecnologia, a inteligência
artificial seria a inteligência de máquina, capaz de resolver um
problema “de maneira similar a um ser humano”.10 Isso significaria ter
capacidade de entender o entorno através dos inputs de dados
necessários para a tomada de decisão e, somente então, escolher um
curso de ação, dentre vários possíveis, que resolva o problema posto.
Tecnicamente, a “escolha do curso de ação” é somente uma resposta da
máquina a um problema matemático, escrito em código, razão pela qual
é chamada de output, uma decisão distinta do livre-arbítrio humano.
É importante ter em conta que as manifestações mais sensíveis
da inteligência artificial atualmente são o machine learning e o deep
learning, que garantem o aprendizado de máquina e levam a aparência
de inteligência do comportamento automatizado a outro nível. Sua
principal característica é a capacida de de aprender a partir de bases de
dados e padrões encontrados, assim encontrando soluções própria s
para atingir os objetivos específicos.
responsabilidades não poderiam ser somente equiparadas como o conceito da
Comissão Europeia poderia fazer crer a princípio. Por essa razão, ele não seria o ideal
para a análise empregada pelos penalistas, nem seria um bom referencial para cópia
pela legislação brasileira ainda em discussão no Congresso Nacional. Diante da falta
de um conceito jurídico aceitável no exterior e da falta de um conceito na legislação
brasileira, parti aqui para a abordagem utilizando conceituação própria inspirada na
literatura de ciências da computação, mas diferenciando com o foco nas consequências
jurídicas, p ermitindo a penetração das ciências da computação na análise científica
jurídico-penal.
10 Sobre isso, cf.: HARTMANN Peixoto, Fabiano; SILVA, Roberta Zumblick Martins
da. Op. Cit., n.r. 3, pp. 20 e ss.
521
Em seguida, o terceiro conceito é o que aqui11 será chamado de
(3) “automação pré-programada”12 ou “sistemas pré-programados de
automação”13. Eles seriam sistemas com capacidade de reagir ao
ambiente sem a necessidade de um input humano naquele momento de
reação, mas incapazes de aprender e criar uma solução para um
problema posto. Ainda que apresentem comportamento que aparente
inteligência, em razão da capacidade do output de atingir determinado
objetivo ou resolver um problema qualquer, esse comportamento é
condicionado e não inteligente, posto que os sistemas somente reagem
ao ambiente com respostas pré-programadas (desde a programação de
seu código) e não aprendem ou criam efetivamente uma solução.
Essa tecnologia serve para tarefas que vão desde a automação
no ambiente de produção industrial até a automação de tarefas de
classificação do risco de operações suspeitas de lavagem de dinheiro,
ponto de maior atenção deste trabalho. Sua principal característica é que
a forma como atinge seus objetivos vem a partir de programação que
11 Na versão original do artigo, utilizamos o termo “sistemas autônomos”, porque esses
sistemas pré-programados são independentes de input humano imediato e aparentam
autonomia de forma similar à inteligência artificial. Aqui, optei por essa nomenclatura
para conseguir fazer outra distinção abaixo, acerca da aparência de autonomia das
decisões, e para manter maior clareza com o termo escolhido, tornando mais óbvio o
assunto que se está a tratar. É de se ressaltar, todavia, que o objetivo final nesta versão
e naquela é o mesmo: apontar que já existem muitos “sistemas autônomos” ou
“sistemas pré-prog ramados de automação” no sistema de justiça criminal,
especialmente em matéria de lavagem de dinheiro, percebendo-se grande dependência
da tecnologia na determinação das investigações penais.
12 Cf.: SANTOSUOSSO, Amedeo; BOTTALICO, Barbara. Op. Cit., n.r. 4, pp.35 e ss.
No texto, Santosuosso e Bottalico trazem o problema da confusão entre inteligência
artificial e automação e se aprofundam no conceito de sistemas autônomos. Aqui,
contudo, retorno à necessidade de discutir também os impactos da automação para o
direito penal, trazendo a nomenclatura “automação pré-programada” em referência ao
problema da confusão entre inteligência artificial e automação e deixando claro que a
automação tem as respostas definidas de forma prévia pelo processo de construção do
produto tecnológico.
13 Sistemas pré-programados é o termo preferido empregado por Susana Aires de Sousa
em: SOUSA, Susana Aires d e. “Ño fui eu, foi a ḿquina”: teoria do crime,
responsabilidade e inteligência artificial. In: RODRIGUES, Anabela Miranda (coord.).
A inteligência artificial no direito penal. Coimbra, Portugal: Almedina, 2020, pp. 6 8-
96. Aqui acrescentei o “de automação” porque qualquer software básico é um sistema
pré-programado, mas é na automação de tarefas e no distanciamento do elemento
pessoa (para a aproximação ao elemento máquina) que o problema para o direito surge.
522
trabalha com várias condições (“if”, “so”, “then”). Ainda que as
condições estejam pré-definidas, não necessariamente a solução é de
baixa complexidade. A quantidade de condicionantes pode ser tão
grande que entender a forma como as diversas condições se alinham
para gerar um output específico pode ser tarefa muito difícil e só
possível a partir de testes direcionados.
Note-se enfim que as duas espécies de sistemas de decisões
automatizadas acima (2 e 3) demonstram algum grau de autonomia e
algum grau de dependência com relação aos humanos. O fato de não
precisarem da tutela humana imediata para emitir outputs poderia ser
entendido como “algum grau de autonomia”, mas, ao mesmo tempo,
ambos precisam de uma programação prévia, seja para (3) estabelecer
a própria resposta ao problema, ou para (2) estabelecer qual o objetivo
e o método de aprender a atingi-lo, assim apresentando algum grau de
dependência.
Por fim, o último conceito utilizado é o de (4) algoritmos de
decisões autônomas. A escolha por “algoritmos” se dá em razão do fato
de que todo sistema de tecnologia da informação é um algoritmo, que
se refere a um processo, um conjunto de atos necessários e programados
(codificados) 14 que são executados com a finalidade de realizar uma
tarefa, culminando na sua finalização. Por outro lado, a escolha pelo
termo “decisões autônomas” se dá porque a autonomia das decisões em
questão é a autonomia de máquina (implicitamente amarrada ao
conceito em razão da precedência do termo “algoritmo”).
Esse conceito importa aqui porque tanto para a (2) inteligência
artificial quanto para os (3) sistemas pré-programados de automação, o
output entregue pela máquina a partir de determinado input pode ou não
ser (a) previsto, (b) esperado, (c) compreendido e (d) explicável por um
único programador. Para os casos em que todas as condições são
atingidas, pode-se falar em um (I) conjunto de tecnologias de baixa
14 Aqui, mais do q ue nunca, o conceito de sistema apresenta sua completa adequação
ao objeto estudado: um sistema (algoritmo) é um conjunto de elementos organizados
por um código (programação), que visa diminuir a complexidade da relação entre
sistema (máquina) e ambiente (input de dados e output da máquina) para direcionar a
máquina a produzir seus efeitos na realidade (cumprir seus objetivos).
523
complexidade, pois são mais transparentes e condicionadas à
programação, o que significa que podem ser consideradas somente uma
extensão física de quem as programou. Já nos casos em que essas
condições não são atingidas com facilidade, percebe-se que os graus de
transparência e domínio diminuem sensivelmente, criando situações de
opacidade e autonomia de máquina15. Neste caso, poder-se-ia falar em
um (II) conjunto de tecnologias de alta complexidade.
São os dois conjuntos de alta complexidade (um de inteligência
artificial e outro de automação pré-programada), considerados
separadamente (uma vez que sua criação é totalmente distinta, gerando
possibilidades e problemas distintos para o direito), que vão interessar
mais ao sistema de justiça criminal, posto que são aqueles que mais
distanciam a decisão de máquina de uma conduta humana, tão
importante para o sistema em questão (considere-se, por exemplo, os
princípios do Juiz Natural e do Promotor Natural). Eles formam o
conceito de algoritmos de decisões autônomas, cuja principal
característica é que a decisão da máquina não estará diretamente
vinculada a um humano e a to de programação isolados, sendo difícil
até mesmo de entender a causa raiz do comportamento específico
observado.
Note-se que os quatro (4) conceitos acima são somente uma
proposta de padronização para gerar maior clareza para o direito acerca
do objeto de análise científica.
Para este trabalho, em particular, a principal razão para a
distinção, além da questão técnica, é apontar que enquanto muito se
discute sobre os danos que a inteligência artificial poderia causar no
sistema de justiça criminal16, pouco se fala sobre as outras categorias de
15 O termo “de máquina” é proposital, para evitar aqui as discussões sobre a autonomia
humana no direito penal em comparação com a autono mia de máquina. Por ora,
considere-se somente a autonomia de máquina como uma autonomia aparente, criada
em razão da capacidade da máquina de tomar decisões e praticar condutas que estão
distanciadas de pessoas ao pon to de gerarem a impressão de serem condutas próprias
da máquina.
16 Um trabalho que resume os problemas da inteligência artificial principalmente, mas
também de outros algoritmos, de forma destacada, é o artigo de Laura Schertel e
Marcela Mattiuzzo: MENDES, Laura Schertel. MATTIUZZO, Marcela.
524
algoritmos de decisões autônomas que já estão totalmente incorporados
e são mesmo necessários para o andamento das ações de detecção e
repressão penal. O principal caso dessa ocorrência é justamente o
sistema de controle à lavagem de dinheiro a nível internacional, e em
especial no Brasil, como se demonstrará adiante.
Ao mesmo tempo, ao se ter em mente a distinção, torna-se
possível compreender o estado da arte da tecnologia e quais são as
melhorias possíveis em cada tipo de sistema. Ao final, o que se pretende
aqui é justamente propor alternativas para as tecnologias no âmbito do
controle da lavagem de capitais.
Aplicação de Algoritmos de Decisões Autônomas na Rede de
Controle da Lavagem de Capitais e Codependência entre
Tecnologia e Regulação
Especificamente com relação ao uso atual dessas tecnologias, o
cenário da prevenção ao crime do art. 1º da Lei 9.613/98 no Brasil é
bastante incentivador. Como a prevenção de sua prática requer uma
provisão de informação constante por parte de agentes obrigados,
estipulados por lei (art. 9º da Lei 9.613/98), os dados fornecidos são
direcionados à Unidade de Inteligência Financeira do país (UIF) e
formam uma grande base de dados à disposição do órgão no exercício
de suas funções. Conforme a base de dados existe, já se tem aí a matéria-
prima necessária para desenvolver a tecnologia.
E o desenvolvimento da tecnologia pode ser aproveitado por
diferentes países, uma vez que a regulação em questão é uma situação
internacionalmente padronizada. O principal marco nesse sentido é o
primeiro Acordo da Basiléia, denominado oficialmente de International
Convergence of Capital Measurement and Capital Standards, datado de
1988, que foi criado com o objetivo de regular o funcionamento dos
Discriminação a lgorítmica: conceito, fundamento legal e tipologias. In: RDU, vol. 16,
n. 90, 2019, pp. 39-64. Porto Alegre, nov-dez, 2019.
525
bancos e instituições financeiras.17 Para atingir seus objetivos, o
documento dedicou atenção especial para o estabelecimento de padrões
de gerenciamento de riscos, incluindo o de lavagem de capitais
inundando o sistema financeiro. É importante mencionar que os três
acordos de Basileia subsequentes miraram na intensificação da
financeirização, das fraudes e das crises econômicas da década de 1990
e de 2008, demonstrando que os sistemas financeiros já estavam
altamente integrados desde então.18
A integração dos sistemas financeiros teve um impacto inegável
nos mecanismos de controle de lavagem de capitais e a necessidade de
coordenação para atingir objetivos comuns. Assim, seguindo as
recomendações do principal órgão de integração internacional em
matéria de prevenção da lavagem de capitais, o GAFI, dois tipos de
mecanismos de controle principais se apresentaram: (a) os deveres de
informar e (b) os deveres de compliance.
Com respeito aos (a) deveres de informação, sugere-se I)
Cooperação nacional e coordenação de mecanismos (Recomendação n.
2); II) “que leis de sigilo financeiro institucionais não inibam a
implementação das Recomendações do GAFI” (Recomendação n. 9);
III) Política de conheça seu cliente, quando certas condições são
observadas e seguindo certos procedimentos (Recomendação n. 10);
IV) guarda de histórico de informações (Recomendação n. 11); V)
Reporte de transações suspeitas (Recomendação n. 20) e; VI)
Transparência e propriedade benéfica de acordos jurídicos
(Recomendação n. 25).19
Com relação aos (b) deveres de compliance, é recomendado que
Estados, ao implementar um modelo de ação, observem as maiores
fontes de risco às quais as instituições estão sujeitas, promovendo
17 BASEL COMMITTEE ON BANKING SUPERV ISION. Interna tional
Convergence of Capital Measurement and Cap ital Standards. Basel Capital Accord I.
Basileia, 1988. p. 1.
18 WENT, Peter. Basel III Accord: Where Do We Go From Here? Out., 2010. p. 11.
Disponível em: . Com acesso em:
13/07/2021.
19 FATF. International Standar ds on Combating Money Laundering and the Financing
of Terrorism & Pro liferation. The FATF Recommendations. 2012-2 020.
526
programas que efetivamente previnam o financiamento ao terrorismo e
a lavagem de capitais. Essa mesma análise é exigida de instituições e
profissionais que operam no sistema financeiro.20
Com isso, nos setores econômicos sensíveis à lavagem, algumas
pessoas são selecionadas para atuar como gatekeepers21 (porteiros,
vigias do sistema) contra atividades suspeitas, prevenindo a
consumação do crime e reportando-o para sua agência reguladora.
Abordando esse potencial de prevenção como uma premissa, as
legislações ao redor do mundo focaram intensamente em criar deveres
para esses agentes econômicos. Contudo, essa premissa é imprecisa
porque o modelo promove dependência dos agentes de controle sobre a
informação providenciada pelos gatekeepers e a qualidade dessa
informação não é consistente. Como essa dependência pode gerar uma
série de problemas, há necessidade de implementar um novo framework
que possa mudar essa correlação de forças com a implementação de
novos mecanismos, especialmente no que se refere a buscar não mais
informação, mas sim a boa informação.
Com respeito à UIF, o GAFI reforça a importância de sua
autonomia e papel ativo, recomendando uma série de responsabilidades
e poderes às autoridades competentes (Recomendações 26-35).22 Uma
das tarefas mais importantes da UIF é receber as comunicações
relatadas e quaisquer outras informações relacionadas a lavagem de
capitais, com acesso a bases de dados para promover suas análises.23
20 Ibid.
21 Sobre o tema, ver: OLIVEIRA, Ana Carolina Carlos de. La vagem de dinheiro:
responsabilidade pela omissão de informações. São Paulo: Tirant lo Blanch, 2019. pp.
30 e ss.
22 No documento original do GAFI (FATF): “29. Fin ancial intelligence units *
Countries should establish a financial intelligence unit (FIU) that serves as a national
centre for the receipt and analysis of: (a) suspicious transaction reports; and (b) other
information relevant to money laundering, associated predicate offences and terrorist
financing, and for the dissemination of the results of that analysis. The FIU should be
able to obtain additional information from reporting entities, and should have acces s
on a timely basis to the financial, administrative and law enforcement information that
it requires to undertake its functions properly”. Cf.: FATF. Op. cit., n.r. 17., 2020.
23 MAILLART, J ean-Baptiste. Anti-Money Laundering Architectures: Between
Structural Homogeneity and Functional Diversity. In: VOGEL, Benjamin;
MAILLART, Jean-Baptiste (ed.). National a nd International Anti-Money Laundering
527
Ocorre que a base de dados é demasiado grande e, dessa forma, torna-
se impossível verificá-la manualmente. Por essa razão, há crescimento
na demanda por automação da verificação de padrões que podem
sinalizar crimes nas operações comunicadas. Assim, são criadas as
condições para o desenvolvimento de (a) sistemas pré-programados de
automação das tarefas que seriam manualmente realizadas pelos
agentes da UIF e de (b) sistemas de inteligência artificial (ainda não
existentes, mas) capazes de resolver o problema em questão em larga
escala. No Brasil, as comunicações recebidas pela UIF são submetidas
a um (a) sistema pré-programado de automação para análise e
distribuição dos casos para os analistas técnicos (chamado SISCOAF,
em referência ao antigo nome da UIF). A comunicação e seu
procedimento são registrados no mesmo software, de modo que a base
de dados possa ter um volume em constante crescimento que poderá
servir para subsidiar a resolução de casos subsequentes.
Ainda, no sistema brasileiro, conforme o procedimento
supramencionado, o Centro de Gestão de Risco e Prioridade (CGRP)
avalia cada comunicação e cria uma pasta específica para cada caso. Os
casos são ranqueados pelo CGRP de acordo com o risco apurado, em
um procedimento que já segue a lógica de um sistema pré-programado
de automação: maior o risco apontado pelo sistema, maior atenção será
dada ao caso.
Essa lógica é a mesma aplicada a várias (b) ferramentas de
inteligência artificial: identificação de padrões na base de dados e
detecção de outras operações similares e novos parâmetros. Nesse caso,
se uma ferramenta dessa espécie fosse desenvolvida especificamente
para aprimorar a eficiência no controle à lavagem de dinheiro diante das
bases de dados atualmente disponíveis, poderia focar no aprendizado de
padrões que signifiquem lavagem de capitais e posteriormente na
correlação entre grupos de operações e esses padrões descobertos. O
output então seria similar ao que se espera da matriz de risco da
automação pré-programada: maior a correlação entre operações e
Law: Developing the Architecture of Criminal Justice, Regulation and Data Protection.
Intersentia, 2020. pp. 839 e ss.
528
padrões, maior é o vetor de probabilidade de ocorrência da lavagem de
dinheiro na matriz de risco.
Em resumo, pode-se afirmar que o atual modelo de prevenção à
lavagem de dinheiro e financiamento ao terrorismo tem a automação na
base de sua priorização de investigações. Pode-se observar que, se por
um lado o procedimento é atualmente realizado por um sistema pré-
programado de automação com alguma intervenção humana, por outro
lado, o setor tem enorme potencial para a aplicação da inteligência
artificial no futuro, considerando o uso de grandes bases de dados para
a identificação de padrões e subsequente detecção de operações
similares ou novos padrões de lavagem de capitais.
As consequências da automação no procedimento podem ser
vistas na continuidade da investigação até chegar ao processo penal pela
prática de lavagem de dinheiro. Atualmente, os Relatórios de
Inteligência Financeira (RIFs) são a base da investigação em matéria de
lavagem e, se as análises autônomas indicam sinais de lavagem de
capitais, o RIF deve ser tocado adiante para as autoridades competentes,
junto da evidência coletada. Daí em diante, os relatórios normalmente
servem como um subsídio para investigações criminais e formação de
provas nos processos criminais.
A automação ainda é essencial por uma questão de limitação de
recursos financeiros e pessoais da UIF. No Brasil, somente no ano de
2017, eram quinze (15) funcionários supervisionando as comunicações
dos agentes obrigados para lidar com mais de 1,5 milhão delas.24
Tendo isso em conta, é possível apontar uma interdependência
entre regulação e automação no sistema de controle da lavagem de
capitais. Está claro que a aplicação da regulação (enforcement) depende
do sucesso da automação dentro da UIF, dada a discrepância entre o
24 No Brasil, por exemplo, de acordo com o Decreto n. 9.003/17, a UIF tem 31
empregados, dos quais 15 são responsáveis por analisar e supervis ionar as
comunicações suspeitas. Considerando o volume de quase 1,5 milhão dessas
comunicações, torna-se evidente que, sem automação, a UIF seria incapaz de executar
todos os seus deveres. A ver: OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões;
ALENCAR, Matheus de. O modelo de “autorregulã̧o regulada” e a teoria da
captura : obstáculos à efetividade no combate à lavagem de dinheiro no Brasil.
Quaestio Iuris (Impresso), v. 10, p. 378-381, 2017. Disponível em:
529
volume de comunicações e os recursos humanos disponíveis para
analisá-las. Por outro lado, e ao mesmo tempo, a automação só é
possível graças à base de dados, que só existe em razão da regulação
impondo as comunicações. Em resumo, sem base de dados não há
desenvolvimento de qualquer sistema de decisões automatizadas. Ao
final, o sucesso da automação dependerá da qualidade dos dados
gerados a partir da execução da regulação e o sucesso da regulação
dependerá da qualidade da informação e da automação.
Desafios no Uso da Inteligência Artificial para Controlar a
Lavagem de Capitais
Considerando os padrões regulatórios supramencionados, ainda
que a aplicação de tecnologias de inteligência artificial seja possível,
ela encontra ao menos três desafios essenciais, que serão detalhados
abaixo: (1) insuficiência e inadequação dos dados produzidos pelas
UIFs; (2) falta de confiabilidade dos dados produzidos pela UIFs; e (3)
opacidade da inteligência artificial.
Insuficiência e Inadequação dos Dados
Quando analisados os informes da UIF, fica claro que os
supramencionados padrões informacionais terminam criando outros
problemas além da já difícil missão de perseguir a lavagem de capitais.
Já se demonstrou anteriormente que, no início das atividades da UIF,
houve um aumento no número investigações, acusações e condenações
pela prática de lavagem de dinheiro. Também era destacada a eficiência
do Banco Central do Brasil (BACEN) em demandar e analisar
informação correta dos seus regulados antes de transferir à UIF.25
Contudo, ao longo dos anos, a UIF sofreu um decréscimo de eficiência,
25 De forma notável, no período entre 2003 e 2006, quando houve maior digitalização
e integração entre autoridades (especialmente entre a UIF e a Polícia Federal).
Conferir: MANZI, Vanessa Alessi. Compliance no Brasil: Consolidação e
perspectivas. São Paulo. Editora Saint Paul, 2008. pp. 57-59.
530
em contraste com a expansão contínua dos deveres de informação.26
De acordo com estatísticas fornecidas pela própria UIF, em
2009, 93.270 comunicações foram reportadas pelos setores regulados
pelo BACEN, com 57% de eficiência (porcentagem de informação
providenciada que foi útil para a descoberta de lavagem).27 Após a
internalização do Comitê de Basileia III em 2010 e a intensificação das
demandas do GAFI por uma agenda anti-terrorismo, o número de
operações reportado pelo BACEN cresceu a 1,289,087 em 2011;
1,587,427 em 2012; 1,286,233 em 2013; e 1,144,542 em 2014.28
Contudo com relação a operações atípicas, que atraíram maior
atenção das autoridades regulatórias, posto que apresentam evidências
mais fortes de lavagem de capitais, os números pareceram seguir um
caminho inverso, de queda: 559.992 em 2011 (37.237 do BACEN;
16.684 da UIF, chamada de COAF à época); 775.535 em 2012 (41.819
do BACEN; 55.646 da UIF); 426.153 em 2013 (53.244 do BACEN e
62.732 da UIF) e 177.467 em 2014 (57.455 do BACEN e 53.818 da
UIF). Em números absolutos, graficamente:29
Gráfico 1 – comunicações reportadas à UIF entre 2011 e 201430
26 OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões; ALENCAR, Matheus de.
Op. Cit., n. r. 22., passim.
27 COIMBRA, Marcelo de Aguiar; MANZI, Vanessa A. Manua l d e Compliance.
Preservando a Boa Governança e a Integridade das Organizações. São Paulo: Atlas,
2010. p. 72.
28 OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões; ALENCAR, Matheus de.
Op. Cit., n. r. 22, 378-381.
29 Ibid. p. 379.
30 Ibid. p. 379.
0
100000
200000
300000
400000
500000
600000
700000
800000
900000
2011 2012 2013 2014
BACEN
UIF
TOTAL
531
Ante o exposto, percebe-se que o número total de comunicações
aumentou, mas o de operações atípicas caiu, diminuindo a proporção de
sua participação no todo. Ao final, no ano de 2014, o número total era
de 177.467 operações atípicas para um universo de 1.144.542 operações
comunicadas, significando quase um milhão de comunicações que
praticamente não foram usadas para investigações mais aprofundadas,
considerando as limitações de tratamento pela UIF. Toda essa carga de
informações se tornou banco de dados (sem uso).
Além disso, é possível observar algumas consequências
causadas pelo aumento dos deveres de comunicação: (I) aumento
exponencial de comunicações a princípio; (II) redução de efetividade
das verificações; (III) mudanças no processo de cumprimento das
obrigações por parte dos regulados, que percebem a incapacidade de
enforcement das UIFs no mundo e passam a manipular a regulação e
seu cumprimento ou não de acordo com seus interesses econômicos.31
É crucial sinalizar que esse movimento reativo dos regulados é
capaz de criar diferentes problemas para a análise pelos sistemas pré-
programados de automação atualmente em execução. Isso acontece
especialmente em razão do viés causado na base de dados por
comunicações equivocadas. Ele gera falsos positivos e falsos negativos
na análise do sistema, ou seja, faz com que o sistema aponte suspeita
em casos que não deveria (falsos positivos), desperdiçando o tempo dos
analistas, ao mesmo tempo em que não sinaliza suspeita em situações
que deveria (falsos negativos), minando a eficácia do sistema de
controle. Ao mesmo tempo, o supra apontado alto número de operações
inúteis revela um problema ainda maior em termos da relação entre
regulação e tecnologia: os dados não têm sido utilizados propriamente
para gerar ações efetivas.
Dados Não Confiáveis
O modelo mundial de prevenção da lavagem de dinheiro é
baseado na confiança nas comunicações realizadas pelos agentes
obrigados. A partir delas, a base de dados de operações será criada,
31 Ibid.
532
tornando-se a base para a análise e detecção de operações suspeitas.
Portanto, é importante verificar se essas comunicações podem formar
uma base de dados confiável.
Contudo, há diferentes mecanismos e oportunidades para
agentes obrigados manipularem e mal direcionarem as autoridades. Um
agente regulado pode se valer da dependência de informações da
agência reguladora e a possibilidade mínima de ser descoberto para
falsificar ou esconder informação essencial. Ao mesmo tempo, pode
propositalmente comunicar várias operações supostamente suspeitas,
sabendo de sua legalidade, somente para obter a sobrecarga
informacional dos reguladores e, assim, aumentar sua dependência.32
Em tais situações, torna-se evidente que o sistema pré-
programado de automação de prevenção à lavagem de dinheiro da UIF
será inundado de informação de baixa qualidade, inviabilizando a
entrega de resultados úteis por ele. O problema da baixa qualidade da
informação a ser processada pela tecnologia é uma variável muito
comum na esfera da investigação de infração legais e uma solução para
esse problema é muito complexa, uma vez que os reguladores não têm
sequer meios para conferir toda a comunicação fornecida. A verificação
de quais dessas informações foram maliciosamente plantadas é ainda
menos esperada, uma vez que exigiria a abertura de mais investigações
especialmente para esse fim. Não é de se esperar que um órgão que
sequer consegue realizar as investigações essenciais de sua atividade
(quais são as operações de lavagem de dinheiro em meio às
comunicações) vá criar uma nova modalidade de investigação que se
retroalimenta do objeto de investigação principal (investigar se dentro
das informações prestadas que foram inúteis, algumas foram
propositalmente inseridas para gerar sua própria sobrecarga e assim
32 Um exemplo disso ocorreu no bojo da Ação Penal 470/MG no STF (caso
“Mensalão). Ali, o réu Henrique Pizzolato foi condenado por lavagem de dinheiro e a
decisão foi baseada, entre outras razões, na falsificação de dados e omissão de
comunicações à UIF. É importante sublinhar que essa conduta não foi detectada pela
UIF ou o BACEN e só foi descoberta no curso da investigação criminal, por meio de
documentos e testemunhas que mostraram a realidade das comunicações falsas. Para
mais detalhes, conferir: OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões;
ALENCAR, Matheus de. Op. Cit., n. r. 22, p. 381.
533
impedir a investigação adequada de práticas de lavagem).
Por outro lado, em casos em que atividades suspeitas não foram
reportadas, a descoberta desses crimes é igualmente improvável. Por
isso, a descoberta de lavagem de capitais é normalmente dependente de
processos criminais envolvendo outros delitos, ainda que o delito de
lavagem de dinheiro seja considerado autônomo e não dependente da
infração penal antecedente para ser processado.
Para piorar o cenário, mesmo quando são descobertas infrações
à Lei 9.613/98, as sanções administrativas são muito frágeis. Em
especial, as punições por comunicação incorreta dos agentes obrigados
raramente ocorrem, considerando a falta de alinhamento da rede de
controle do delito, com destaque para o Ministério Público, as polícias
e as agências reguladoras.33
Por fim, instituições reguladas também desenvolveram seus
próprios sistemas de decisões automatizadas para gerenciar riscos e
guiar os negócios para novas oportunidades. Contudo, esses sistemas
são dificilmente compreendidos, até mesmo pelos seus próprios
desenvolvedores (sistemas de alta complexidade). Em geral, essas
iniciativas raramente auxiliam no impacto da regulação sobre a prática
delituosa. É necessário criar um novo framework (plano de trabalho ou
de implementação) para validar o emprego das tecnologias de decisões
automatizadas no gerenciamento de riscos de lavagem de capitais, nas
esferas pública e privada.
Limitações das Tecnologias
Em adição às dificuldades já apontadas, não se pode
desconsiderar o fato de que todos os sistemas de decisões automatizadas
têm sérias limitações que podem reverberar quando de sua aplicação no
âmbito da prevenção à lavagem de capitais.
Primeiramente, considerando que essas tecnologias dependem
de processamento de dados em massa, a preocupação sobre a segurança,
33 OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões; ALENCAR, Matheus de.
Op. Cit., n. r. 22, pp. 381 e ss.
534
confiabilidade e legalidade dessa informação é essencial.34 Mais
especificamente, é importante garantir que as informações sejam
obtidas sem infringir direitos de terceiros e as formas da lei. Ainda, não
se pode desconsiderar o risco de que tanto as informações quanto sua
aplicação na programação estejam enviesadas, podendo refletir
discriminações perpetradas por quem as produziu.35
Existem ainda dificuldades conhecidas na compreensão,
controle e capacidade de refutar as conclusões atingidas por um
algoritmo de decisões autônomas. Ainda que esse problema seja
atribuído de forma prioritária à inteligência artificial, é importante
apontar aqui que ele acontece igualmente com a automação pré-
programada, quando ela é um algoritmo de decisão autônoma de alta
complexidade, programado por equipes grandes e utilizando várias
regras de negócio e condições de funcionamento distintas. Ao final, isso
torna impossível para qualquer pessoa isoladamente entender, explicar
ou prever uma reação em caso de situações complexas que ativem as
muitas condições de reação e decisão do sistema. Conforme bem
apontado por Cathy O’Neil, as principais dificuldades aparecem quando
há viés na base de dados e/ou na sua interpretação, além da
impossibilidade de entender as regras de decisão da máquina ou de
questionar qualquer decisão por ela tomada.36
Retornando à inteligência artificial, quando essas situações se
apresentam, diz-se que ela é opaca, uma vez que não haveria capacidade
de apontar a razão exata porque um output em particular se deu daquela
34 MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência Artificial e a Lei
Geral de Pr oteção de Dados Pessoais: Breves Anotações Sobre o Direito à Explicação
Perante a Tomada de Decisões por Meio de Machine Learning. In: FRAZÃO, Ana;
MULHOLLAND, Caitlin (coord.). Inteligência ar tificial e d ireito: ética, regulação e
responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.
35 A ver: HARTMANN Peixoto, Fabiano; SILVA, Roberta Zumblick Martins da. Op.
Cit., n.r. 3, pp. 34 -35; JANUÁRIO, Túlio Felippe Xavier. Cons iderações
Prea mbulares Acerca da s Reverbera ções da Inteligência Artificial no Dir eito Penal.
In: COMÉRIO, Murilo Siqueira; JUNQUILHO, Tainá Aguiar (ed.). Dir eito e
Tecnologia: um debate multidisciplinar. Rio de Janeiro: Lumen Juris, 2021.
36 O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and
threatens democracy. 1. ed. Nova Iorque: Crown Publishers, 2016.
535
forma. Aquela que tem essa característica é chamada “caixa preta”.37
A resolução desses problemas tem sido intensamente estudada
atualmente e demanda ainda mais atenção quando a aplicação da
tecnologia envolve o sistema de justiça criminal, dada a importância
dos interesses que ali conflitam. No caso da prevenção à lavagem de
dinheiro, questões similares devem ser tomadas em consideração. Que
tipo de dados públicos e privados podem ser usados pelos algoritmos
de decisões autônomas? Como as pessoas diretamente afetadas por
esses sistemas podem entender as razões das decisões e contestar
eventuais outputs que possam ser prejudiciais a elas? E o que é mais
importante: considerando as bases que os alimentam, esses outputs são
realmente confiáveis?
Construindo um Novo Framework: Superando o Viés de
Dados e as Ambiguidades dos Algoritmos de Decisões
Autônomas
Controlando a Sobrecarga de Informações e os Falsos
Positivos de Decisões Autônomas de Algoritmos
Como apontado, há imensa quantidade de informação de
lavagem de dinheiro a ser processada pela UIF brasileira. Como essa é
uma realidade mundial em razão da padronização da regulação, outros
países apresentam problemas similares.
37 Conferir: BURRELL, Jenna. How the Machine “Thinks”: Understanding Opacity in
Machine Learning Algorithms. In: Big Data & Society, n.3, vol 1, 2016. p 1.
Disponível em: . Com acesso em
23/01/2020; WIMMER, Miriam. Inteligência Artificial, Algoritmos e o Direito: Um
Panorama dos Principais Desafios. In: LIMA, Ana Paula M. Canto de; HISSA,
Carmina Bezerra; SALDANHA, Paloma Men des (ed.). Direito Digital: Debates
Contemporâneos. São Paulo: Thomson Reu ters Brasil, 2019. RODRIGUES, Anabela
Miranda. Inteligência Artificial no Direito Penal – A Justiça Preditiva entre a
Americanização e a Europeização. In: RODRIGUES, Anabela Miranda (coord.). A
inteligência ar tificial no direito penal. Coimbra, Portugal: Almedina, 2020. p. 25.
536
Um exemplo interessante é o chinês, conforme apresentado por
Jun Tang e Lishan Ai38. Ali, um banco constantemente falhava em
cumprir com os deveres de informação da lei anti-lavagem chinesa, até
que foi punido pela falta de comunicação.39 Nos trinta dias
imediatamente após a punição, 1700 comunicações foram reportadas,
em uma demonstração de design do programa de compliance para
transferir ou evitar a responsabilidade (e não o delito), mas não
necessariamente colaborar de forma efetiva. O erro principal nesse caso
e na organização da regulação é considerar que a ineficácia de
programas de compliance reside na falta de comunicação ou em uma
culpa individual de evitar o cumprimento da regulação. Quando o
sistema funciona mal, os regulados funcionarão mal.
Desde essa perspectiva, para evitar a sobrecarga de falsos
positivos, os padrões de informação devem receber algum grau de
amadurecimento ou enriquecimento da informação antes de sua
comunicação. Isso significa que os bancos deveriam checar as
transações em um sistema que considere maior complexidade de
condições e características.
Um exemplo do funcionamento dessa ideia foi proposto por
Zengan Gao e Mao Ye, que sugerem que os reguladores deveriam
explorar as ideias de árvore de decisão e sistemas de inferência
bayesianos (que fazem parte da lógica de programação de alguns
sistemas de decisões automatizadas), misturando critérios diferentes
para demonstrar o quão incomum, anormal ou ilegal uma transação
suspeita específica poderia ser.40 Esses dados poderiam ser cruzados
por programas de inteligência artificial, em especial, posto que já são
38 Para um estudo geral do controle da lavagem de capitais na China, conferir: LIN,
Jing. Compliance a nd Money Laundering Control in China: Self Control,
Administrative Control and Penal Control. Duncker & Humblot, 2016. pp. 18 e ss.
39 TANG, Jun; AI, Lishan. The System Integration of Anti-Money Laundering Data
Reporting and Customer Relationship Management in Commercial Banks. In: Jour nal
of Money Launder ing Contr ol, n. 16, vol. 3., 2013. pp. 231-232. Disponível em:
40 GAO, Zengan; YE, Mao. A Fr amework For Da ta Mining-Based Anti-Money
Laudering Resear ch. Journa l of Money Laundering Contr ol, n. 10, vol. 2., 2007. pp.
170-171. Disponível em: . Com
acesso em 1307/2021.
537
usados para prevenir fraudes de crédito, especialmente para i dentificar
justamente operações incomuns, anormais, suspeitas ou ilegais via
cartão de crédito, bloqueando-as como forma de proteger o cliente.
Como já apresentado em outro momento, a lavagem de dinheiro
raramente é reconhecida por uma transação isolada.41 É importante dar
um passo atrás e olhar o cenário mais amplo, como se deveria fazer em
qualquer investigação de crime organizado. Nas comunicações do
sistema financeiro, é importante não só avaliar as transações
isoladamente, mas também as pessoas envolvidas, atividades
econômicas conhecidas, diferentes grupos ligados e perfis públicos
disponibilizados. Sempre respeitando as leis de proteção de dados
pessoais, mas utilizando aqueles dados que estão legalmente
disponíveis junto daqueles que são obrigação legal dos sujeitos
obrigados pela lei. Seguir o dinheiro exige investigar complexas cadeias
de transações, não uma simples linha de transferências.
Assim, Zengan Gao e Mao Ye propõem: (a) identificar
membros centrais, subgrupos e “redes de lavagem de capitais”; (b) um
sistema de informação que seja “case-based” (que tem um caso como
o centro de recebimento de informações e não uma reunião de
informações aleatórias ou focada em somente uma pessoa); (b) técnicas
de mineração de dados que possam somar informações de “cliente,
conta, produto, georreferenciamento e tempo” como vetores de
análise.42
Como reportado por Jun Tang e Lishan Ai, diferentes
mecanismos de mineração de dados já foram aplicados por instituições
financeiras para compreender seus clientes, que são classificados e
avaliados por razões comerciais e de gestão de riscos. Até mesmo os
comportamentos padrões em home banking, uso de aplicativos de
smartfones e dados de cookies são coletados como estratégia de
mercado. Os bancos conhecem seus clientes muito mais do que aquilo
41 ALENCAR, Matheus de; AGAPITO, Leonardo Simões. Critér ios de validade e
eficiência de compliance e impactos na interpretaçã o da lavagem de dinheir o. In:
SAAD-DINIZ, Eduardo; BRODT, Luis Augusto ; TORRES, Henrique Abi-Ackel;
LOPES, Luciano Santos. [Orgs.]. (Org.). Direito penal econômico nas ciência s
criminais. 1ª ed. Belo Horizonte: Editora Vorto, 2019. pp. 241 e ss.
42 GAO, Zengan; YE, Mao. Op. Cit., n. r. 38, p. 171.
538
que tem sido requisitado por lei e o grau de qualidade de informação
que eles detêm poderia ser mais bem explorado pelas UIFs.43
Contudo, isso também significa que autoridades nacionais e
internacionais de proteção de dados pessoais teriam um papel central
no setor bancário, considerando que as instituições poderiam ser
obrigadas a apresentar dados minerados sem anonimização. A esse
ponto, um framework mais colaborativo entre diferentes autoridades de
proteção de dados pessoas e companhias (regulador-regulador e
regulador-bancos) se torna tão importante quanto os reportes da UIF.
Atacando o Viés nos Dados: Melhorando a Qualidade das
Bases a partir da Intervenção Humana
Mudar as obrigações de informar pode ser muito inefetivo se as
comunicações não são confiáveis. Como demonstrado antes, várias
mudanças ocorreram para criar novos deveres que só serviram para
modificar os volumes de informação sem real impacto nos
procedimentos administrativos ou penais.44 Para melhorar a qualidade
dos dados analisados, ao menos quatro (4) medidas poderiam ser
tomadas, considerando a necessidade de um relacionamento de
confiança entre gatekeepers e a rede de controle.
A primeira é a (1) proteção do whistleblower. No Brasil, a
ausência de instrumento de proteções do whistleblower (denunciante
privado) é um assunto importante para um framework regulatório mais
colaborativo. Nesse cenário, mesmo a Lei Geral de Proteção de Dados
pessoais (13.709/18) falhou em aproveitar a oportunidade para fazer
menção a essa proteção.
A segunda medida seria a (2) participação popular para
aprimorar o modelo de agências reguladoras. De forma geral, padrões
regulatórios internacionais sobre prevenção à lavagem de capitais
confiam no modelo de agência reguladora, que tem sua função
comprometida pelo poder das grandes companhias. Ao final, o interesse
43 TANG, Jun; AI, Lishan. Op. cit., n. r. 37, p. 232.
44 OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões; ALENCAR, Matheus de.
Op. Cit., n. r. 22, pp. 81 e ss.
539
público terminaria capturado pelos interesses de mercado. Para
construir uma nova estrutura regulatória, representantes da sociedade
deveriam ser mais ouvidos, em especial os stakeholders (terceiros
interessados) do sistema financeiro. A participação popular em matéria
de regulação é importante para criar o ambiente de accountability (se
colocar na posição de responsável por algo), um equilíbrio entre
reguladores e gatekeepers e uma perspectiva plural de eficiência no uso
de dados. Isso ainda fortalece o controle social informal45, que pode ser
alinhado ao controle social formal (do Estado) para enfrentar qualquer
forma de comportamento indesejado de maneira mais eficaz,
especialmente a manipulação da informação envolvendo lavagem de
capitais.
A terceira medida sugerida seria a (3) inspeção dos programas
de compliance e da qualidade da informação prestada. Isso porque é
necessário evitar que o viés na base de dados seja intencionalmente
arquitetado na direção de garantir que as coisas que não são informadas
(falsos negativos) não sejam descobertas. Isso exigiria que a estrutura
dos programas de compliance e a qualidade das bases de dados
disponibilizadas fossem auditadas pelos reguladores mais proativos e
qualificados. O mecanismo de verificação mais simples, nesse sentido,
é o da inspeção in loco, quando um agente público tem acesso direto a
máquinas, arquivos físicos e trabalhadores de um agente regulado. A
inspeção pode criar alguns efeitos positivos além da possível descoberta
de algo, como a colaboração de empregados e avaliação institucional.
Quando um agente público visita uma companhia, é uma oportunidade
de responder várias dúvidas com relação aos padrões legais e
comunicações oficiais. Os reportes dos agentes pode também revelar as
inovações das companhias e as red flags, criando uma perspectiva
melhor de mudanças corporativas ao longo dos anos. Inspeções in loco
podem ainda criar um espaço seguro para empregados que desejem
colaborar, mas se sentem inseguros sobre canais oficiais.
45 Controle social informal é o termo esco lhido para tratar de todo tipo de controle de
práticas indesejadas que não é feito pelo próprio Estado. A terminologia acompanha a
criação de Eduardo Saad Diniz em: SAAD-DINIZ, Eduardo. Vitimologia corporativa.
São Paulo: Tirant lo Blanch, 2019.
540
Há que se ponderar, é claro, que esse contato direto também cria
oportunidades para abuso de poder e até mesmo corrupção, além de
poder sofrer com a resistência do regulado por meio de atitude reativa
e comportamentos treinados. Nesse cenário, as inspeções podem se
tornar caras e de baixa efetividade. Uma inspeção remota, por
plataformas digitais, poderia ser uma opção, por ser mais ágil e barata,
mas também poderia ser contornada por compliance cosmético. O ideal
seria a mescla dos modelos, com visita in loco em menor quantidade,
mas sorteada, para garantir que qualquer regulado possa ser visitado, e
prioridade das verificações digitais. Isso implementado, há o dever de
analisar os impactos da regulação, para evitar sobrecarga de deveres aos
particulares. É necessário haver razoabilidade nesse tópico.
Por fim, a última medida de aprimoramento da regulação e da
qualidade de dados aqui proposta seria (4) o recurso a experimentos de
sandboxes regulatórias (espaço onde a regulação não se aplica ou se
aplica de forma distinta, para analisar os resultados obtidos). Estas já
são usadas por autoridades monetárias e bancos centrais para
desenvolver novas ideias e testar modelos de negócio.46 Um
experimento de sandbox permite que empresas implementem uma ideia
por um período limitado, com condições normativas especiais,
aplicação de mecanismos de controle de riscos específicos e estipulação
de objetivos a serem atingidos e métricas para avaliar sua eficácia. O
projeto deve ser bem demonstrado antes da sua implementação e toda a
informação produzida é coletada pelas agências de regulação para
entender o potencial, vulnerabilidades e oportunidades. Além disso,
seria possível para a UIF criar sandboxes para validar (ou refutar)
sistemas institucionais de monitoramento, mineração de dados e até
mesmo comunicações realizadas por sistemas de decisões
automatizadas. A opção é muito mais barata que impor uma regulação,
46 Pegue-se como exemplo: BANCO CENTRAL DO BRASIL. Sandbox Regulatório.
Disponível em: < https://www.bcb.gov.br/estabilidadefinanceira/sandbox>. Com
acesso em 13/07/2021. No tópico das sandboxes regulatórias no escopo das novas
tecnologias, conferir: SOUSA, Susana Aires de. “Ño fui eu, foi a ḿquina”: teoria
do crime, responsabilidade e inteligência artificial. In: RODRIGUES, Anabela
Miranda (coord.). A inteligência artificial no direito penal . Coimbra, Portugal:
Almedina, 2020. pp.86ss.
541
focar no seu enforcement e posteriormente descobrir que ela não
funcionava. E para os agentes privados haveria o interesse em colaborar
para receber a certificação de adequação por parte da UIF e cortar os
custos de implementação de novas regras e procedimentos.
Se as medidas acima funcionarem bem, seria possível que o
problema do viés de dados fosse mitigado, criando um cenário melhor
para o uso da inteligência artificial, além do ganho de qualidade nos
outputs da automação pré-programada. Com dados bons (evitando o
viés), muitos dos problemas da inteligência artificial podem ser
resolvidos, permitindo que os demais sejam tratados com melhorias em
transparência. Esta até poderia incluir a publicação do código, mas não
necessariamente se exigiria isso, pois nem sempre será uma medida
eficaz e o mais importante seria ter acessível a documentação dos
objetivos da inteligência artificial e do desenvolvimento do algoritmo,
em especial com clareza sobre as regras de negócio e as variáveis
utilizadas nas análises. Somando a isso à exigência de testes prévios e
monitoramento constante que busquem a comprovação de eficácia da
tecnologia, haveria o suficiente para estabelecer o debate sobre aquilo
que é mais importante para os problemas apontados: buscar sempre a
legitimidade de tudo que interfira no direito penal, evitando que a
corrida pelo eficientismo leve à injustiça e ao autoritarismo.47
Conclusão
Como demonstrado, o principal problema do uso de algoritmos
de decisões autônomas no controle da lavagem de dinheiro é o viés de
dados criado por uma estrutura regulatória insuficiente. Além disso, a
padronização da regulação mundial a partir do Comitê de Basiléia
(regulação top-down) faz com que esses problemas sejam comuns a
todos os lugares. Torna-se necessário que os padrões sejam revisados a
47 Já discuti anteriormente a necessidade de a legitimidade estar ao lad o da eficiência
em todo o sistema penal e naquilo que nele está contido, pois ela compõe o direito
penal tanto na ciência quanto na realidade e não há verdadeira eficiência sem que exista
uma estrutura de legitimidade para um instituto. A v er: MIRANDA, Matheus de
Alencar e. (In)eficiência de compliance e os dir eitos dos tr abalhador es: evitando o
“bode expiatório”. São Paulo: LiberArs, 2019, passim.
542
partir da experiência concreta e específica das UIFs (revisão bottom-up
da regulação).
Aqui, buscou-se propor alternativas para atingir essa mudança
almejada. Foram quatro as sugestões: (1) proteção do whistleblower;
(2) participação popular para aprimorar o modelo de agências
reguladoras; (3) inspeção dos programas de compliance e da qualidade
da informação prestada e; (4) recurso a sandboxes regulatórias.
Isso dito, não se ignora aqui o dano que poderia ser causado pela
falta de transparência no uso de sistemas tecnológicos. Para evitar esse
problema, foi proposto que, mitigando o viés de dados, haveria ganho
de qualidade nos outputs da automação pré-programada e muitos dos
problemas da inteligência artificial poderiam ser resolvidos, permitindo
que os demais sejam tratados com melhorias em transparência. O foco
dessas melhorias seria na documentação dos objetivos da inteligência
artificial e do desenvolvimento do algoritmo, em especial com clareza
sobre as regras de negócio e as variáveis utilizadas nas análises.
Somando a isso à exigência de testes prévios e monitoramento
constante que busquem a comprovação de eficácia da tecnologia,
haveria o suficiente para estabelecer o debate visando soluções que
busquem a legitimidade das novas tecnologias no direito penal,
evitando assim que a corrida pelo eficientismo leve à injustiça e ao
autoritarismo.
Referências
AGAPITO, Leonardo Simões; ALENCAR E MIRANDA, Matheus de;
JANUÁRIO, Túlio Felippe Xavier. On the Potentialities and
Limitations of Autonomous Systems in Money Laundering Control. In:
Revue Internationa le de Droit Pénal, v. 92, pp. 87-105, 2021.
ALENCAR, Matheus de; AGAPITO, Leonardo Simões. Critérios de
validade e eficiência de compliance e impactos na interpretação da
lavagem de dinheiro. In: SAAD-DINIZ, Eduardo; BRODT, Luis
Augusto; TORRES, Henrique Abi-Ackel; LOPES, Luciano Santos.
[Orgs.]. (Org.). Direito pena l econômico nas ciências criminais. 1ª ed.
Belo Horizonte: Editora Vorto, 2019.
543
BANCO CENTRAL DO BRASIL. Sandbox Regulatório. Disponível
em: . Com
acesso em 13/07/2021.
BASEL COMMITTEE ON BANKING SUPERVISION. Internationa l
Convergence of Ca pital Measurement and Capital Standards. Basel
Capital Accord I. Basileia, 1988.
BLANCO CORDERO, Isidoro. El Delito de Blanqueo de Capitales. 2ª
ed. Aranzadi, 2002.
BOTTINI, Pierpaolo Cruz. Aspectos Conceituais da Lavagem de
Dinheiro. In: BADARÓ, Gustavo Henrique; BOTTINI, Pierpaolo
Cruz. Lavagem de Dinheiro: Aspectos Penais e Processuais Penais:
Comentários à Lei 9.613/98, com alterações da Lei 12.683/12. 4a ed.
São Paulo: Thomson Reuters Brasil, 2019.
BURRELL, Jenna. How the Machine “Thinks”: Understanding
Opacity in Machine Learning Algorithms. In: Big Data & Society, n.3,
vol 1, 2016. Disponível em: 77/20539517156225
12>. Com acesso em 23/01/2020.
COIMBRA, Marcelo de Aguiar; MANZI, Vanessa A. Manual de
Compliance. Preservando a Boa Governança e a Integridade das
Organizações. São Paulo: Atlas, 2010.
EUROPEAN COMMISSION. Artificial Intelligence for Europe. COM
(2018) 237 final, 25 April 2018.
FATF. International Standa rds on Combating Money Laundering and
the Financing of Terrorism & Proliferation. The FATF
Recommendations. 2012-2020.
GAO, Zengan; YE, Mao. A Framework For Data Mining-Based Anti-
Money Laudering Research. Journal of Money Laundering Control, n.
10, vol. 2., 2007. pp. 170 e ss. Disponível em:
ght.com/1368-5201.htm>. Com acesso em 1307/2021.
LIN, Jing. Compliance and Money Laundering Control in China: Self
Control, Administrative Control and Penal Control. Duncker &
Humblot, 2016.
MAILLART, Jean-Baptiste. Anti-Money Laundering Architectures:
Between Structural Homogeneity and Functional Diversity. In:
VOGEL, Benjamin; MAILLART, Jean-Baptiste (ed.). National and
544
International Anti-Money Laundering Law: Developing the
Architecture of Criminal Justice, Regulation and Data Protection.
Intersentia, 2020.
MANZI, Vanessa Alessi. Compliance no Brasil: Consolidação e
perspectivas. São Paulo. Editora Saint Paul, 2008.
MENDES, Laura Schertel. MATTIUZZO, Marcela. Discriminaçã o
algorítmica: conceito, fundamento legal e tipologias. In: RDU, vol. 16,
n. 90, 2019, pp. 39-64. Porto Alegre, nov-dez, 2019.
MIRANDA, Matheus de Alencar e. (In)eficiência de compliance e os
direitos dos traba lhadores: evitando o “bode expiatório”. São Paulo:
LiberArs, 2019.
___________________________. Tecnologia, decisões automatizadas
e responsabilidade penal. 2022. Tese (Doutorado em Direito Penal).
Orientadores: Prof. Dr. Artur de Brito Gueiros Souza e Prof. Dr.
Fernando Andrade Fernandes (Coorientador). Faculdade de Direito,
Universidade do Estado do Rio de Janeiro. 2022. (no prelo).
MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência
Artificial e a Lei Gera l de Proteçã o de Dados P essoais: Breves
Anotações Sobre o Direito à Explicação Perante a Tomada de Decisões
por Meio de Machine Learning. In: FRAZÃO, Ana; MULHOLLAND,
Caitlin (coord.). Inteligência ar tificial e direito: ética, regulação e
responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.
OLIVEIRA, Ana Carolina Carlos de. Lavagem de dinheir o:
responsabilidade pela omissão de informações. São Paulo: Tirant lo
Blanch, 2019.
OLIVEIRA, José Carlos; AGAPITO, Leonardo Simões; ALENCAR,
Matheus de. O modelo de “autorregulã̧o regulada” e a teoria da
captura: obstáculos à efetividade no combate à lavagem de dinheiro no
Brasil. Quaestio Iuris (Impresso), v. 10, p. 365-388, 2017.
O’NEIL, Cathy. Weapons of math destruction: how big data increases
inequality and threatens democracy. 1. ed. Nova Iorque: Crown
Publishers, 2016.
PEIXOTO, Fabiano Hartmann; SILVA, Roberta Zumblick Martins da.
Inteligência Artificial e Direito. Curitiba: Alteridade Editora, 2019.
545
RODRIGUES, Anabela Miranda. Inteligência Artificial no Direito
Penal – A Justiça Preditiva entre a Americanização e a Europeização.
In: RODRIGUES, Anabela Miranda (coord.). A inteligência artificial
no direito penal. Coimbra, Portugal: Almedina, 2020.
SAAD-DINIZ, Eduardo. Vitimologia corpora tiva. São Paulo: Tirant lo
Blanch, 2019.
SANTOSUOSSO, Amedeo; BOTTALICO, Barbara. Autonomous
Systems and the Law: Why Intelligence Matters. In: HILGENDORF,
Eric; SEIDEL, Uwe (ed). Robotics and the Law: Legal Issues Arising
from Industry 4.0 Technology Programme of the German Federal
Ministry for Economic Affairs and Energy. Nomos, 2017.
SOUSA, Susana Aires de. “Ño fui eu, foi a ḿquina”: teoria do crime,
responsabilidade e inteligência artificial. In: RODRIGUES, Anabela
Miranda (coord.). A inteligência artificial no direito penal. Coimbra,
Portugal: Almedina, 2020.
TANG, Jun; AI, Lishan. The System Integration of Anti-Money
Laundering Data Reporting and Customer Relationship Mana gement
in Commercial Banks. In: Journal of Money Laundering Control, n. 16,
vol. 3., 2013. pp. 231 e ss. Disponível em: 08/JM
LC-04-2013-0010>. Com acesso em 13/07/2021.
WENT, Peter. Basel III Accord: Where Do We Go From Here? Out.,
2010. Disponível em: . Com
acesso em: 13/07/2021.
WIMMER, Miriam. Inteligência Artificial, Algoritmos e o Direito: Um
Panorama dos Principais Desafios. In: LIMA, Ana Paula M. Canto de;
HISSA, Carmina Bezerra; SALDANHA, Paloma Mendes (ed.). Direito
Digital: Debates Contemporâneos. São Paulo: Thomson Reuters Brasil,
2019.
Para continuar a ler
PEÇA SUA AVALIAÇÃO