E?tica e inteligencia artificial: una mirada desde el proceso jurisdiccional
| Autor | Lorenzo Bujosa Vadell |
| Cargo | Catedrático e Doutor em Direito Processual pela Universidade de Salamanca, Espanha. |
| Páginas | 733-768 |
Revista Eletrônica de Direito Processual REDP.
Rio de Janeiro. Ano 16. Volume 23. Número 1. Janeiro a Abril de 2022
Periódico Quadrimestral da Pós-Graduação Stricto Sensu em Direito Processual da UERJ
Patrono: José Carlos Barbosa Moreira (in mem.). ISSN 1982-7636. pp. 733-768
www.redp.uerj.br
733
TICA E INTELIGENCIA ARTIFICIAL:
UNA MIRADA DESDE EL PROCESO JURISDICCIONAL
1
TICA E INTELIGÊNCIA ARTIFICIAL:
UM OLHAR A PARTIR DO PROCESSO JURISDICIONAL
Lorenzo M. Bujosa Vadell
Catedrático e Doutor em Direito Processual pela Universidade
de Salamanca, Espanha. E-mail: lbujosa@usal.es.
RESUMO: No presente artigo, o autor aborda sobre o uso da inteligência artificial pelo
processo jurisdicional e trata das questões éticas envolvidas no tema, bem como a magnitude
dos riscos que deverão ser enfrentados para aproveitar as virtudes dos avanços tecnológicos
no processo, sem cair em violações dramáticas éticas de garantias consolidadas no
ordenamento jurídico.
PALAVRAS-CHAVE: Inteligência artificial; ética; revolução tecnológica; segurança;
privacidade; dignidade humana.
RESUMEN: En este artículo, el autor discute el uso de la inteligencia artificial por parte del
proceso jurisdiccional y aborda las cuestiones éticas implicadas en el tema, así como la
magnitud de los riesgos que se deben enfrentar para aprovechar las virtudes de los avances
tecnológicos en el proceso, sin caer en dramáticas vulneraciones éticas de garantías
consolidadas en el ordenamiento jurídico.
PALABRAS CLAVE: Inteligencia artificial; ética; revolución tecnológica; seguridad;
privacidad; dignidad humana.
ABSTRACT: In this paper the author discusses the use of artificial intelligence by the
jurisdictional process and deals with the ethical issues involved in the topic, as well as the
1
Artigo recebido em 17/11/2021, sob dispensa de revisão.
Revista Eletrônica de Direito Processual REDP.
Rio de Janeiro. Ano 16. Volume 23. Número 1. Janeiro a Abril de 2022
Periódico Quadrimestral da Pós-Graduação Stricto Sensu em Direito Processual da UERJ
Patrono: José Carlos Barbosa Moreira (in mem.). ISSN 1982-7636. pp. 733-768
www.redp.uerj.br
734
magnitude of the risks that must be faced to take advantage of the virtues of technological
advances in the process, without falling into dramatic ethics violations of guarantees
consolidated in the legal system.
KEYWORDS: Artificial intelligence; ethics; technological revolution; security; privacy;
human dignity.
1. INTRODUCCIÓN
Lejos de colocarnos en el ámbito de la ciencia ficción, cuando hablamos de
inteligencia artificial nos referimos a los dilemas y a las dudas que se nos plantean en el
presente en multitud de aspectos de la realidad que nos envuelve. Todos hemos visto en
televisión cómo se realizan complejas operaciones quirúrgicas sin apenas presencia humana
visible, cómo se realizan de manera automatizada cálculos sobre órbitas satelitales que se
demostrarán milimétricamente correctos o, de manera más simple y cercana a nuestra
actividad cotidiana como juristas, cómo en pocos segundos podemos tener a nuestra
disposición la jurisprudencia reciente sobre determinada materia específica sobre la que
tenemos que interponer una demanda.
La enorme inversión en determinados campos científicos produce continuamente
avances que contribuyen notablemente a modificar en pocos años el contexto científico y
tecnológico hasta llevarnos a cambios de paradigma
2
o, con mayor rotundidad, a nuevas
revoluciones industriales
3
. Pero, en realidad, no estamos hablando de cambios repentinos sin
fundamento previo. Hace muchos decenios que el desafortunado Alan M. TURING, a partir
de los postulados de la lógica matemática, dictó una conferencia en la que planteaba algo tan
actual como la cuestión de si puede pensar una máquina
4
. Las novedades están más bien en
la generalización de la aplicación de las tecnologías digitales como consecuencia de su
2
KUHN, T. S., The Structure of Scientific Revolutions, 50th Anniversary edition, Chicago-London, 2012,
sistematizaba la idea de progreso a través de revoluciones científicas.
3
Son conocidas las consideraciones de SCHWAB, K., La cuarta revolución industrial, Barcelona, 2016, por
las que, desde el punto de
tecnológicas más importantes están a punto de generar un cambio trascendental en todo el mundo, algo
4
Mind, v ol. LIX, núm. 236, 1950, pp. 433-460;
traducida al español como ¿Puede pensar una máquina?, Oviedo, 201 2.
Revista Eletrônica de Direito Processual REDP.
Rio de Janeiro. Ano 16. Volume 23. Número 1. Janeiro a Abril de 2022
Periódico Quadrimestral da Pós-Graduação Stricto Sensu em Direito Processual da UERJ
Patrono: José Carlos Barbosa Moreira (in mem.). ISSN 1982-7636. pp. 733-768
www.redp.uerj.br
735
continua transformación y perfeccionamiento. Su inmersión en nuestra vida diaria, por un
lado, nos produce un inevitable efecto de embelesamiento y, por otro, una cierta reacción de
temor y desconfianza.
Si nos limitamos a centrar nuestra observación al campo del Derecho, intuitivamente
podemos enumerar interesantes ventajas en la aplicación de las tecnologías digitales, que
aligeran el trabajo, aceleran las tareas, aumentan la exactitud de los resultados -si es que en
Derecho se nos permite hablar en estos términos-a priori se nos plantean
e los juristas, que nos aleje de las
valoraciones de equidad en el caso concreto
5
o que multiplique los efectos de sesgos muy
discutibles
6
.
Desde la perspectiva procesal nos interesan todas las vías que puedan sustraer las
decisiones del juzgador de la excesiva subjetivización y, por consiguiente, de la
irracionalidad y la arbitrariedad. Pero, por el camino de la objetivación a la que nos conducen
las aplicaciones digitales, podemos llevarnos por delante consideraciones específicas, no
tenidas en cuenta por los programadores y que son ni más ni menos que los nexos de enlace
entre la actividad jurisdiccional y el valor superior de la justicia.
En todo ello, por supuesto, es imprescindible atender a las cuestiones éticas
implicadas, que han sido puestas en primera línea por diferentes organismos que reflexionan
sobre la aplicación de la inteligencia artificial en el proceso; lo cual confirma la magnitud de
los riesgos a los que tenemos que hacer frente, tratando de transitar por el justo medio:
5
Recordemos como ARISTÓTELES, Ética a Nicómaco,
un caso universal y sobrevienen circunstancias que quedan fuera de la fórmula universal, entonces está bien,
en la medida en que el legislador omite y yerra al simplificar, el que se corrija esta o misión, pues el mismo
legislador habría hecho esta corrección si hubiera estado presente y habría legislado así si lo hubiera conocido.
6
Es conocido el caso de COMPAS (Correctional Offender Management Profiling for Alternative Sanctions),
un algoritmo utilizad o en la justicia penal para predecir la probabilidad de reincidencia a partir de unos cien
factores. Vid. la sentencia del Tribunal Supremo del Estado de Wisconsin: Loomis v. Wisconsin, 881 N.W.2d
749 (Wis. 2016), en la que se deniega la pretensión de Loomis respecto a la vulneración del derecho al proceso
con todas las garantías (due process fo law), fundada, entre otras razones, en que la decisión judicial
condenatoria se basaba en un instrumento de apreciación del riesgo en que se tenía en cuenta el género y la
raza y que no era susceptible de ser discutido por tratarse de un secreto mercantil. A su vez el Tribunal Supremo
de los Estados Unidos denegó el writ of certiorari el 26 de junio de 2017. Vid. You Trust An
Artificially- The National Law Review July 11, 2020, Vo lume X, Number 193:
https://www.natlawreview.com/article/would-you-trust-artificially-intelligent-exp ert Desde un punto de vista
más crítico vid.
https://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-n ow/.
Para continuar a ler
PEÇA SUA AVALIAÇÃO
COPYRIGHT Universidade do Estado do Rio de Janeiro- Uerj
