La inteligencia artificial (IA) como instrumento en la promoción y la garantía de derechos y de libertades
| Autor | Antonio Madrid Pérez |
| Ocupação do Autor | Professor titular d'Universitat de Barcelona |
| Páginas | 559-576 |
32
LA INTELIGENCIA ARTIFICIAL (IA) COMO
INSTRUMENTO EN LA PROMOCIÓN Y LA
GARANTÍA DE DERECHOS Y DE LIBERTADES
Antonio Madrid Pérez
Professor titular d’Universitat de Barcelona. Doctorat en Dret - Universitat de Barcelona.
Coordinador general del dret al Dret. President de la Junta de Personal Docent i
Invertigador de la Universitat de Barcelona.
Sumario: 1. Presentación. 2. La IA, un poderoso instrumento. 3. La Inteligencia Articial
(IA) aplicada: entre el pesimismo y el optimismo. 4. Los procesos de toma de decisiones
automatizados. 5. La combinación de posiciones reactivas con posiciones proactivas en la
garantía de derechos y libertades. La posición del Consejo de Europa y de la Unión Europea.
Un camino por recorrer. 6. Recapitulación nal. 7. Documentación utilizada. Bibliografía. 8.
Documentación utilizada. documentos ociales, legislación y jurisprudencia citada.
1. PRESENTACIÓN
El objetivo de este texto es analizar una posibilidad que, a primera vista, choca
con la intuición que se ha extendido durante los últimos años ante el uso creciente de
la inteligencia artificial (IA). Esta posibilidad pasa por plantear la inteligencia artificial,
su diseño, entrenamiento y aplicación, como un instrumento activo que contribuya a
garantizar y promover los derechos y las libertades en el marco de un Estado democrático,
social y de derecho. Derechos y libertades que hallan sus fundamentos en valores que
alcanzan y mantienen su fuerza política y social en la medida en que son asumidos y
practicados por una sociedad y por un Estado o un por conjunto de Estados.
La posibilidad de utilizar la IA como instrumento de promoción y garantía implica
pensar no solo cómo defendernos de aquellos usos de la IA que vulneran o pueden vulnerar
derechos, sino complementar el enfoque y la estrategia a seguir para hacer posible que la
IA nos ayude a implementar y desarrollar los valores que inspiran derechos y libertades.
Si planteamos que la historia política, social y jurídica de nuestros países está
marcada por los logros y los retrocesos en materia de derechos y libertades, vemos que
en esta historia colectiva la pugna por la hegemonía de los valores, y su materialización
en forma de derechos y libertades, ha sido una cuestión central. El movimiento obrero,
los movimientos campesinos, el movimiento ecologista, el movimiento pacifista o el
movimiento feminista, entre otros, han propuesto transformaciones de fondo en el terreno
de los valores. De forma que, en el mejor de los casos, los logros alcanzados, además
de adoptar expresión jurídica en forma de derechos y libertades regulados y protegidos
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 559DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 559 23/02/2021 14:55:1423/02/2021 14:55:14
ANTONIO MADRID PÉREZ
560
estatalmente, han supuesto transformaciones en los valores sociales y políticos con los
que se compromete la población.
Los desarrollos y aplicaciones ya alcanzados por la IA, así como las perspectivas de
futuro su uso, hace que ya actualmente tengamos que contemplar una doble dimensión al
pensar la relación entre la IA y la vida de los derechos y las libertades: la dimensión técnica
(el diseño, funcionamiento y articulación de los sistemas de IA con otras aplicaciones)
y la dimensión ético-política (la orientación dada a estos sistemas y el uso que se hace
de ellos).
2. LA IA, UN PODEROSO INSTRUMENTO
La IA presenta una triple característica que hace que ya no podamos prescindir
de ella si queremos garantizar y promover derechos y libertades. La IA, como primera
característica, es hoy un instrumento de gestión, con mayor capacidad, flexibilidad y
rapidez que cualquier otro instrumento tecnológico que hayamos conocido.
La segunda característica es la siguiente: la potencia de la IA radica también en su
capacidad para combinarse con otras tecnologías que cada vez tienen mayor implantación
en nuestras casas, en las actividades productivas, en las comunicaciones, en la economía
financiera o en la sanidad. El llamado “internet de las cosas”, o la llamada ‘cuarta
revolución o industria 4.0’, son expresión de esta potencia tecnológica.
La tercera característica a la que me quiero referir se relaciona con las dos anteriores:
su capacidad de aprendizaje y automatización compleja. El nivel de desarrollo tecnológico
actual permite que ya que una parte de las aplicaciones de IA aprendan a partir de la
programación base en interacción con las bases de datos a las que tiene acceso (big data),
la interacción con el medio en el que se aplica y su interacción con otras aplicaciones.
Esta capacidad, que es nueva en la evolución tecnológica, ha dado paso a posibilidad: la
automatización de procesos y, en algunos casos, su autonomización.
La automatización de procesos no es novedosa en sí misma si de lo que se trata
es de repetir funciones: por ejemplo, el control del funcionamiento de semáforos. Sin
embargo, en el campo de la automatización la flexibilidad de los desarrollos actuales de
la IA ha permitido encomendar a aplicaciones de IA funciones complejas que admiten
variabilidad. Por ejemplo, como veremos más adelante, decidir si una persona tiene
derecho a un descuento en el recibo de la luz (bono social regulado en la legislación
española) por pertenecer a un colectivo en situación de precariedad económica.
La combinación de estas tres características hace que la IA sea ya un elemento
contextual de realización (o de imposibilitación) del ejercicio de derechos y libertades,
o de realización de aspectos relevantes de la vida propia y de la vida social1. Por esta
razón, en este texto se plantea la necesidad de plantearnos no ya cómo defendernos o
limitar los impactos negativos sobre derechos y libertades de determinadas aplicaciones
1. B. Alfter, R. Müller-Eiselt, M. Spielkamp, Automating Society. Taking Stock of Automated Decision-Making in
EU, Algorithm Watch/Bertelsmann Stiftung, 2019 (disponible en https://algorithmwatch.org/wp-content/
uploads/2019/01/Automating_Society_Report_2019.pdf).
DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 560DIREITO DIGITAL E INTELIGENCIA ARTIFICIAL.indb 560 23/02/2021 14:55:1423/02/2021 14:55:14
Para continuar a ler
PEÇA SUA AVALIAÇÃO