Inteligencia artificial y derechos humanos

Autor:Jordi Nieva Fenoll
Páginas:127-154
 
EXTRACTO GRATUITO
127
VI. INTELIGENCIA ARTIFICIAL
Y DERECHOS HUMANOS
Llegamos a la parte final de esta monografía, en la que, al hilo de
lo acabado de exponer en el capítulo anterior, tenemos que ocuparnos
del impacto del uso judicial de la inteligencia artificial en los derechos
humanos. Aunque todo lo anterior haya podido resultar interesante por
lo ilustrativo de los cambios y peligros que pueden operarse en cada
sector, el presente es el capítulo central para el futuro.
Por muy automática que acabe siendo una parte sustancial de la
labor del poder judicial, no se pueden olvidar jamás los derechos hu-
manos. Los mismos nacieron como una barrera defensiva de los ciuda-
danos frente al inmenso poder del Estado 1, y ahora deberán, más que
reforzar, actualizar esa garantía por el riesgo de que la ciudadanía, no
demasiado consciente de sus derechos, acepte los automatismos renun-
ciando a sus garantías más esenciales, como ya se ha observado en los
últimos años en materia de intimidad y redes sociales, dejación que ha
sido aprovechada por no pocas empresas buscando lucro, pero también
por los gobiernos reforzando las labores de vigilancia sobre la población
de forma demasiadas veces abusiva.
Algunos piensan que el uso de la inteligencia artificial en materia ju-
dicial reforzará el conocimiento de la población acerca de sus derechos,
porque de hecho les será más sencillo y barato acceder a los mismos 2.
Por las razones acabadas de apuntar, realmente no creo que se pueda ser
tan optimista, porque la facilidad de acceso al conocimiento no siem-
1 J. LOCKE, Two Treatises of Government, II, Cambridge, 1963, pp. 377 y ss. (137 y ss).
BLACKSTONE, Commentaries on the Laws of England, I, London, 1791, pp. 126 y ss.
2 B. ALARIE, A. NIBLETT y A. H. YOON, «Law in the future», University of Toronto Law
Journal, 2016, p. 3.
JORDI NIEVA FENOLL INTELIGENCIA ARTIFICIAL Y PROCESO JUDICIAL
128
pre propicia una mejor consciencia de la ciudadanía sobre los peligros
que se ciernen sobre ellos y sus defensas. Por ejemplo, en materia de
enfermedades de transmisión sexual o de consumo de estupefacientes,
nunca antes en la historia del mundo hubo oportunidades de obtener
mejor información al respecto, y eso no siempre se ha traducido en un
comportamiento más responsable de la población.
Por ello, parece particularmente importante advertir de los riesgos
en materia de derechos humanos del uso judicial de la inteligencia ar-
tificial 3. A ese cometido, del que tan escasamente ha hablado aún la
doctrina 4, va dedicado el presente capítulo.
1. DERECHO AL JUEZ IMPARCIAL
¿Tiene sentido cuestionarse la imparcialidad de una máquina? ¿O es
algo que solamente puede predicarse de los seres humanos? La respues-
ta no es tan evidente como puede parecer en un primer momento, por
lo que no hay otro remedio que descender a la esencia psicológica de la
imparcialidad para luego ir avanzando a la jurídica, a fin de comprobar
si algo de lo pretendido por este antiguo derecho conservaría algún sen-
tido en el marco de la inteligencia artificial.
A) Esencia de la imparcialidad
La imparcialidad judicial pretende que el juez esté completamente
alejado, real y aparencialmente 5, del objeto del proceso y de los intere-
ses de las partes 6. A mi juicio es uno de los tres derechos esenciales del
proceso, junto con la defensa y la cosa juzgada 7, pero al margen de ello
es un principio tan importante para nuestro ordenamiento jurídico que
el legislador ha dispuesto diversas garantías para reforzarlo. Ya hace
mucho tiempo, quizá de manera intuitiva o tal vez simplemente natural,
se inclinaron los juristas por favorecer la dualidad de partes con el fin de
que el juez estuviera al margen de las mismas, conservando así la objeti-
vidad de su juicio. Además, en los procesos penales se estableció, como
ya se vio, la presunción de inocencia, cuya finalidad obvia es evitar que
3 Algunos autores ya han apuntado en esa dirección de manera incipiente. Vid. M. REID,
«Rethinking the Fourth Amendment in the Age of Supercomputers, Artificial Intelligence,
and Robots», op. cit., pp. 863 y ss.
4 Con algunas pocas excepciones. Vid. P. COMOGLIO, Nuove tecnologie e disponibilità de-
lla prova, Torino, 2018, pp. 341 y ss.
6 E. RUIZ VADILLO, «La independencia y la imparcialidad de los jueces en la Constitución
Española», La Ley, 1996, t. VI, p. 1641.
7 NIEVA FENOLL, Derecho Procesal I. Introducción, op. cit., pp. 125 y ss.

Para continuar leyendo

SOLICITA TU PRUEBA