La decisión artificial Aspectos jurídicos, éticos e institucionales
| Autor | Danièle Bourcier |
| Cargo del Autor | Directora de Investigación del CNRS. Profesora de la Universidad de la Sorbona (París 1). |
Introducción
En este capítulo analizaremos unos cuantos efectos de la introducción de la informática en el ámbito de la toma de decisiones operativas relativas a las personas.
Las tecnologías que hemos visto afectan esencialmente a las decisiones administrativas y a las decisiones privadas, pero también pueden intervenir en determinados aspectos de la actividad jurisdiccional. Se han explotado unos cuantos modelos de decisión, desde el agente encargado de la determinación de una pensión hasta el banquero que hace una valoración de los riesgos de un préstamo al consumo.
Estas actividades tienen en común que, tradicionalmente, han sido consideradas decisiones guiadas o enmarcadas por reglas jurídicas que implican una interpretación o apreciación de hechos y datos en relación con normas, modelos u objetivos, relativas a personas, administrados, justiciables, contribuyentes, consumidores, etc.
La mayor parte de los trabajos sobre inteligencia artificial tratan de las decisiones automatizables. Nuestro objetivo ha sido incluir unas decisiones que a priori parecían estar excluidas de este proceso (las decisiones jurisdiccionales) o aquellas partes de los procesos de decisión que no se pueden automatizar (elección de valores, ejercicio del poder discrecional) para intentar comprender cómo la informatización puede plantear problemas técnicos y jurídicos. El análisis cognitivo, pues, es especialmente interesante.
Tanto en Alemania como en EE.UU. y los Países Bajos, hay grupos de investigación que trabajan ampliamente sobre la relación existente entre la informática y la administración (T.M. Snellen, 1993). Las revistas destinadas a la Administración Pública dedican una buena parte de sus contenidos a publicar los resultados de estas investigaciones, y en el ámbito del análisis de los impactos de los procesos de decisión sobre las políticas públicas y el derecho a la intimidad, las relaciones entre las Universidades y la Administración son muy estrechas.
En el mundo del derecho, la decisión se caracteriza porque tiene una fase de preparación y examen (procedimiento) y una fase de elección y de resultados (sustancia).
En la actualidad, la mayor parte de las administraciones automatizan sólo la fase de decisión y resultados, es decir, la fase posterior a la "decisión" individual.
Estos trabajos se inscriben en un nivel más global de decisión. En efecto, más allá de la "operacionalización" de las tareas que conducen a las decisiones individuales, puede concebirse una función de gestión orientada a la integración de los sistemas de información, y de forma más general, una función de guía que permita la exploración simultánea del conjunto de las fuentes de información.
La decisión artificial que analizaremos aquí es esencialmente "individual" porque las funciones de integración y de guía no son objeto de aplicaciones sistemáticas en nuestro ámbito. A continuación presentamos unas cuantas advertencias que hay que tener en cuenta en relación con el tema que se trata en este capítulo.
1) Las investigaciones en decisión no son nuevas, y son especialmente abundantes en los ámbitos de la economía y de la filosofía. Hemos mencionado exclusivamente las principales líneas de estas investigaciones para enmarcar la especificidad de la decisión jurídica, sobre todo en relación con la teoría de la racionalidad. Este capítulo no tiene como objetivo establecer una teoría de la decisión jurídica, sino volver a examinar el acto de decisión en relación con las personas a la luz y dentro del contexto de las tecnologías de inteligencia artificial.
2) Los decisores institucionales, privados o públicos, son conscientes de los peligros inherentes a las situaciones complejas con que se enfrentan. En este sentido, las normas y también los ordenadores se convierten en "parapetos" contra los peligros de las responsabilidades. La autonomía, el poder discrecional y la responsabilidad se han convertido en conceptos clave del proceso de decisión y deben integrarse en los diferentes modelos de tratamiento de la información por parte de los decisores. Estos conceptos se han convertido, de esta forma, en el punto central de nuestro enfoque.
3) La protección de la información relativa a nuestra intimidad no incumbe a los decisores, sino a aquéllos a quienes, como a todos nosotros, afectan las decisiones y cuyos comportamientos son modelizados por máquinas. Así pues, es importante transmitir a los futuros juristas las reglas que enmarcan la decisión artificial, ya sea estrictamente jurídica o de mera gestión. Analizaremos las orientaciones jurídicas actuales por medio de la Directiva europea sobre la protección de los datos personales (1995). Dado que esta directiva sólo se ha incorporado a la legislación interna de menos de la mitad de los Estados miembros, es difícil predecir la forma de aplicación y armonización. Sin embargo, nos ha parecido útil recordar la doctrina generada desde 1978 por la Comisión Nacional de Informática y Libertades de Francia (CNIL) a fin de definir sus posibles orientaciones y explicar sus fundamentos.
4) Por último, el hecho de pensar que podría automatizarse un proceso de decisión tan noble como el del juez o el del alcalde nos obliga a reflexionar sobre el lugar que deben ocupar las creencias, los valores y las convicciones en la aplicación de los derechos.
Este capítulo presenta la ética y la equidad dentro de nuestras sociedades hipertecnificadas para abrir una reflexión más amplia sobre el papel de la democracia.
Así pues, planteamos los siguientes aspectos:
- La noción de decisión artificial en el ámbito del derecho.
- La decisión artificial y la vida privada.
- La responsabilidad de los decisores y la ética de la informática.
- La decisión artificial en las técnicas del Estado.
1. La noción de decisión artificial en el derecho
1.1. ¿Qué es una decisión?
En este subapartado nos interesaremos por la toma de decisiones en su calidad de actividad institucional, cognitiva y social, susceptible de ser objeto de una ejecución instrumental.
Una decisión se puede considerar de las siguientes formas:
- racional: cuando es justificable, calculable o modelizable dentro de un referencial dado;
- discrecional: cuando no está sometida a una obligación de justificación ni a una norma explícita.
Una decisión comporta simultáneamente elementos racionales y elementos discrecionales. Hay varios grados de racionalidad y de discreción, según el número de normas que restringen las decisiones.
Las normas (jurídicas, éticas, profesionales, etc.) tienen como objetivo hacer que la decisión jurídica sea racional.
Por otro lado, una decisión es discrecional cuando toma en consideración elementos que proceden de algo que es "específicamente humano", y se considera verdadera si constituye el resultado de una deliberación y una elección entre determinados valores y riesgos. Esta concepción no varía sea cual sea el contexto de la decisión discrecional: literario, religioso o político.
Recordemos la definición de libre albedrío de Molina en De Justitia et iure (1596-1600)
"El libre albedrío no es más que la voluntad cuando usa firmemente la libertad, en virtud de una decisión previa de la razón." (en F.A. Hayek, 1985).
Si todos los elementos son calculables y determinados, se habla de cuasi-decisión.
La no decisión, justificada o no, también es una decisión. La competencia (el poder de decisión) es uno de los elementos fundamentales que se deben tener en cuenta en la descripción del proceso. No puede separarse la decisión de la iniciativa; en derecho, este hecho conduce a la posibilidad de establecer una responsabilidad por falta de decisión.
En general, los trabajos sobre la decisión tienen como objetivo la comprensión de la racionalidad o la simulación de efectos a fin de proponer modelos susceptibles de asistir al decisor durante el transcurso de las diferentes etapas de su actividad. Los modelos pueden ser normativos, pero también descriptivos o finalistas según un objetivo determinado.
Las partes discrecionales se tratan generalmente como procedentes de la parte no racional, y se considera que no es posible integrarlas dentro de un sistema artificial. Pese a todo, un sistema experto las puede tener en cuenta en el momento del diálogo entre el decisor y la máquina.
Una decisión puede ser más o menos compleja. Una decisión compleja presenta bucles recursivos, encabalgamiento (enchevêtrement) de hechos entrelazados y microdecisiones, y la imposibilidad de reducirse mediante una descripción a encadenamientos lógicos posteriores.
El derecho es, por naturaleza, un ámbito privilegiado de la actividad de decisión: decisiones legislativas, judiciales, actos administrativos. La mayor parte de los principios fundamentales y de reglas procesales tienen como objetivo garantizar la legalidad o la conformidad de la decisión tomada y preservar la autonomía de la decisión.
El principio (kantiano) de autonomía garantiza que una decisión no puede ser impuesta totalmente ni por los poderes humanos ni por las máquinas. Las herramientas de toma de decisión pueden ser más o menos elaboradas y es importante saber cuáles son los modelos implicados, pero también cuál es el poder discrecional del decisor, quien puede ver cómo es anulada su decisión o cómo se compromete su responsabilidad si "renuncia" a este poder (confiándolo a una máquina, por ejemplo).
1.2. El derecho en las teorías de la decisión
La mayor parte de los trabajos científicos sobre la decisión deben tratar de las decisiones económicas y políticas.
El modelo tradicional de los economistas es el del actor racional que quiere incrementar al máximo sus ventajas. Los trabajos recientes de algunos juristas, especialmente los de R.A. Heiner (1986) y E. Mackaay (1992), y los que provienen de la teoría de juegos, intentan integrar esta aproximación para el análisis (económico) de la decisión en el derecho.
La decisión política trata de elecciones entre actos futuros cuyas ventajas e inconvenientes...
Para continuar leyendo
Solicita tu prueba