Transparencia (data transparency).
NATURALEZA
La transparencia es un concepto interdisciplinar, con una génesis ligada a la responsabilidad política (accountability) y al ejercicio de los cargos públicos en la democracia, si bien es, en general, un principio del funcionamiento de los poderes públicos en un Estado democrático y de Derecho, que se aplica también a la inteligencia artificial y a la protección de datos personales como un requisito de su tratamiento. La Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información y buen gobierno explicita que la transparencia es un eje fundamental de la acción política y permite el control de los responsables, fortaleciendo las instituciones y permitiendo a los ciudadanos participar en la toma de decisiones.
CONCEPTO
La transparencia e información al afectado es un derecho de todas las personas en el tratamiento de sus datos personales de acuerdo con el artículo 11 LOPD y el artículo 13 y ss del Reglamento (UE) 2016/679. Supone la obligación del responsable del tratamiento de facilitar información básica al interesado de forma sencilla, clara e inmediata por escrito u otros medios como es indicando una dirección electrónica. Esta información básica incluye extremos como son: la identidad del responsable, la finalidad del tratamiento, y la posibilidad de ejercer los derechos de acceso, rectificación, supresión, limitación del tratamiento y portabilidad; debe asimismo informarse del derecho a oponerse a la adopción de decisiones individuales automatizadas que afecten significativamente a los intereses del afectado. En el ámbito de la IA, la transparencia adopta una relevancia aún más importante y constituye un requisito básico de todo sistema de IA que junto a otros (la explicabilidad y la rendición de cuentas) contribuye a generar un eficaz control jurídico y democrático de dichos sistemas.
La transparencia algorítmica establece que las entradas del algoritmo y el uso de éste deben conocerse. Ello nos lleva al concepto de“responsabilidad algorítmica” que implica que las organizaciones que utilizan algoritmos son responsables de las decisiones adoptadas por éstos con independencia de éstas sean tomadas por máquinas o por seres humanos.
IMPORTANCIA
La transparencia posee diversos matices que la enriquecen en el Derecho Constitucional, la organización administrativa y la Ciencia Política y según los diversos contextos. Tiene una triple dimensión: es un principio central que inspira y orienta diversas regulaciones, una obligación de los poderes públicos y privados, y un derecho subjetivo de los afectados. Así, con respecto a los datos ha de tenerse en cuenta que estos datos vuelan y se comparten en una sociedad digital, siendo necesaria una capacidad de acceder y trabajar fácilmente con ellos,controlando su uso los afectados, así como garantizar su precisión y protección; unas circunstancias que generan confianza en la inteligencia artificial, el tratamiento de datos y los motivos de las decisiones públicas y privadas.
Desde el punto de vista de la IA implica conocer la racionalidad de las conclusiones a las que llegan los sistemas de IA. Es necesaria tanto para aplicar de manera fiable los sistemas de IA, pero también para mantener y mejorar los modelos.
USOS Y RIESGOS
Sin transparencia no existe un derecho al recurso o reclamaciones de los afectados ni es viable corregir los problemas y deficiencias que se detecten según las experiencias haciendo imposible la verificación. Un sistema no transparente puede generar problemas de equidad, responsabilidad, seguridad y control de calidad y, sobre todo, ocasionar indefensiones y abusos. Pero un exceso de información en el uso de la transparencia puede producir opacidad -información por avalancha-, confusiones, o problemas en la privacidad -un hombre de cristal desprovisto de autodeterminación informativa- y en la propiedad intelectual -el debate sobre la transparencia técnica de los algoritmos-. No basta con ver los resultados de un sistema, es conveniente explicar y comprender cómo funciona. Es preciso un equilibrio entre estos dos polos que las leyes y las sentencias determinen.
El problema es cómo implementar las explicaciones exigidas por la transparencia desde el punto de vista técnico. ¿Hasta qué punto han de ser entendibles las herramientas de IA? La IA ha de ser transparente y explicativa, pero ¿quién lo tiene que entender?: ¿los técnicos, el usuario de la herramienta, cualquier ciudadano?-
Aparece como evidente la necesidad de pautas jurídicas claras (en la legislación y en la jurisprudencia) sobre transparencia y comprensión del funcionamiento de las herramientas de IA.
AUTORES
Javier García Roca
