Confianza (trustworthy)
NATURALEZA
En sí misma, la confianza no es un concepto propio de la IA, pero es esencial para valorar la propia IA y saber si nos encontramos ante un sistema seguro
CONCEPTO
Debemos entender la confianza en una IA como un sinónimo de responsabilidad y seguridad para el usuario. Una IA digna de confianza tiene tres componentes. Primero, debe ser legal, esto es, se debe garantizar que cumple con la normativa aplicable. Segundo, debe serética, es decir, debe respetar los principios y valores éticos y garantizar su adhesión a los mismos. Por último, debe ser técnica y socialmente sólida. En este sentido, debe tenerse en cuenta que los sistemas de IA pueden llegar a causar daños involuntarios. Un sistema técnica y socialmente sólido es un sistema válido, transparente, seguro y responsable, respetuoso con la privacidad de los usuarios y con herramientas de gestión de posibles sesgos y daños involuntarios.
IMPORTANCIA
La confianza de un sistema de IA es esencial en el ámbito jurídico precisamente por el deber de legalidad que implica: una IA confiable es una IA que cumple con la legalidad vigente. Y esta legalidad vigente, junto con la seguridad y fiabilidad que la confianza exige para una IA no solo no puede ser desconocida para un técnico en IA, sino que debe ser una cuestión prioritaria en el diseño y ejecución del sistema.Una IA digna de confianza no sólo se refiere a la fiabilidad del propio sistema de IA, sino también a la de todos los procesos y agentes que forman parte de su ciclo de vida.
USOS Y RIESGOS
Un sistema de IA no confiable puede dar como resultado la vulneración de derechos fundamentales, así como la generación de daños y perjuicios que afecten a los sistemas democráticos.
AUTORES
Lara Redondo Saceda
