Supervisión humana; “human supervision/monitoring”
NATURALEZA
El término «supervisión humana» pertenece al grupo de conceptos relacionados con la ética y la gobernanza de la inteligencia artificial. Estos conceptos se centran en cómo las personas deben regular y contribuir al desarrollo, a la implementación o integración y al uso de sistemas de inteligencia artificial para garantizar que sean seguros, éticos y beneficiosos para la sociedad, minimizando el riesgo que pudiera existir.
El concepto “supervisión humana” no es exclusivo del ámbito de la inteligencia artificial. No obstante, este término cobra importancia por cuanto pretende el control o la vigilancia de ésta en sus diferentes fases: desde la creación, en fases ex ante, hasta su implementación, en fases ex post,para, de este modo, prevenir y/o reducir al mínimo los riesgos asociados a la inteligencia artificial.
CONCEPTO
El término «supervisión humana» en relación con la inteligencia artificial se refiere al proceso mediante el cual las personas revisan, vigilan, guían y/o controlan tanto la creación como el funcionamiento de un sistema de inteligencia artificial a fin de garantizar que se eliminen; reduzcan o mitiguen los riesgos y errores, sesgos y de que el sistema de inteligencia artificial funcione de forma correcta (con la mayor calidad y eficacia posible) y segura en atención a los objetivos para los cuales fue creada.
Esto es que estos sistemas sean confiables, seguros, éticos y estén alineados con los objetivos.
Esta supervisión humana se puede dar en todas las fases de creación, implementación y auditoría del sistema, incluso en aquellos que se denominan autónomos.
IMPORTANCIA
Desde el ámbito del derecho es importante el concepto de supervisión humana por cuanto se relacionan con varios aspectos:
- Responsabilidad jurídica: contribuye a definir quién es responsable en caso de que ocurran daños, errores o consecuencias negativas o no deseadas, perjudiciales debido al funcionamiento de un sistema de IA. Esto es esencial para establecer responsabilidades legales y garantizar la rendición de cuentas.
- Cumplimiento normativo y garantía de derechos: la supervisión humana contribuye no sólo a delimitar el marco normativo sino también ala supervisión de su cumplimiento, debiendo destacar entre otras la normativa relacionada con derechos fundamentales tales como la protección de datos personales o la igualdad, así como otros derechos o principios cuales son la equidad y la seguridad.
- Toma de decisiones informada: se trata de velar por que se cumplen los principios de información, transparencia y explicabilidad, de manera tal que las personas tengan el conocimiento y la capacidad para tomar decisiones informadas sobre el uso y despliegue de la inteligencia artificial.
- Evaluación y revisión: la supervisión humana se daría en las fases de revisión y evaluación de la implementación y en la de resultados de la IA para verificar si se ajustan a los marcos normativos establecidos y para detectar posibles problemas o riesgos, incumplimientos de obligaciones.
En suma, la importancia del término supervisión humana, desde un punto de vista más técnico, es debida a que ésta es esencial en diversos aspectos del desarrollo e integración de la inteligencia artificial, que tratan de ser regulados y estandarizados.
USOS Y RIESGOS
La supervisión humana ha de darse en todas las fases del ciclo de vida de la inteligencia artificial a fin de mitigar los riesgos que puedan existir. Un buen diseño del análisis y evaluación de riesgos en los sistemas de inteligencia artificial, llevado a cabo por un grupo interdisciplinar jurídico-técnico, ayuda en la mitigación de riesgos, la corrección de errores y la determinación de responsabilidades.
AUTORES
Tamara Álvarez Robles
