El término “supervisión humana” pertenece al grupo de conceptos relacionados con la ética y la gobernanza de la inteligencia artificial. Estos conceptos se centran en cómo las personas deben regular y contribuir al desarrollo, a la implementación o integración y al uso de sistemas de inteligencia artificial para garantizar que sean seguros, éticos y beneficiosos para la sociedad, minimizando el riesgo que pudiera existir.
El concepto “supervisión humana” no es exclusivo del ámbito de la inteligencia artificial. No obstante, este término cobra importancia por cuanto pretende el control o la vigilancia de ésta en sus diferentes fases: desde la creación, en fases ex ante, hasta su implementación, en fases ex post,para, de este modo, prevenir y/o reducir al mínimo los riesgos asociados a la inteligencia artificial.
El término “supervisión humana” en relación con la inteligencia artificial se refiere al proceso mediante el cual las personas revisan, vigilan, guían y/o controlan tanto la creación como el funcionamiento de un sistema de inteligencia artificial a fin de garantizar que se eliminen; reduzcan o mitiguen los riesgos y errores, sesgos y de que el sistema de inteligencia artificial funcione de forma correcta (con la mayor calidad y eficacia posible) y segura en atención a los objetivos para los cuales fue creada.
Esto es que estos sistemas sean confiables, seguros, éticos y estén alineados con los objetivos.
Esta supervisión humana se puede dar en todas las fases de creación, implementación y auditoría del sistema, incluso en aquellos que se denominan autónomos.
Desde el ámbito del derecho es importante el concepto de supervisión humana por cuanto se relacionan con varios aspectos:
La supervisión humana ha de darse en todas las fases del ciclo de vida de la inteligencia artificial a fin de mitigar los riesgos que puedan existir. Un buen diseño del análisis y evaluación de riesgos en los sistemas de inteligencia artificial, llevado a cabo por un grupo interdisciplinar jurídico-técnico, ayuda en la mitigación de riesgos, la corrección de errores y la determinación de responsabilidades.
Tamara Álvarez Robles