La evaluación de riesgo e impacto constituye un conjunto de métodos estructurados y formalizados de detección de los riesgos que de los sistemas de inteligencia artificial se derivan para la seguridad y derechos de las personas físicas. Asimismo, incluye la identificación de medidas proporcionadas de mitigación de tales riesgos, como pueden ser, por ejemplo, la necesidad de supervisión humana, o de seguimientos y evaluaciones periódicas.
Son herramientas destinadas, por tanto, a evitar los daños causados por la inteligencia artificial. En este contexto, los términos de “riesgo” e“impacto” suelen utilizarse en este ámbito de manera indistinta.
Asimismo, estas herramientas son de gran utilidad para orientar la regulación del uso de la inteligencia artificial, tanto en el sector privado como en el público. Desde esta perspectiva, las evaluaciones de riesgo e impacto permiten diferenciar entre sistemas de inteligencia artificial en función del riesgo que entrañan, lo que permite someterlos a regímenes jurídicos diversos. Esta es la lógica que rige la propuesta de Reglamento de la UE sobre Inteligencia Artificial, que distingue entre sistemas de riesgo limitado, sobre los que recaen pocas y laxas obligaciones, y sistemas de alto riesgo, sometidos a requisitos más exigentes. Por último, prohíbe determinados usos de inteligencia artificial por considerar que entrañan un riesgo inaceptable.
Entre las obligaciones que han de cumplir los sistemas de alto riesgo figura la de realizar una evaluación del impacto de su propia aplicación sobre los derechos fundamentales, y ello con anterioridad a su puesta en funcionamiento.
Las evaluaciones de riesgo e impacto también tienen relevancia en la regulación del tratamiento de datos personales recogida en el Reglamento General de Protección de Datos.
La evaluación del riesgo y del impacto debería realizarse posiblemente de forma comparativa: tanto desde la óptica del funcionamiento de un sistema de IA como desde el punto de vista de los costes de no utilizarla. Esto es, no solo cuáles son los riesgos y costes de usar un sistema de IA y cuáles los de usar un mecanismo exclusivamente humano que implica otros sesgos y otros costes. Han de medirse los dos lados de la balanza: el trabajo y sesgo de con y sin IA.