Perfilado (profiling)
NATURALEZA
El perfilado no es inevitablemente una herramienta de IA. Ahora bien, puede realizarse a través de decisiones automatizadas que impliquen el uso de herramientas de IA. Además, sirve a menudo como un elemento básico para que herramientas de IA puedan tomar decisiones. En fin, el perfilado puede crearse a partir de IA o usarse en diversos tipos de IA
Por ejemplo: una persona solicita un préstamo a través de internet y se le introduce en un perfilado pero no se le somete a decisión automatizada. Pero también puede ocurrir: (i) un ser humano decide si aprueba el préstamo sobre la base de un perfil elaborado únicamente mediante tratamiento automatizado; (ii) un algoritmo decide si el préstamo debe aprobarse y la decisión se traslada automáticamente a la persona en cuestión, sin ninguna evaluación previa y significativa por parte de un ser humano.
CONCEPTO
La creación de perfiles o perfilado es una técnica de tratamiento automatizado de un conjunto de datos basados en aspectos personales, rasgos o características de la personalidad, comportamientos, intereses, preferencias u otras particularidades que categorizan a una persona, o le asignan una o unas determinadas categorías con el fin de tomar decisiones sobre la misma, o analizar o predecir sus preferencias, comportamientos o actitudes personales tales como por ejemplo, rendimiento profesional, situación económica, salud, preferencias personales,intereses, fiabilidad, comportamiento, ubicación o movimientos de dicha persona física”.
Según las Directrices sobre decisiones individuales automatizadas y elaboración de perfiles adoptadas el 3 de octubre de 2017 por Grupo de Trabajo sobre Protección de Datos del Artículo 29, revisadas por última vez y adoptadas el 6 de febrero de 2018, la elaboración de perfiles está formada por tres elementos:
- Un tratamiento automatizado de los datos.
- Realizado respecto a datos personales.
- Con el objetivo es evaluar aspectos personales de la persona física.
IMPORTANCIA
En general, el perfilado implica una serie de deducciones estadísticas para inferir algo sobre un individuo o realizar un tipo de evaluación o juicio sobre la base de un análisis de las cualidades de otros que parecen similares estadísticamente.
USOS Y RIESGOS
La técnica de creación de perfiles puede tener efectos en las personas interesadas al incluirlas en categorías predeterminadas, a menudo sin su conocimiento; privándolos de manera injustificada del acceso a ciertos bienes o servicios. Eso puede afectar a diversos derechos fundamentales y en particular requerirá que los afectados puedan conocer no sólo los datos personales que les conciernen, sino también otra información, como la existencia de decisiones automatizadas, incluida la elaboración de perfiles, información significativa sobre la lógica aplicada,así como la importancia y las consecuencias previstas de dicho tratamiento para el interesado. Esto se está discutiendo en el caso ante el TJUE Asunto C-634/21 OQ contra Land Hessen, con intervención de: SCHUFA Holding AG [Petición de decisión prejudicial planteada por el Verwaltungsgericht Wiesbaden (Tribunal de lo Contencioso‑Administrativo de Wiesbaden, Alemania)]. Sin duda la cuestión de la protección de los derechos en todos los casos de decisiones automatizadas constituye uno de los riesgos claves de la IA.
BIBLIOGRAFÍA
- Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679 adoptadas el 3 deoctubre de 2017, revisadas por última vez y adoptadas el 6 de febrero de 2018 del antiguo Grupo de Trabajo sobre Protección De Datos delArtículo 29 de la Directiva 95/46/CE.
- Control judicial de los algoritmos de la A la Z, por Alfonso Peralta Gutiérrez. Observatorio de Transformación Digital del Sector Público. Cátedra Pagoda de Gobierno Abierto, Participación, y Open Data.
- VV.AA., HERRERA TRIGUERO, Francisco; PERALTA GUTIÉRREZ, Alfonso; TORRES LÓPEZ, Leopoldo Salvador. El derecho y la inteligencia artificial.2022. 24/10/2022. Editorial Universidad de Granada. 978-84-338-7049-0
AUTORES
Alfonso Peralta Gutiérrez
