Comprensibilidad (understandability/comprehensibility)
NATURALEZA
El término comprensibilidad pertenece a aquel grupo de conceptos y palabras que tratan de hacer inteligible la inteligencia artificial como son explicabilidad, trazabilidad o interpretación de la IA.
El concepto compresibilidad no es un específico de la inteligencia artificial dado que también se utiliza en otros ámbitos tecnológico-digitales como en la protección de datos personales, en el ámbito sanitario o en el jurídico.
El término comprensibilidad tiene gran relevancia en el ámbito de la IA tanto para los juristas como para los técnicos.
CONCEPTO
El término comprensibilidad alude a la capacidad para entender cómo funciona la inteligencia artificial, cómo toma decisiones. Se trata de un estadio que podría ser posterior al de explicabilidad y/o trazabilidad, por cuanto requiere no tanto la capacidad de explicar sino fundamentalmente de entender lo explicado y/o construido. Sería por tanto la consecuencia o la fase subsiguiente a la explicabilidad.
Este concepto ayuda a generar una inteligencia artificial más confiable por cuanto supone explicar la ética, la seguridad y la responsabilidad de la misma.
IMPORTANCIA
La importancia que el término comprensibilidad tiene para los juristas puede ser variada: ayuda a un mayor y mejor cumplimiento normativo al no centrarse sólo en el concepto de explicabilidad o de trazabilidad de los sistemas de inteligencia artificial, no se sitúa sólo en la tecnología sino en la persona, quien ha de entenderla, de ahí que se requiera una claridad o transparencia específica vinculada a la capacidad de comprensión del ciudadano medio.
Además, la comprensibilidad afecta la determinación de las responsabilidades de la IA, al poder entender el cómo y el porqué de una decisión en la que participa la inteligencia artificial que ha podido ser perjudicial. Igualmente, la comprensibilidad permite a las personas entender cómo se utilizarán sus datos en relación con el sistema de inteligencia artificial y determinar qué derechos tienen frente a tal uso y frente a dicho sistema
Desde una perspectiva más técnica esta comprensibilidad requiere, de un lado que se sea capaz de hacer inteligible el sistema de inteligencia artificial, por ejemplo, con el uso de un lenguaje sencillo, con el acceso a la información adecuada y pertinente; de otro lado, la comprensibilidad de un sistema ayuda en las fases de supervisión y control, ayudando en la toma de decisiones, en otras palabras, permiten a los desarrolladores comprender cómo mejorar y optimizar el modelo de IA. Al entender cómo se relacionan las entradas con las salidas del modelo, es posible identificar áreas de mejora y realizar ajustes precisos.
En suma, puede ayudar a generar confianza en los sistemas de inteligencia artificial por cuanto comprendemos mejor cómo funcionan y cómo toman decisiones; puede ser clave para identificar y mitigar estos sesgos; con ella se promueve una adopción más segura y ética de la inteligencia artificial.
USOS Y RIESGOS
Por una parte, la técnica se puede introducir en todos los ámbitos que guardan relación con el Estado de Derecho, los derechos y la democracia debido a que, fruto de su capacidad a la hora de contribuir a la descripción, el análisis y la comprensión de la realidad, favorece la adopción de decisiones. Partiendo de esta base, en el momento actual, su aplicación se encuentra más extendida en, al menos, dos ámbitos.Primero: la delincuencia, donde, por ejemplo, la identificación de tendencias delictuales o de áreas críticas incide en las estrategias de prevención del delito o en la eficacia y la eficiencia en la gestión de los recursos. Segundo: el comportamiento político y/o electoral, donde, por ejemplo, la segmentación de la ciudadanía orienta el diseño de las estrategias impulsadas por los actores políticos o la eficacia y la eficiencia en la gestión delos recursos de tales actores. Por otra parte, la técnica presenta una limitación, ya que la homogeneidad y la heterogeneidad alcanzadas no resultan absolutas, y una notable dependencia de aquellas decisiones que guían su diseño y aplicación, las cuales moldean la interpretación delos resultados y, como consecuencia, la adopción de decisiones. En este sentido, considérese la elección del algoritmo a manejar o la fijación del número de subconjuntos a crear.
AUTORES
Tamara Álvarez Robles