Comprensibilidad (understandability/comprehensibility)

NATURALEZA

El término comprensibilidad pertenece a aquel grupo de conceptos y palabras que tratan de hacer inteligible la inteligencia artificial como son explicabilidad, trazabilidad o interpretación de la IA.
El concepto compresibilidad no es un específico de la inteligencia artificial dado que también se utiliza en otros ámbitos tecnológico-digitales como en la protección de datos personales, en el ámbito sanitario o en el jurídico.
El término comprensibilidad tiene gran relevancia en el ámbito de la IA tanto para los juristas como para los técnicos.

CONCEPTO

El término comprensibilidad alude a la capacidad para entender cómo funciona la inteligencia artificial, cómo toma decisiones. Se trata de un estadio que podría ser posterior al de explicabilidad y/o trazabilidad, por cuanto requiere no tanto la capacidad de explicar sino fundamentalmente de entender lo explicado y/o construido. Sería por tanto la consecuencia o la fase subsiguiente a la explicabilidad.
Este concepto ayuda a generar una inteligencia artificial más confiable por cuanto supone explicar la ética, la seguridad y la responsabilidad de la misma.

IMPORTANCIA

La importancia que el término comprensibilidad tiene para los juristas puede ser variada: ayuda a un mayor y mejor cumplimiento normativo al no centrarse sólo en el concepto de explicabilidad o de trazabilidad de los sistemas de inteligencia artificial, no se sitúa sólo en la tecnología sino en la persona, quien ha de entenderla, de ahí que se requiera una claridad o transparencia específica vinculada a la capacidad de comprensión del ciudadano medio.

Además, la comprensibilidad afecta la determinación de las responsabilidades de la IA, al poder entender el cómo y el porqué de una decisión en la que participa la inteligencia artificial que ha podido ser perjudicial. Igualmente, la comprensibilidad permite a las personas entender cómo se utilizarán sus datos en relación con el sistema de inteligencia artificial y determinar qué derechos tienen frente a tal uso y frente a dicho sistema
Desde una perspectiva más técnica esta comprensibilidad requiere, de un lado que se sea capaz de hacer inteligible el sistema de inteligencia artificial, por ejemplo, con el uso de un lenguaje sencillo, con el acceso a la información adecuada y pertinente; de otro lado, la comprensibilidad de un sistema ayuda en las fases de supervisión y control, ayudando en la toma de decisiones, en otras palabras, permiten a los desarrolladores comprender cómo mejorar y optimizar el modelo de IA. Al entender cómo se relacionan las entradas con las salidas del modelo, es posible identificar áreas de mejora y realizar ajustes precisos.
En suma, puede ayudar a generar confianza en los sistemas de inteligencia artificial por cuanto comprendemos mejor cómo funcionan y cómo toman decisiones; puede ser clave para identificar y mitigar estos sesgos; con ella se promueve una adopción más segura y ética de la inteligencia artificial.

USOS Y RIESGOS

Por una parte, la técnica se puede introducir en todos los ámbitos que guardan relación con el Estado de Derecho, los derechos y la democracia debido a que, fruto de su capacidad a la hora de contribuir a la descripción, el análisis y la comprensión de la realidad, favorece la adopción de decisiones. Partiendo de esta base, en el momento actual, su aplicación se encuentra más extendida en, al menos, dos ámbitos.Primero: la delincuencia, donde, por ejemplo, la identificación de tendencias delictuales o de áreas críticas incide en las estrategias de prevención del delito o en la eficacia y la eficiencia en la gestión de los recursos. Segundo: el comportamiento político y/o electoral, donde, por ejemplo, la segmentación de la ciudadanía orienta el diseño de las estrategias impulsadas por los actores políticos o la eficacia y la eficiencia en la gestión delos recursos de tales actores. Por otra parte, la técnica presenta una limitación, ya que la homogeneidad y la heterogeneidad alcanzadas no resultan absolutas, y una notable dependencia de aquellas decisiones que guían su diseño y aplicación, las cuales moldean la interpretación delos resultados y, como consecuencia, la adopción de decisiones. En este sentido, considérese la elección del algoritmo a manejar o la fijación del número de subconjuntos a crear.

AUTORES

Tamara Álvarez Robles

Privacy Settings
We use cookies to enhance your experience while using our website. If you are using our Services via a browser you can restrict, block or remove cookies through your web browser settings. We also use content and scripts from third parties that may use tracking technologies. You can selectively provide your consent below to allow such third party embeds. For complete information about the cookies we use, data we collect and how we process them, please check our Privacy Policy
Youtube
Consent to display content from - Youtube
Vimeo
Consent to display content from - Vimeo
Google Maps
Consent to display content from - Google
Spotify
Consent to display content from - Spotify
Sound Cloud
Consent to display content from - Sound