RACIONALIDAD
NATURALEZA
la utilización del término inteligencia para etiquetar una serie de tecnologías que pretenden emular el comportamiento humano, pero que no dejan de basarse en métodos estadísticos por muy sofisticados y complejos que sean, ha contribuido a una serie de falsos mitos y conceptualizaciones erróneas en torno al concepto de inteligencia artificial. Por desconocimiento, con frecuencia se dota a los sistemas de inteligencia artificial de una voluntariedad o intencionalidad de la que carecen; sin embargo, dichos sistemas se asemejan más a lo que la lingüista Emily Bender bautizó como “cotorras estocásticas” (On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)
que a una inteligencia como la humana. Dada la dificultad de definir el concepto de inteligencia, en el ámbito de la IA se prefiere utilizar el término racionalidad. Como señalan por ejemplo Russell y P. Norvig (Artificial Intelligence: a Modern Approach), un sistema de IA es ante todo un sistema racional. Se destierran así intentos de revestir a estos sistemas de una posible antropomorfización. La racionalidad no es el único ingrediente del concepto de inteligencia, pero sí uno muy importante.
CONCEPTO
Como señala el Grupo de Expertos de Alto Nivel de la Comisión de la UE sobre IA, la “racionalidad hace referencia a la capacidad de elegir la mejor acción posible para alcanzar un objetivo determinado, dados determinados criterios que es necesario optimizar y teniendo en cuenta los recursos disponibles”. La racionalidad, entendida como la capacidad de elegir la mejor acción posible se desarrolla en varias fases dentro de un proceso, a saber, recopilación de datos, tratamiento de información y toma de decisiones. Es decir, y hablando en términos generales, un sistema de IA debe contar con tres capacidades fundamentales: percepción, razonamiento/toma de decisiones y acción, que pueden ser reconducidas a la capacidad de razonamiento y aprendizaje.
IMPORTANCIA
este concepto contribuye a la desmitificación de las diferentes tecnologías que son amalgamadas bajo la etiqueta de inteligencia artificial. De esta forma se pone el foco en que cualquier sistema de IA tiene un objetivo determinado, y su diseño y desarrollo solo conducen a su consecución, evidenciando la relevancia del papel e intereses de las personas que están detrás de esos sistemas y la instrumentalización de una supuesta objetividad de las matemáticas o métodos estadísticos. También nos indica la importancia de conocer el ciclo de vida de todo sistema de IA, ya sea para establecer las debidas responsabilidades, pero también los requisitos éticos o jurídicos en su diseño.
USOS Y RIESGOS
Comprendiendo y utilizando el concepto de racionalidad en la IA, la utilización de sistemas alimentados por estas tecnologías puede ser sometida a los requerimientos clásicos del Estado de Derecho y al respeto de los valores democráticos. Sin embargo, la potencialidad de beneficios de esta tecnología puede plantear un debate en un posible cambio de paradigma en cuanto al garantismo y protección del usuario como principal valor, permitiendo, por ejemplo, el efecto blackbox, con todo lo que eso supone para los derechos humanos, el Estado de Derecho y los valores democráticos.
AUTORES
Mario Hernández Ramos
