Agentes autónomos (Autonomous agents)
NATURALEZA
Es un concepto propio de la IA
CONCEPTO
Por agentes autónomos entendemos un sistema de IA que es capaz de percibir su entorno y su ambiente, procesarlo, recordarlo y daruna respuesta o realizar una actuación conforme a lo que ha percibido y a los objetivos requeridos por el usuario. Se trata de sistemas quemantienen un conjunto de capacidades para responder a situaciones que no estaban preprogramadas o previstas (es decir, respuestas basadas endecisiones) antes del despliegue del sistema. Los sistemas autónomos tienen cierto grado de autogobierno (con el poder de decisión del serhumano). Los agentes autónomos tienen especial incidencia en las relaciones directas con los usuarios y encuentran un punto importante en lacomunicación con ellos. Los sistemas IA de agentes autónomos combinan los modelos lingüísticos avanzados con métodos de comunicaciónhumana, buscando una conexión más personal y humana con el usuario. Parece que el objetivo es que, cuando un ser humano interactúe con un agente autónomo de IA, no perciba que se trata de un sistema de IA, es decir, que no lo diferencie de una interacción humana. Asimismo, se llega a plantear que estos agentes autónomos podrían llegar a ampliar sus capacidades de percepción y actuación en el entorno, llegando a alcanzar un estado similar a la consciencia. Hay que apuntar que existen multitud de tipos de estos agentes de distinta entidad, desde vehículos autónomos hasta humanoides. Han tenido, además un desarrollo importante en el campo militar.
IMPORTANCIA
Desde el punto de vista jurídico, deberíamos plantearnos, de una parte, la regulación de estos agentes autónomos de IA y, por otro,cómo se ven afectados en el sistema de derechos fundamentales, esto es, ¿son titulares de derechos fundamentales los agentes autónomos?
En el primer sentido resulta de especial relevancia la regulación de la responsabilidad derivada por los actos de estos agentes tanto respecto a quién es el sujeto responsable (empresa o usuario) como en lo relativo a los criterios que puedan hacer esa responsabilidad.
USOS Y RIESGOS
Los riesgos parece que van a depender del agente autónomo concreto y su ámbito de aplicación. En el ámbito de los vehículos autónomos, los riesgos para la integridad física y la vida parecen evidentes. Los agentes autónomos de uso militar pueden comprometer también esta integridad física y la vida, pero también inciden en la administración de información disponible sobre acciones militares y maniobras. En general, los agentes autónomos pueden generar riesgos relacionados con la privacidad, la gestión de información y el uso que se hace de esa información.
AUTORES
Lara Redondo Saceda