Desde una perspectiva técnica, la robustez en inteligencia artificial (IA) se refiere a la capacidad de un sistema de IA para mantener un rendimiento estable y preciso en diferentes situaciones, incluso frente a datos ruidosos, escenarios inesperados o intentos de engaño. En otras palabras, un sistema de IA robusto debería ser capaz de funcionar correctamente y evitar errores significativos en una amplia variedad de circunstancias. Algunos desafíos que afectan la robustez de los sistemas de IA incluyen:

• Ruido en los datos: los datos utilizados para entrenar los modelos de IA pueden contener errores, valores atípicos o sesgos, lo que puede afectar negativamente la precisión y la generalización del sistema.
• Engaños al sistema: se trata de intentos deliberados de engañar a un modelo de IA, agregando perturbaciones imperceptibles a los datos de entrada para que el sistema clasifique incorrectamente los objetos.
• Cambios de distribución: si el modelo de IA se entrena en un conjunto de datos específico y luego se despliega en un entorno diferente con una distribución de datos ligeramente distinta, su rendimiento puede verse afectado negativamente.
• Escasez de datos: cuando un sistema de IA no tiene suficientes ejemplos, datos, en su conjunto de entrenamiento, su desempeño puede ser deficiente.

Si lo ampliamos al ámbito del código podemos además relacionarlo con conceptos como: manejo de errores, validación de datos, tolerancia a fallos, adaptabilidad, tratamiento adecuado de excepciones.
Desde la perspectiva del derecho, la robustez en inteligencia artificial se refiere a la capacidad de los sistemas de IA para cumplir con los principios legales y éticos. Algunas consideraciones legales y éticas importantes relacionadas con la robustez en IA incluyen:

• Responsabilidad: Los sistemas de IA deben ser diseñados y utilizados de manera responsable para evitar consecuencias negativas, como discriminación o daño a los usuarios. Un sistema robusto es menos propenso a tener errores, a causar daños o perjuicios derivados de comportamientos inesperados.
• Transparencia: Los sistemas de IA deben ser transparentes en su funcionamiento y toma de decisiones, permitiendo a los usuarios y expertos comprender cómo llegan a sus conclusiones. En este punto se relaciona con la Explicabilidad.
• Privacidad: Los sistemas de IA deben proteger la privacidad de los datos de los usuarios y garantizar que se utilicen de acuerdo con las normativa de protección de datos.
• Supervisión humana: En ciertos contextos críticos, como la atención médica o la toma de decisiones legales, los sistemas de IA deben estar diseñados para permitir la supervisión y el control humano para evitar errores costosos.

Un concepto muy vinculado al de robustez es el de resiliencia que se refiere a la capacidad de un sistema de IA para perdurar. Esto es la determinación de cuánto tiempo el modelo funciona correctamente sin tener que reentrenar ni actualizar los datos.