Sesgo algorítmico (bias)
NATURALEZA
Es un concepto matemático que tiene relevancia desde la óptica de la Inteligencia Artificial, en cuanto representa la tendencia de una máquina a incurrir en un error.
CONCEPTO
Error sistemático en el que se incurre al preferir una respuesta frente a otras.
Si bien un sesgo es un error sistemático en el que se incurre al preferir una respuesta frente a otras, al aplicarlo a la Inteligencia Artificial puede tener distintos significados
a) Puede hacer referencia a que hay un sesgo en los datos y la IA reproduce el sesgo intrínseco en la sociedad
b) O bien que son los programadores los que introducen en el sistema sus propios sesgos al etiquetar y la IA modela según dichos sesgos
c) Finalmente, en sentido propio, hablamos de sesgo algorítmico cuando es el propio algoritmo el que introduce el sesgo al realizar una predicción
IMPORTANCIA
El sesgo puede influir en los resultados que se obtienen a partir de un algoritmo, resultando insatisfactorio y, en el peor de los casos, injusto. Si es una tendencia -consciente o inconsciente- del programador o del desarrollador, puede tener efectos discriminatorios porrazones prohibidas por el ordenamiento jurídico. Si es un problema que genera la propia máquina que aprende, el resultado puede ser igualmente discriminatorio, aunque habría una justificación objetiva -la programación-.
El sesgo puede ser resultado del diseño del sistema de IA o puede proceder de sesgos presentes en los datos utilizados para entrenarla.
USOS Y RIESGOS
El principio de igualdad se puede ver afectado por el sesgo algorítmico. Podría funcionar en una lógica compensatoria, vinculada al principio de igualdad material o real; podría funcionar en una lógica discriminatoria, vinculada al principio de igualdad formal y al derecho a no sufrir discriminación.
Desde el punto de vista de los técnicos en IA, es importante que se tengan en cuenta los problemas de sesgo de cualquier sistema tanto en los resultados como en los datos tratados. Resulta pues esencial que la posibilidad de que se produzcan errores sistemáticos contrarios a los valores constitucionales (singularmente la igualdad y no discriminación) sean compensados tanto en los datos como en el diseño de cada concreta herramienta.
AUTORES
Miguel Pérez-Moneo
