Técnica estadística y de análisis de datos que describe y predice la relación entre una o más variables explicativas o de entrada y una variable respuesta o de salida. Simplificando, la regresión sería un modelo matemático usado para aproximar la relación de dependencia entre una variable dependiente Y y una o varias variables independientes X. Hay distintos métodos para el ajuste de esta relación.
Existen dos grandes modelos de regresión: (i) lineal, el cual asume que la relación entre las variables adopta la forma de una recta, de manera que la variable de salida varía a un ritmo constante respecto a la/s variable/s de entrada, y busca examinar y estimar valores continuos; (ii) No lineal en cuanto que asume que las relaciones entre las variables son más complejas que las reflejadas en una recta adoptando modelos polinomiales,exponenciales, de potencia o logarítmicos. Estos modelos pueden ser particularmente útiles cuando se trata de conjuntos de datos del mundo real, donde es común que las relaciones entre las variables no sean lineales. En este tipo de regresión destaca la regresión logística que asume que la relación entre las variables adopta la forma de un sigmoide y busca examinar y estimar la probabilidad de que un valor de la variable de salida pertenezca a una determinada categoría.
Cuando se trata de modelado predictivo, los modelos de regresión lineal son ampliamente utilizados y conocidos. Pese a ello, estos modelos tienen ciertas limitaciones cuando se trata de ajustar tipos de datos complejos, donde las relaciones entre variables pueden no ser lineales. En tales casos, los modelos de regresión no lineal entran en juego, ofreciendo mejores predicciones al ajustar una curva a los puntos de datos. Sin embargo, comprender los modelos de regresión no lineal requiere una buena comprensión de algunos conceptos y terminologías clave. Mientras los modelos de regresión simple son fáciles de entender y resultan auto explicativos.