25 junio 2026

Regresión Polinómica (Parte 5)

Cuando una línea recta no es suficiente — y cómo curvarla sin romper nada

A lo largo de las cuatro partes anteriores hemos construido un kit de herramientas completo: una recta, una forma de medir cuánto se equivoca, un método para mejorarla paso a paso y las fórmulas exactas que el ordenador ejecuta en cada iteración. Si has seguido hasta aquí, puedes decir con toda honestidad que entiendes cómo una máquina aprende una línea recta.

Pero la realidad tiene un problema: rara vez es recta.

Los precios de la vivienda no suben a un ritmo constante eternamente. El crecimiento de una planta se acelera y luego se estanca. La relación entre velocidad y consumo de combustible es una curva, no una rampa. Si insistimos en ajustar una línea recta a datos que se curvan, no estamos siendo simples — estamos estando equivocados.

Así que la pregunta natural es: ¿podemos enseñarle al modelo a aprender curvas? Y la respuesta, que es preciosa, es: sí, y apenas tenemos que cambiar nada.

1. La idea clave: transformar x, no el modelo

Esta es la idea más importante de todo este artículo, y es la que la mayoría de las explicaciones se saltan o explican mal. Así que vamos a decirla con claridad:

La regresión polinómica no es un tipo nuevo de modelo. Es la misma regresión lineal que ya conocemos, alimentada con ingredientes más ricos.

Esto es lo que significa. En las Partes 1–4, nuestro modelo recibía una única entrada, $x$ , y producía una predicción:

$y^= β_{0} + β_{1} x$

Un coeficiente para la ordenada en el origen, otro para la pendiente, y listo. Pero ¿qué pasa si, antes de entregarle los datos al modelo, fabricamos algunas columnas extra? ¿Qué pasa si, junto al $x$ original, también le damos $x^{2}$ ? Entonces el modelo tendría dos entradas con las que trabajar y produciría:

$y^= β_{0} + β_{1} x + β_{2} x^{2}$

Desde el punto de vista del modelo, nada ha cambiado. Sigue viendo un montón de entradas, multiplica cada una por un coeficiente y las suma. Sigue haciendo regresión lineal. No tiene ni idea de que la segunda columna es simplemente la primera elevada al cuadrado — le da igual. Trata $x$ y $x^{2}$ como dos características completamente independientes y encuentra el mejor peso para cada una.

El truco está enteramente de nuestro lado: transformamos la entrada, no el algoritmo.

$x ⟶ [x, x^{2}, x^{3}, \dots]$

Cada potencia de $x$ se convierte en una nueva columna en la tabla de datos. Estamos ampliando el vocabulario del modelo, dándole más piezas que combinar, para que pueda describir formas que una simple línea recta nunca podría. Y esto es lo que la gente quiere decir cuando dice que la regresión polinómica es «lineal en los parámetros»: los coeficientes $β$ siguen entrando en la ecuación como simples multiplicadores, aunque la relación entre $x$ e $y$ sea ahora una curva.

Piénsalo como cocinar. La regresión lineal es una receta con una sola especia. La regresión polinómica no cambia la forma de cocinar — sigues mezclando, calentando y sirviendo de la misma manera — simplemente abre más el especiero. Más especias, sabores más complejos. La misma cocina, la misma técnica.

2. Una historia visual: por qué la línea recta falla

Imagina que has recogido datos sobre cómo cambia la eficiencia de combustible de un coche con la velocidad. A velocidades bajas, la eficiencia sube a medida que el motor se calienta. Alrededor de 80–90 km/h alcanza su máximo. Luego, a velocidades altas, baja porque la resistencia del aire toma el control. Los datos, si los representaras gráficamente, trazarían un arco suave — una U invertida.

Ahora intenta colocar una línea recta sobre ese arco. Da igual cómo la inclines o la desplaces, cortará por el medio, fallando en la subida de la izquierda, el pico del centro y la bajada de la derecha. La recta simplemente no tiene el vocabulario para decir «sube y luego baja.» Todo su repertorio es «sube» o «baja,» una cosa u otra, para siempre.

Un polinomio de grado 2 (una parábola) se ajusta a esto de forma natural. Puede subir, curvarse y bajar — exactamente la forma que los datos están trazando. La predicción ya no es un tablón rígido; es un arco flexible que sigue la tendencia real.

Y si tus datos tienen una forma aún más compleja — digamos que bajan, suben y vuelven a bajar — un polinomio de grado 3 puede capturar esa doble curva. Cada grado adicional le da a la curva un «codo» más, un lugar más donde se le permite cambiar de dirección.

La progresión es así:

Grado	Forma que puede describir	Número de coeficientes
1 (lineal)	Una línea recta	2 ( $β_{0}, β_{1}$ )
2 (cuadrático)	Una curva simple (un giro)	3
3 (cúbico)	Una forma de S (dos giros)	4
d	Hasta $d - 1$ giros	$d + 1$

🟦 3. La fórmula general

Escribiéndola completa, una regresión polinómica de grado $d$ predice:

$y^= β_{0} + β_{1} x + β_{2} x^{2} + β_{3} x^{3} + \dots + β_{d} x^{d}$

Cada término añade una nueva capa de flexibilidad:

$β_{0}$ sigue siendo la línea base — donde la curva cruza el eje vertical.
$β_{1} x$ captura la tendencia lineal, la inclinación general.
$β_{2} x^{2}$ permite que la curva se doble una vez — que se abra hacia arriba o hacia abajo como un cuenco.
$β_{3} x^{3}$ añade una inflexión, permitiendo que la curva pase de cóncava a convexa (o viceversa).
Las potencias más altas añaden ondulaciones cada vez más finas.

Y aquí está la realidad entre bastidores que elimina cualquier misterio: cuando el ordenador entrena este modelo, no ve un polinomio. Ve una matriz de datos $X$ donde cada fila es un punto y cada columna es una característica. Para un polinomio de grado 3, la matriz tiene este aspecto:

$X = 11⋮1 x^{1} x^{2} ⋮ x^{n} x^{12} x^{22} ⋮ x^{n 2} x^{13} x^{23} ⋮ x^{n 3}$

Esa primera columna de unos está ahí para $β_{0}$ . El resto son simplemente potencias de $x$ . No hay magia — solo más columnas. ¿Y el algoritmo que encuentra los mejores valores de $β$ ? Es exactamente el mismo que construimos en las Partes 3 y 4.

4. Cómo se entrena: exactamente igual que antes

Aquí es donde todo lo que hemos hecho hasta ahora da sus frutos. Si entendiste la Parte 4, ya sabes cómo entrenar una regresión polinómica. No cambia nada excepto el número de coeficientes que actualizar.

La función de coste sigue siendo el MSE:

$J (β_{0}, β_{1}, \dots, β_{d}) = n 1 \sum_{i = 1 n} (y^_{i} - y_{i})^{2}$

El gradiente sigue diciéndonos en qué dirección mover cada coeficiente. Y la regla de actualización sigue siendo la misma resta:

$β_{j} := β_{j} - α \cdot \partial β ^{j} \partial J$

La única diferencia es que ahora tenemos $d + 1$ coeficientes en lugar de 2, así que calculamos $d + 1$ derivadas parciales y damos $d + 1$ pasos simultáneos. Pero cada paso individual sigue exactamente la misma lógica:

Para $β_{0}$ : la derivada depende del error medio (igual que antes).
Para $β_{1}$ : la derivada pondera cada error por $x_{i}$ (igual que antes).
Para $β_{2}$ : la derivada pondera cada error por $x_{i 2}$ .
Para $β_{j}$ en general: la derivada pondera cada error por $x_{i j}$ .

$\partial β ^{j} \partial J = n 2 \sum_{i = 1 n} (y^_{i} - y_{i}) x_{i j}$

¿Ves el patrón? Es la misma fórmula de la Parte 4, pero donde antes solo teníamos $x_{i 0} = 1$ y $x_{i 1} = x_{i}$ , ahora extendemos la misma idea a $x_{i 2}, x_{i 3}, \dots$ . La maquinaria es idéntica. Lo único que hicimos fue añadir más características a la entrada, y el algoritmo escaló automáticamente.

Si entendiste la Parte 4, ya sabes cómo entrenar un polinomio. Punto.

5. Un ejemplo numérico: de la recta a la curva al caos

Vamos a hacerlo concreto con un conjunto de datos diminuto. Supongamos que tenemos cinco puntos que siguen una curva suave:

$x$	$y$
1	2.5
2	6.8
3	12.0
4	17.9
5	25.1

Si observas los saltos en $y$ (4.3, 5.2, 5.9, 7.2), son cada vez mayores — los datos se están acelerando. Una línea recta intentaría repartir la diferencia con una pendiente constante y sistemáticamente se quedaría corta en los extremos y se pasaría en el centro.

Un ajuste de grado 1 (línea recta) podría darnos algo como $y^= - 2.6 + 5.5 x$ . Captura la tendencia general al alza, pero el patrón de los errores — negativo, positivo, positivo, negativo, negativo — revela que le falta una curva.

Un ajuste de grado 2 (parábola) añade el término $x^{2}$ y podría producir $y^= 0.1 + 1.9 x + 0.7 x^{2}$ . Ahora las predicciones se ciñen a los datos mucho más de cerca. Los errores se reducen y ya no muestran un patrón — parecen aleatorios, que es exactamente lo que queremos.

Un ajuste de grado 10 sobre cinco puntos puede pasar por cada uno de ellos con error de entrenamiento cero. Suena perfecto, ¿verdad? Es lo contrario. Entre los puntos, la curva se lanza a excursiones salvajes — subiendo y bajando en picado de maneras que no tienen nada que ver con la relación real. Dale $x = 2.5$ y podría predecir 47 o -12, a pesar de que todos los puntos de entrenamiento están entre 2 y 26. El modelo no ha aprendido el patrón; ha memorizado el ruido.

Y eso nos lleva al mayor peligro de la regresión polinómica.

6. El gran problema: el sobreajuste

El sobreajuste (overfitting) es lo que ocurre cuando un modelo es tan flexible que deja de aprender la señal y empieza a perseguir el ruido. Y la regresión polinómica es espectacularmente propensa a ello.

La intuición es esta. Todo conjunto de datos real tiene dos componentes mezclados: el patrón subyacente real (señal) y las fluctuaciones aleatorias (ruido) provenientes del error de medición, la variación natural o la pura mala suerte. Un buen modelo captura el patrón e ignora el ruido. Un modelo sobreajustado captura ambos, y como el ruido no se repite en datos nuevos, el modelo falla en cuanto se encuentra con algo que no ha memorizado.

Los síntomas son inconfundibles:

El error de entrenamiento es casi cero — la curva enhebra cada punto.
El error de validación es enorme — con datos nuevos las predicciones se disparan.
La curva oscila violentamente entre los puntos, con coeficientes que se inflan a valores positivos y negativos enormes para forzar al polinomio a pasar por cada punto.

Una analogía útil: imagina que intentas describir la costa de España. Un polinomio de grado bajo es como decir «va más o menos hacia el este por el Mediterráneo, luego curva hacia el sur, luego sube por el Atlántico.» Eso es una simplificación útil. Un polinomio de grado muy alto intenta trazar cada cala, cada playa, cada roca — y cuando lo usas para predecir cómo es la costa entre tus mediciones, inventa fiordos y penínsulas que no existen.

Más flexibilidad no siempre es mejor. El arte está en encontrar el punto óptimo: suficiente complejidad para capturar el patrón real, no tanta como para empezar a alucinar estructura en el ruido.

Este es el problema que la Parte 6 (Ridge y Lasso) abordará directamente. Pero antes de llegar ahí, ¿cómo elegimos al menos un grado razonable?

7. Cómo elegir el grado del polinomio

El principio fundamental es simple: no juzgues al modelo con los datos con los que se entrenó. Júzgalo con datos que no ha visto.

La herramienta estándar para esto es la validación cruzada, y la versión más común funciona así:

Divide tus datos en, digamos, 5 partes (folds) iguales.
Para cada grado candidato (1, 2, 3, …), entrena el modelo con 4 partes y mide su error en la parte restante.
Rota cuál es la parte que se queda fuera y repite, de modo que cada punto tenga su turno como test «no visto.»
Promedia los errores de todos los folds. El grado que dé el error de validación medio más bajo gana.

Lo que normalmente verás cuando grafiques error de entrenamiento vs. error de validación a medida que el grado aumenta:

El error de entrenamiento baja constantemente — más flexibilidad siempre te permite ajustar mejor los datos de entrenamiento.
El error de validación baja al principio (el modelo está aprendiendo el patrón real), alcanza un mínimo (el punto óptimo), y luego empieza a subir (el modelo ya está ajustando ruido).

Esa curva de validación en forma de U es una de las gráficas más importantes de todo el aprendizaje automático. El fondo de la U es tu respuesta.

Una buena regla general: empieza simple. Prueba grado 2. Si no es suficiente, prueba 3. Rara vez en la práctica necesitas pasar de 4 o 5. Si te ves buscando grado 8, el problema probablemente no es el grado — es que la regresión polinómica puede no ser la herramienta adecuada para esos datos.

8. Cuándo usar regresión polinómica (y cuándo no)

La regresión polinómica brilla cuando:

La relación entre $x$ e $y$ es claramente no lineal pero suave — una curva, no un zigzag.
Tienes una única variable de entrada (o muy pocas). Con muchas entradas, el número de términos polinómicos explota combinatoriamente y se vuelve inmanejable.
Quieres algo simple e interpretable que vaya un paso más allá de la línea recta.

No es la mejor opción cuando:

Los datos tienen muchas características — los modelos basados en árboles o las redes neuronales manejan mucho mejor la no linealidad en alta dimensión.
La relación es periódica (ondas que se repiten) — las funciones trigonométricas o las características de Fourier son más naturales.
Necesitas extrapolar mucho más allá de tus datos — los polinomios se descontrolan fuera del rango de los datos de entrenamiento. Un polinomio de grado 5 que ajusta maravillosamente entre $x = 0$ y $x = 10$ puede predecir valores absurdos en $x = 15$ .

9. Conexión con la Parte 6

Hemos visto que la regresión polinómica nos da una forma potente de modelar curvas, pero introduce un compromiso peligroso: cuanto más flexible hacemos el modelo, más riesgo corre de sobreajustarse. Y nuestra única defensa hasta ahora es elegir el grado con cuidado.

Pero ¿y si hubiera una forma de mantener un polinomio de grado alto — con toda su capacidad expresiva — mientras penalizamos activamente que se vuelva demasiado salvaje? Una forma de decirle al modelo: «Puedes usar todos estos términos, pero te voy a cobrar un precio por hacer los coeficientes demasiado grandes.»

Eso es exactamente lo que hace la regularización. En la Parte 6 presentaremos la regresión Ridge y la regresión Lasso, dos técnicas que añaden un término de penalización a la función de coste para mantener los coeficientes bajo control. Son el cinturón de seguridad que te permite conducir un coche más potente sin salirte de la carretera.

En resumen

La regresión polinómica no es un modelo nuevo — es regresión lineal con características extra creadas al elevar $x$ a potencias más altas.
El modelo sigue siendo lineal en los parámetros (los valores $β$ ), aunque la relación entre $x$ e $y$ sea una curva.
El entrenamiento usa exactamente el mismo descenso de gradiente de la Parte 4, solo con más coeficientes que actualizar.
Los polinomios de grado más alto son más flexibles, pero la flexibilidad tiene un coste: el sobreajuste, donde el modelo memoriza el ruido en vez de aprender el patrón.
El grado adecuado se elige mediante validación cruzada, buscando el punto óptimo donde el error de validación es mínimo.
La regresión polinómica funciona mejor para relaciones no lineales suaves y de baja dimensión, y debe usarse con precaución para extrapolar.
En la Parte 6 aprenderemos a domar el sobreajuste con regularización (Ridge y Lasso), para poder usar modelos flexibles sin perder el control.

Machine Learning, AI, General, IA, Inteligencia Artificial

| Tags: AI, artificial, ia, inteligencia, Inteligencia artificial, learning, machine, Machine Learning

De On-Premise a la Nube en Español

Regresión Polinómica explicada: cómo aprender curvas sin cambiar el modelo (Parte 5)