El método de mínimos cuadrados es un criterio para elegir, entre muchas estimaciones posibles, la que hace más pequeña la suma de los errores elevados al cuadrado. «Error» (o residuo) es la diferencia entre cada dato observado y el valor que propone la estimación. Es el principio que hay detrás de la regresión lineal, de muchos ajustes de curvas en ciencia e ingeniería y, aunque no suele decirse, de la propia media aritmética: la media es el número que minimiza la suma de las distancias al cuadrado a los datos. Lo propusieron Legendre (1805) y Gauss, que lo usó para calcular la órbita del planeta enano Ceres en 1801.
El criterio
Dados unos datos yᵢ y unas predicciones ŷᵢ que dependen de uno o más parámetros, se elige el valor de los parámetros que minimiza:
SCR = Σ (yᵢ − ŷᵢ)²
¿Por qué al cuadrado? Porque así los errores positivos y negativos no se cancelan, los errores grandes se castigan más que los pequeños y, sobre todo, el mínimo se encuentra con una fórmula cerrada (derivando e igualando a cero), sin necesidad de probar valores.
Cómo se aplica
- Define el modelo: una constante (ŷ = c), una recta (ŷ = a + b·x) o una curva.
- Escribe la suma de cuadrados de los residuos en función de los parámetros.
- Minimízala: para una recta, las soluciones son las fórmulas de pendiente e intercepto de abajo.
- Revisa los residuos: deben sumar cero y no mostrar patrones.
b = Σ (xᵢ − x̄)(yᵢ − ȳ)Σ (xᵢ − x̄)² · a = ȳ − b · x̄
Ejemplos resueltos
Ejemplo 1: la media es la solución de mínimos cuadrados
Datos: 2, 3 y 7. Buscamos el número c que minimiza Σ(xᵢ − c)².
| c | (2 − c)² + (3 − c)² + (7 − c)² |
|---|---|
| 3 | 1 + 0 + 16 = 17 |
| 4 | 4 + 1 + 9 = 14 |
| 5 | 9 + 4 + 4 = 17 |
El mínimo está en c = 4, que es la media (12 ÷ 3). Derivando se demuestra que esto siempre ocurre: la derivada de Σ(xᵢ − c)² es −2Σ(xᵢ − c), que vale cero cuando c = x̄. Y ese mínimo, 14, dividido entre n − 1, es la varianza muestral: 14 ÷ 2 = 7.
Si en lugar de cuadrados minimizas los valores absolutos, Σ|xᵢ − c|, la solución es la mediana (3), con suma 5; con c = 4 la suma sería 6. Cada criterio produce su propio «centro».
Ejemplo 2: ajustar una recta a cuatro puntos
Puntos (x, y): (1, 2), (2, 3), (3, 5), (4, 6). Medias: x̄ = 2.5, ȳ = 4.
- Σ(xᵢ − x̄)(yᵢ − ȳ) = (−1.5)(−2) + (−0.5)(−1) + (0.5)(1) + (1.5)(2) = 7.
- Σ(xᵢ − x̄)² = 2.25 + 0.25 + 0.25 + 2.25 = 5.
- b = 7 ÷ 5 = 1.4; a = 4 − 1.4 × 2.5 = 0.5. Recta: ŷ = 0.5 + 1.4x.
| x | y | ŷ | Residuo |
|---|---|---|---|
| 1 | 2 | 1.9 | 0.1 |
| 2 | 3 | 3.3 | −0.3 |
| 3 | 5 | 4.7 | 0.3 |
| 4 | 6 | 6.1 | −0.1 |
Los residuos suman 0 y su suma de cuadrados es 0.2. Ninguna otra recta da una suma menor. La recta siempre pasa por el punto de medias (2.5, 4).
Cuándo no usarlo
- Con valores atípicos fuertes: al elevar al cuadrado, un solo punto lejano «jala» la recta. Existen métodos robustos (mínimas desviaciones absolutas, regresión de Huber) para esos casos.
- Cuando los errores tienen varianzas muy distintas entre observaciones: conviene ponderar (mínimos cuadrados ponderados).
- Si el error está en x y no solo en y: el método estándar supone que x se mide sin error; si no, la pendiente queda subestimada.
Errores comunes
- Minimizar la suma de residuos sin elevar al cuadrado: cualquier recta que pase por el punto de medias la hace cero.
- Pensar que «mínimos cuadrados» garantiza un buen modelo: garantiza el mejor dentro del modelo elegido. Una recta ajustada a datos curvos sigue siendo una mala descripción; el coeficiente de determinación y la gráfica de residuos lo revelan.
- Confundir la suma de cuadrados (0.2) con el error cuadrático medio, que la divide entre el número de datos o los grados de libertad.
En Excel, =PENDIENTE(B2:B5,A2:A5) y =INTERSECCION.EJE(B2:B5,A2:A5) devuelven b y a (en España, con ;). Primero va el rango de y, después el de x.