Mínimos cuadrados

La regresión lineal busca la recta que mejor describe la relación entre dos variables.

Mejor se define de una forma precisa: la recta que hace mínima la suma de los cuadrados de las distancias verticales entre los puntos y la recta. De ahí el nombre del método.

Se toman las distancias verticales y no las perpendiculares porque el objetivo es predecir la variable del eje vertical a partir de la del horizontal. El error que interesa es el de predicción.

Se elevan al cuadrado para que los errores por arriba y por abajo no se cancelen, y además porque eso penaliza más los errores grandes.

De ese planteo salen fórmulas cerradas para la pendiente y la ordenada al origen, en función de los promedios y las variabilidades de las dos variables.

La recta siempre pasa por el punto formado por los dos promedios, y eso sirve como chequeo.

El orden de las variables importa: la recta que predice una a partir de la otra no es la misma que la inversa. Hay que definir bien cuál es la explicativa y cuál la respuesta antes de calcular.

b_{1} = \frac{\sum (x - \bar{x})(y - \bar{y})}{\sum (x - \bar{x})^{2}}, \quad b_{0} = \bar{y} - b_{1}\bar{x}

Cuándo se usa

Cuando hay que ajustar una recta a datos de dos variables. Definí primero cuál predice a cuál. Verificá que la recta pase por el punto de los dos promedios.

Ejemplo 1

Con dieciséis pares de horas y notas, la media de horas es $8{,}25 y$ la de notas $66{,}44$ . Con pendiente $3{,}70$ , calcular la ordenada al origen.

Usamos que la recta pasa por las medias. $b_{0} = \bar{y} - b_{1} \bar{x}$ .
Reemplazamos. $66{,}4375 - 3{,}6998 \cdot 8{,}25$ .
Resolvemos. $66{,}4375 - 30{,}5234 = 35{,}9141$ .
Respuesta: $b_{0} \approx 35{,}9141$

Ejemplo 2

Con esa recta, predecir la nota de alguien que estudia $10$ horas e interpretar la pendiente.

Reemplazamos en la recta. $35{,}9141 + 3{,}6998 \cdot 10 \approx 72{,}91$ .
Interpretamos la pendiente. Cada hora adicional de estudio se asocia con $3{,}70$ puntos más de nota, en promedio.
Aclaramos el alcance. Es una asociación observada, no una relación de causa: puede haber una tercera variable moviendo las dos.
Respuesta: Predice $72{,}91$ puntos

Error típico

Interpretar la ordenada al origen cuando el cero está lejos de los datos. El modelo no dice nada fuera del rango observado, y ahí la extrapolación puede ser absurda.

Practicar

← Comparación de varianzas Coeficiente de determinación →

Otros subtemas de Inferencia estadística

Las cuentas de este material están verificadas una por una. Si aun así encontrás algo raro, .