¿Hay alguna diferencia entre 'controlar para' e 'ignorar' otras variables en regresión múltiple?

El coeficiente de una variable explicativa en una regresión múltiple nos dice la relación de esa variable explicativa con la variable dependiente. Todo esto, mientras 'controla' las otras variables explicativas.

Cómo lo he visto hasta ahora:

Mientras se calcula cada coeficiente, las otras variables no se tienen en cuenta, por lo que considero que se ignoran.

Entonces, ¿estoy en lo cierto cuando pienso que los términos 'controlado' e 'ignorado' se pueden usar indistintamente?

regression multiple-regression

— Siddharth Gopi
fuente

No estaba tan entusiasmado con esta pregunta hasta que vi que los dos pensaron que inspiraste a @gung para ofrecer.

— DWin

No sabías de la conversación que estábamos teniendo en otro lugar que motivó esta pregunta, @DWin. Era demasiado tratar de explicar esto en un comentario, así que le pedí al OP que hiciera una pregunta formal. De hecho, creo que resaltar explícitamente la distinción b / t ignorar y controlar otras variables en la regresión es una gran pregunta, y me alegro de que se haya discutido aquí.

— gung - Restablecer Monica

vea también el primer diagrama aquí

— Glen_b

¿Están disponibles los datos utilizados en esta pregunta para que podamos ejecutarlos nosotros mismos como una muestra educativa?

— Larry

Respuestas:

$Y$ $X_1$ $X_2$ $Y$ $X_1$

$X_1$ $Y$ $X_2$
$Y = β_{0} + β_{1} X_{1} + β_{2} X_{2}$ $Y = \beta_0 + \beta_1X_1 + \beta_2X_2$
$X_1$ $Y$ $X_2$

$Y = β_{0} + β_{1} X_{1}$ $Y = \beta_0 + \beta_1X_1$

$X_1$ $Y$ $\hat\beta_1$ $X_1$ $X_2$

ingrese la descripción de la imagen aquí

$X_1$ $X_2$ $X_2$ $X_2$ $X_2$ $X_2$ $X_2=1$ $X_2=2$ $X_2=3$ $X_1$ $Y$ $X_2$ $X_2$

ingrese la descripción de la imagen aquí

Otra forma de pensar acerca de la distinción entre ignorar y controlar otra variable, es considerar la distinción entre una distribución marginal y una distribución condicional . Considere esta figura:

ingrese la descripción de la imagen aquí

_{( Esto se toma de mi respuesta aquí: ¿Cuál es la intuición detrás de las distribuciones gaussianas condicionales? )}

$Y$ $Y$ $X$ $Y$ $X_1 = 25$ $X_1 = 45$ $X_1$

— gung - Restablece a Monica
fuente

Gung, esto es esclarecedor, me alegro de haber cometido el error de usar la palabra 'ignorar' en mi respuesta a esa pregunta. Ahora voy a tratar de averiguar cómo exactamente 'controlan' los paquetes estadísticos para las otras variables. (Mi primer pensamiento es que usan alguna medida como el coeficiente de correlación de Pearson. Sin embargo, con muchas variables explicativas, las cosas se pondrían confusas) ¡Gracias por esta respuesta!

— Siddharth Gopi

De nada, @garciaj, aunque todavía no he terminado ;-). Estoy buscando otra figura; Puede que tenga que hacerlo desde cero.

— gung - Restablece a Monica

La idea crucial en la primera figura es que esos puntos se encuentran en un espacio tridimensional, con los círculos rojos en un plano en la pantalla de la computadora, los triángulos azules en un plano paralelo un poco delante de la pantalla y el verde ventajas en un avión un poco por delante de eso. El plano de regresión se inclina hacia abajo a la derecha, pero se inclina hacia arriba a medida que se mueve desde la pantalla hacia usted. Tenga en cuenta que este fenómeno ocurre porque X1 y X2 están correlacionados, si no estuvieran correlacionados, las betas estimadas serían las mismas.

— gung - Restablece a Monica

Y este tipo de correlación entre los predictores (por ejemplo, el escenario @gung) es lo que generalmente subyace en un caso de la paradoja de Simpson . En un universo con más de tres variables, es aconsejable recordar que puede estar al acecho de sus inferencias (¡oh!).

— FairMiles

@MSIS, cuando controla una variable en un modelo, el modelo intenta mantenerla constante (fija) en aras de estimar todo lo demás en el modelo. Sin embargo, esto es solo un intento y está sujeto a un error aleatorio, por lo que no es necesariamente idéntico a lo que obtendría si realizara un estudio con una variable fijada físicamente en un valor dado.

— gung - Restablece a Monica

Están no ignorados. Si fueran 'ignorados' no estarían en el modelo. La estimación de la variable explicativa de interés está condicionada a las otras variables. La estimación se forma "en el contexto de" o "permitiendo el impacto de" las otras variables en el modelo.

— DWin
fuente

La estimación está, por supuesto, sujeta a otras variables. Pero debemos purificarlo introduciendo los llamados otros factores en el modelo. Sin embargo, a veces estos factores pueden ser de naturaleza categórica y causar más problemas que dar una solución válida.

— Subhash C. Davar