Convertir betas estandarizadas de nuevo a variables originales

Me doy cuenta de que esta es probablemente una pregunta muy simple, pero después de buscar no puedo encontrar la respuesta que estoy buscando.

Tengo un problema en el que necesito estandarizar las variables para ejecutar la (regresión de cresta) para calcular las estimaciones de cresta de las versiones beta.

Luego necesito convertirlos nuevamente a la escala de variables original.

¿Pero cómo hago esto?

Encontré una fórmula para el caso bivariado que

β^{*} = \hat{β} \frac{S_{x}}{S_{y}} .

$\beta^* = \hat\beta \frac{S_x}{S_y} \>.$

Esto se dio en D. Gujarati, Econometría básica , página 175, fórmula (6.3.8).

Donde son los estimadores de la ejecución de regresión en las variables estandarizadas y es el mismo estimador convertido de nuevo a la escala original, es la desviación estándar de la muestra de los regressand, y es la desviación estándar de la muestra. $\beta^*$ $\hat\beta$ $S_y$ $S_x$

Lamentablemente, el libro no cubre el resultado análogo para la regresión múltiple.

¿Tampoco estoy seguro de entender el caso bivariado? La manipulación algebraica simple proporciona la fórmula para en la escala original: $\hat\beta$

\hat{β} = β^{*} \frac{S_{y}}{S_{x}}

$\hat\beta=\beta^* \frac{S_y}{S_x}$

Me parece extraño que el que se calculó en variables que ya están desinfladas por , ¿tenga que desinflar nuevamente para volver a convertirlo? (Además, ¿por qué no se vuelven a agregar los valores medios?) $\hat\beta$ $S_x$ $S_x$

Entonces, ¿alguien puede explicar cómo hacer esto para un caso multivariado idealmente con una derivación para que pueda entender el resultado?

— Baz
fuente

Para el modelo de regresión que usa las variables estandarizadas, asumimos la siguiente forma para la línea de regresión

E [Y] = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j},

$\mathbb E[Y] =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j},$

donde es el regresivo j-ésimo (estandarizado), generado a partir de restando la media de la muestra y dividiendo por la desviación estándar de la muestra : $z_{j}$ $x_j$ $\bar x_j$ $S_j$

z_{j} = \frac{x_{j} - {\bar{x}}_{j}}{S_{j}}

$z_j = \frac{x_j - \bar{x}_j}{S_j}$

Realizando la regresión con los regresores estandarizados, obtenemos la línea de regresión ajustada:

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} z_{j}

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}z_{j}$

Ahora deseamos encontrar los coeficientes de regresión para los predictores no estandarizados. Tenemos

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}})

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right)$

Reorganizando, esta expresión se puede escribir como

\hat{Y} = ({\hat{β}}_{0} - \sum_{j = 1}^{k} {\hat{β}}_{j} \frac{{\bar{x}}_{j}}{S_{j}}) + \sum_{j = 1}^{k} (\frac{{\hat{β}}_{j}}{S_{j}}) x_{j}

$\hat Y = \left( \hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j} \right) + \sum_{j=1}^k \left(\frac{\hat \beta_j}{S_j}\right) x_j$

Como podemos ver, la intersección de la regresión utilizando las variables no transformadas viene dada por . El coeficiente de regresión del -ésimo predictor es . $\hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j}$ $j$ $\frac{\hat \beta_j}{S_j}$

En el caso presentado, asumí que solo los predictores habían sido estandarizados. Si también se estandariza la variable de respuesta, la transformación de los coeficientes covariables a la escala original se realiza mediante la fórmula de la referencia que proporcionó. Tenemos:

\frac{E [Y] - \hat{y}}{S_{y}} = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j}

$\frac{\mathbb E[Y] - \hat y}{S_y} =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j}$

Llevando a cabo la regresión, obtenemos la ecuación de regresión ajustada

{\hat{Y}}_{s c a l e d} = \frac{{\hat{Y}}_{u n s c a l e d} - \bar{y}}{S_{y}} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}}),

$\hat Y_{scaled} = \frac{\hat Y_{unscaled} - \bar y}{S_y} = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right),$

donde los valores ajustados están en la escala de la respuesta estandarizada. Para desescalarlos y recuperar las estimaciones de coeficientes para el modelo no transformado, multiplicamos la ecuación por y llevamos la media muestral de al otro lado: $S_y$ $y$

{\hat{Y}}_{u n s c a l e d} = {\hat{β}}_{0} S_{y} + \bar{y} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{S_{y}}{S_{j}}) (x_{j} - {\bar{x}}_{j}) .

$\hat Y_{unscaled} = \hat \beta_0 S_y + \bar y +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{S_y}{S_j}\right) (x_j - \bar{x}_j).$

La intercepción correspondiente al modelo en el que ni la respuesta ni los predictores han sido estandarizados viene dada por , mientras que los coeficientes covariables para el modelo de interés se pueden obtener multiplicando cada coeficiente con . $\hat \beta_0 S_y + \bar y - \sum_{j=1}^k \hat \beta_j \frac{S_y}{S_j}\bar x_j$ $S_y / S_j$

— Philipp Burckhardt
fuente