Utilidad del teorema de Frisch-Waugh

Se supone que debo enseñar el teorema de Frish Waugh en econometría, que no he estudiado.

He entendido las matemáticas detrás de esto y espero que la idea también "el coeficiente que obtienes para un coeficiente particular de un modelo lineal múltiple sea igual al coeficiente del modelo de regresión simple si" eliminas "la influencia de los otros regresores". Entonces la idea teórica es genial. (Si entendí totalmente mal, agradezco una corrección)

¿Pero tiene algunos usos clásicos / prácticos?

EDITAR : He aceptado una respuesta, pero todavía estoy dispuesto a tener otras nuevas que traigan otros ejemplos / aplicaciones.

Considere el modelo de datos del panel de efectos fijos, también conocido como modelo de variables ficticias de mínimos cuadrados (LSDV).

puede calcularse aplicando OLS directamente al modelo y = X β + D α + ϵ , donde D es unamatriz de tontos N T × N y α representa los efectos fijos específicos de cada individuo.$b_{LSDV}$

$$y=X\beta+D\alpha+\epsilon,$$ $D$$NT\times N$$\alpha$

Otra forma de calcular es aplicar la llamada transformación dentro del modelo habitual para obtener una versión degradada del mismo, es decir, M [ D ] y = M [ D ] X β + M [ D ] ϵ . Aquí, M [ D ] = I - D ( D ′ D ) - 1 D ′ , la matriz creadora residual de una regresión en$b_{LSDV}$

$$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$$ $M_{[D]}=I-D(D'D)^{-1}D'$ .$D$

Por el teorema de Frisch-Waugh-Lovell, los dos son equivalentes, como dice FWL que se puede calcular un subconjunto de los coeficientes de regresión de una regresión (en este ) por$\hat\beta$

1. retrocediendo en los otros regresores (aquí, D ), guardando los residuos (aquí, el tiempo degradado y o M [ D ] y , porque la regresión en una constante solo degrada las variables), entonces$y$$D$$y$$M_{[D]}y$
2. retroceder la en D y guardar los residuos M [ D ] X , y$X$$D$$M_{[D]}X$
3. regresión de los residuos sobre la otra, en M [ D ] X .$M_{[D]}y$$M_{[D]}X$

La segunda versión es mucho más utilizada, porque los conjuntos de datos de panel típicos pueden tener miles de unidades de panel , por lo que el primer enfoque requeriría que ejecute una regresión con miles de regresores, lo que no es una buena idea numéricamente incluso hoy en día con rapidez computadoras, ya que calcular el inverso de ( D : X ) ′ ( D : X ) sería muy costoso, mientras que degradar el tiempo y y X es de bajo costo.$N$$(D :X)'(D: X)$$y$$X$

Aquí hay una versión simplificada de mi primera respuesta, que creo que es menos relevante en la práctica, pero posiblemente más fácil de "vender" para uso en el aula.

$$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$$ $$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$$ yield identical $\widehat{\beta}_j$, $j=2,\ldots,K$. This can be seen as follows: take $\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$ and hence $$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$$ so that $$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$$ Hence, the residuals of a regression of variables on a constant, $M_{\mathbf{1}}\mathbf{x}_j$, are just the demeaned variables (the same logic of course applies to $y_i$).

Here is another, more indirect, but I believe interesting one, namely the connection between different approaches to computing the partial autocorrelation coefficient of a stationary time series.

Definition 1

Consider the projection

$$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$$ The $m$th partial autocorrelation equals $\alpha^{(m)}_m$.

It thus gives the influence of the $m$th lag on $Y_t$ \emph{after controlling for} $Y_{t-1},\ldots,Y_{t-m+1}$. Contrast this with $\rho_m$, that gives the `raw' correlation of $Y_t$ and $Y_{t-m}$.

How do we find the $\alpha^{(m)}_j$? Recall that a fundamental property of a regression of $Z_t$ on regressors $X_t$ is that the coefficients are such that regressors and residuals are uncorrelated. In a population regression this condition is then stated in terms of population correlations. Then:

$$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$$ Solving for $\mathbf{\alpha}^{(m)}$ we find the linear projection coefficients $$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$$ Applying this formula to $Z_t=Y_t-\mu$ and $$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$$ we have $$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$$ Also, $$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$$ Hence, $$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$$ The $m$th partial correlation then is the last element of the vector $\mathbf{\alpha}^{(m)}$.

So, we sort of run a multiple regression and find one coefficient of interest while controlling for the others.

Definition 2

The $m$th partial correlation is the correlation of the prediction error of $Y_{t+m}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$ with the prediction error of $Y_{t}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$.

So, we sort of first control for the intermediate lags and then compute the correlation of the residuals.