Utilité du théorème de Frisch-Waugh

Je suis censé enseigner le théorème de Frish Waugh en économétrie, que je n'ai pas étudié.

J'ai compris les mathématiques et j'espère que l'idée aussi "le coefficient que vous obtenez pour un coefficient particulier à partir d'un modèle linéaire multiple est égal au coefficient du modèle de régression simple si vous" éliminez "l'influence des autres régresseurs". L'idée théorique est donc plutôt cool. (Si j'ai totalement mal compris, j'accueille favorablement une correction)

Mais a-t-il des usages classiques / pratiques?

EDIT : J'ai accepté une réponse, mais je suis toujours prêt à en avoir de nouvelles qui apporteront d'autres exemples / applications.

Prenons le modèle de données du panneau d'effets fixes, également connu sous le nom de modèle des variables factices des moindres carrés (LSDV).

peut être calculé en appliquant directement OLS au modèle y = X β + D α + ϵ , où D est unematrice N T × N de variables muettes et α représente les effets fixes spécifiques à chaque individu.$b_{LSDV}$

$$y=X\beta+D\alpha+\epsilon,$$ $D$$NT\times N$$\alpha$

Une autre façon de calculer est d'appliquer la soi-disant transformation intra au modèle habituel afin d'en obtenir une version dégradée, c'est-à-dire M [ D ] y = M [ D ] X β + M [ D ] ϵ . Ici, M [ D ] = I - D ( D ′ D ) - 1 D ′ , la matrice maker résiduelle d'une régression sur$b_{LSDV}$

$$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$$ $M_{[D]}=I-D(D'D)^{-1}D'$ .$D$

Selon le théorème de Frisch-Waugh-Lovell, les deux sont équivalents, car FWL dit que vous pouvez calculer un sous-ensemble de coefficients de régression d'une régression (ici, ) par$\hat\beta$

1. régressant sur les autres régresseurs (ici, D ), sauvegardant les résidus (ici, le temps dégradé $y$$D$$y$ ou , car la régression sur une constante ne fait que rabaisser les variables), puis$M_{[D]}y$
2. régressant le sur $X$$D$ et sauvegarder les résidus , et$M_{[D]}X$
3. régressant les résidus les uns sur les autres, $M_{[D]}y$ sur .$M_{[D]}X$

La deuxième version est beaucoup plus largement utilisée, car les ensembles de données de panneau typiques peuvent avoir des milliers d'unités de panneau , de sorte que la première approche vous obligerait à exécuter une régression avec des milliers de régresseurs, ce qui n'est pas une bonne idée numériquement, même de nos jours avec une vitesse rapide les ordinateurs, car le calcul de l'inverse de ( D : X ) ′ ( D : X ) serait très coûteux, alors que y et X dégradant le temps sont peu coûteux.$N$$(D :X)'(D: X)$$y$$X$

Voici une version simplifiée de ma première réponse, qui je crois est moins pertinente en pratique, mais peut-être plus facile à "vendre" pour une utilisation en classe.

Les régressions et y i - ˉ y = K ∑ j = 2 β j ( x i j - ˉ x j ) + ˜ ϵ i donnent des valeurs identiques β j , j = 2 , ...

$$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$$ $$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$$ $\widehat{\beta}_j$ . Cela peut être vu comme suit: prendre x$j=2,\ldots,K$$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$ $$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$$ $$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$$ Hence, the residuals of a regression of variables on a constant, $M_{\mathbf{1}}\mathbf{x}_j$, are just the demeaned variables (the same logic of course applies to $y_i$).

Here is another, more indirect, but I believe interesting one, namely the connection between different approaches to computing the partial autocorrelation coefficient of a stationary time series.

Definition 1

Consider the projection

$$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$$ The $m$th partial autocorrelation equals $\alpha^{(m)}_m$.

It thus gives the influence of the $m$th lag on $Y_t$ \emph{after controlling for} $Y_{t-1},\ldots,Y_{t-m+1}$. Contrast this with $\rho_m$, that gives the `raw' correlation of $Y_t$ and $Y_{t-m}$.

How do we find the $\alpha^{(m)}_j$? Recall that a fundamental property of a regression of $Z_t$ on regressors $X_t$ is that the coefficients are such that regressors and residuals are uncorrelated. In a population regression this condition is then stated in terms of population correlations. Then:

$$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$$ Solving for $\mathbf{\alpha}^{(m)}$ we find the linear projection coefficients $$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$$ Applying this formula to $Z_t=Y_t-\mu$ and $$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$$ we have $$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$$ Also, $$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$$ Hence, $$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$$ The $m$th partial correlation then is the last element of the vector $\mathbf{\alpha}^{(m)}$.

So, we sort of run a multiple regression and find one coefficient of interest while controlling for the others.

Definition 2

The $m$th partial correlation is the correlation of the prediction error of $Y_{t+m}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$ with the prediction error of $Y_{t}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$.

So, we sort of first control for the intermediate lags and then compute the correlation of the residuals.