Réconciliation des notations pour les modèles mixtes

Je connais des notations telles que:

où, et

\begin{aligned} y_{i j} & = β_{0} + β_{i} x_{i j} + u_{j} + e_{i j} \\ = β_{0 j} + β_{i} x_{i j} + e_{i j} \end{aligned}

$\begin{align} y_{ij} &= \beta_0 + \beta_i x_{ij} + u_j + e_{ij}\\ &= \beta_{0j} + \beta_i x_{ij} + e_{ij} \end{align}$

β_{0 j} = β_{0} + u_{j}

$\beta_{0j}=\beta_{0}+u_j$

oùet

\begin{aligned} y_{i j} & = β_{0} + β_{1} x_{i j} + u_{0 j} + u_{1 j} x_{i j} + e_{i j} \\ = β_{0 j} + β_{1 j} x_{i j} + e_{i j} \end{aligned}

$\begin{align} y_{ij} &= \beta_0 + \beta_1 x_{ij} + u_{0j} + u_{1j} x_{ij} + e_{ij} \\ &= \beta_{0j} + \beta_{1j} x_{ij} + e_{ij} \end{align}$

β_{0 j} = β_{0} + u_{0 j}

$\beta_{0j}=\beta_{0}+u_{0j}$

β_{1 j} = β_{1} + u_{1 j}

$\beta_{1j}=\beta_1+u_{1j}$

pour un modèle d'interception aléatoire et un modèle de pente aléatoire + d'interception aléatoire, respectivement.

Je suis également tombé sur cette notation matrice / vecteur, dont on m'a dit qu'il s'agissait de "notation de modèle mixte pour les adultes" (selon mon frère aîné):

où sont les effets fixes et sont les effets aléatoires.

y = X β + Z b + e

$\mathbf{y}=\mathbf{X\beta} + \mathbf{Z b} + \mathbf{e}$

β

$\mathbf{\beta}$

b

$\mathbf{b}$

Si j'ai bien compris, la dernière notation est une notation plus générale pour les premières qui sont des versions spécifiques de ces dernières.

Je voudrais voir comment les premiers peuvent être dérivés des seconds.

mixed-model mathematical-statistics

— Joe King
source

Demandez-vous une explication de la notation matricielle? La raison pour laquelle je pose la question est que cette question n'a pas besoin de dérivation mathématique: toutes vos formules disent exactement les mêmes choses et les relient les unes aux autres est juste une question de compréhension du fonctionnement de la notation matricielle.

— whuber

@whuber Je comprends dans une certaine mesure la notation matricielle et l'algèbre matricielle. Mais je ne sais pas comment partir de la forme matricielle et arriver aux autres formes. Je ne comprends probablement pas quelque chose au sujet des matrices X et Z, mais j'espérais juste que quelqu'un l'expliquerait.

— Joe King

@whuber puis-je faire quelque chose pour améliorer la question, ou dites-vous que c'est si basique qu'il ne mérite pas de réponse?

— Joe King

@JoeKing: Je pense qu'il dit que la notation matricielle est par définition équivalente à votre notation non matricielle. Autrement dit, vous avez déjà

(matrice ixj fois matrice jx1 donnant la matrice ix1

) qui est

. (Vous pouvez rouler

en incluant un 1 dans

)

x_{i j} β_{i}

$x_{ij}\beta_i$

y_{i}

$y_i$

y = X β

$y=X\beta$

β_{0}

$\beta_0$

β

$\beta$

X

$X$

— Wayne

@Wayne les deux modèles ont des effets aléatoires et des effets fixes. Le premier a une interception aléatoire, tandis que le second a une interception aléatoire et une pente aléatoire. Si je pouvais "comprendre" moi-même, je ne poserais pas la question ici !!!!

— Joe King

Nous considérons un modèle mixte avec des pentes aléatoires et des intersections aléatoires. Étant donné que nous n'avons qu'un seul régresseur, ce modèle peut être écrit comme où représente le - e observation du groupe de la réponse, et et

y_{je j} = β_{0} + β_{1} X_{je j} + u_{0 j} + u_{1 j} X_{je j} + ϵ_{je j},

$y_{ij}= \beta_0 + \beta_1 x_{ij} + u_{0j}+u_{1j}x_{ij}+\epsilon_{ij},$

y_{i j}

$y_{ij}$

i

$i$

j

$j$

x_{i j}

$x_{ij}$

ϵ_{i j}

$\epsilon_{ij}$ le prédicteur et le terme d'erreur respectifs.

Ce modèle peut être exprimé en notation matricielle comme suit:

ce qui équivaut à

Oui = X β + Zb + ϵ,

$\mathbf{Y}=\mathbf{X}\beta + \textbf{Zb} + \epsilon,$

Oui = [\begin{matrix} X & Z \end{matrix}] [\begin{matrix} β \\ b \end{matrix}] + ϵ

$\mathbf{Y}= \begin{bmatrix} \mathbf{X} & \textbf{Z} \end{bmatrix} \begin{bmatrix} \beta\\ \mathbf{b} \end{bmatrix}+ \epsilon$

Supposons que nous ayons groupes, c'est-à-dire et notons le nombre d'observations dans le ème groupe. Partagé pour chaque groupe, nous pouvons écrire la formule ci-dessus $J$ $j=1,\dots,J$ $n_j$ $j$

[\begin{matrix} {Oui}_{1} \\ {Oui}_{2} \\ ⋮ \\ {Oui}_{J} \end{matrix}] = [\begin{matrix} X_{1} & Z_{1} & 0 & 0 & 0 \\ X_{2} & 0 & Z_{2} & 0 & 0 \\ ⋮ & \dots \\ X_{J} & 0 & 0 & 0 & Z_{J} \end{matrix}] [\begin{matrix} β \\ b_{1} \\ b_{2} \\ ⋮ \\ b_{J} \end{matrix}] + [\begin{matrix} ϵ_{1} \\ ϵ_{2} \\ ⋮ \\ ϵ_{J} \end{matrix}]

$\begin{bmatrix} \mathbf{Y_1} \\ \mathbf{Y_2} \\ \vdots \\ \mathbf{Y_J} \end{bmatrix}=\begin{bmatrix} \mathbf{X_1} & \mathbf{Z_1} & 0 & 0 & 0 \\ \mathbf{X_2} & 0 & \mathbf{Z_2} & 0 & 0 \\ \vdots & & & \dots & \\ \mathbf{X_J} & 0 & 0 & 0 & \mathbf{Z_J} \end{bmatrix} \begin{bmatrix} \beta \\ b_1 \\ b_2 \\ \vdots \\ b_J \end{bmatrix}+\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_J \end{bmatrix}$

où $\mathbf{Y_j}$ $n_j \times 1$ $j$ $\mathbf{X_j}$ $\mathbf{Z_j}$ $n_j \times 2$ $\epsilon_j$ $n_j \times 1$

Pour les écrire, nous avons:

$\mathbf{Y_j} = \begin{bmatrix} y_{1j}\\ y_{2j}\\ \vdots \\ y_{n_jj} \end{bmatrix}, \mathbf{X_j}=\mathbf{Z_j}=\begin{bmatrix} 1 & x_{1j} \\ 1 & x_{2j} \\ \vdots & \vdots \\ 1 & x_{n_jj} \end{bmatrix}$ $\epsilon_j = \begin{bmatrix} \epsilon_{1j}\\ \epsilon_{2j}\\ \vdots \\ \epsilon_{n_jj} \end{bmatrix}.$

Les vecteurs de coefficient de régression sont alors

$\beta = \begin{pmatrix} \beta_0 \\ \beta_1 \end{pmatrix}$ $b_j=\begin{pmatrix} u_{0j}\\ u_{1j} \end{pmatrix}$

$j$

{Oui}_{j} = X_{j} β + Z_{j} b_{j} + ϵ_{j}

$\mathbf{Y_j} = \mathbf{X_j} \beta + \mathbf{Z_j}b_j + \epsilon_j$

$i$

y_{je j} = β_{0} + β_{1} X_{je j} + u_{0 j} + u_{1 j} X_{je j} + ϵ_{je j},

$y_{ij}= \beta_0 + \beta_1 x_{ij} + u_{0j}+u_{1j}x_{ij}+\epsilon_{ij},$

i

$i$

1

$1$

n_{j}

$n_j$

— Philipp Burckhardt
source

Z_{j}

$Z_j$

Z

$Z$

Z_{j}

$Z_j$

Z

$Z$