En pratique, comment la matrice de covariance des effets aléatoires est-elle calculée dans un modèle à effets mixtes?

Fondamentalement, je me demande comment les différentes structures de covariance sont appliquées et comment les valeurs à l'intérieur de ces matrices sont calculées. Des fonctions comme lme () nous permettent de choisir quelle structure nous aimerions, mais j'aimerais savoir comment elles sont estimées.

Considérons le modèle à effets mixtes linéaires $Y=X\beta+Zu+\epsilon$ .

Où et . En outre:ϵ d ∼ N ( 0 , R $u \stackrel{d}{\sim} N(0,D)$$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

Pour simplifier, nous supposerons .$R=\sigma^2I_n$

Fondamentalement, ma question est: comment exactement est-il estimé à partir des données pour les différentes paramétrisations? Dites si nous supposons que est diagonal (les effets aléatoires sont indépendants) ou entièrement paramétré (cas qui m'intéresse plus pour le moment) ou l'une des diverses autres paramétrisations? Existe-t-il des estimateurs / équations simples pour ceux-ci? (Cela serait sans doute estimé itérativement.)D $D$$D$$D$

EDIT: Du livre Variance Components (Searle, Casella, McCulloch 2006), j'ai réussi à briller ce qui suit:

Si alors les composantes de la variance sont mises à jour et calculées comme suit:$D=\sigma^2_uI_q$

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

Où β ( k ) et u ( k ) sont les k ème jour respectivement.$\hat{\beta}^{(k)}$$\hat{{u}}^{(k)}$$k$

Existe-t-il des formules générales lorsque est en diagonale de bloc ou entièrement paramétré? Je suppose que dans le cas entièrement paramétré, une décomposition de Cholesky est utilisée pour assurer une définition et une symétrie positives.$D$

Le lien Goldstein .pdf @probabilityislogic est un excellent document. Voici une liste de quelques références qui discutent de votre question particulière:

Harville, 1976: Extension du théorème de Gauss-Markov pour inclure l'estimation des effets aléatoires .

Harville, 1977: Approches du maximum de vraisemblance pour l'estimation des composantes de la variance et les problèmes connexes .

Laird et Ware, 1982: modèles à effets aléatoires pour les données longitudinales .

McCulloch, 1997: Algorithmes de maximum de vraisemblance pour les modèles mixtes linéaires généralisés .

L' extrait du Guide de l'utilisateur SAS pour la procédure MIXTE contient d'excellentes informations sur l'estimation de la covariance et de nombreuses autres sources (à partir de la page 3968).

Il existe de nombreux manuels de qualité sur l'analyse des données des mesures longitudinales / répétées, mais en voici un qui donne quelques détails sur la mise en œuvre dans R (des auteurs de lme4et nlme):

Pinheiro et Bates, 2000: Modèles à effets mixtes en S et S-PLUS .

EDIT : Un autre article pertinent: Lindstrom et Bates, 1988: Newton-Raphson et algorithmes EM pour les modèles linéaires à effets mixtes pour les données de mesures répétées .

EDIT 2 : Et un autre: Jennrich et Schluchter, 1986: Modèles de mesures répétées déséquilibrées avec des matrices de covariance structurées .

Harvey Goldstein n'est pas un mauvais point de départ.

Comme pour les méthodes d'estimation les plus complexes, elle varie en fonction du progiciel. Cependant, ce qui est souvent fait est dans les étapes suivantes:

1. $D$$D_0$$R$$R_0$$i=1$
2. $D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$
3. $\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. $i=i+1$

Une méthode simple et rapide est IGLS, qui est basée sur l'itération entre deux procédures des moindres carrés, et est décrite en détail dans le chapitre deux. L'inconvénient est que cela ne fonctionne pas bien pour les composants de variance proches de zéro.

L'article suivant donne une solution sous forme fermée pour D:

• J. Shao, Mari Palta & Roger Qu, (1998), " Estimation des moindres carrés des paramètres de régression dans les modèles à effets mixtes avec des covariables non mesurées ", Communications in Statistics - Theory and Methods , 27: 6, 1487-1501, DOI: 10.1080 / 03610929808832172

deux autres références qui pourraient être utiles Composants de variance par Searle et al et Lynch et Walsh Genetics and Analysis of Quantitative Traits . Le livre de Lynch et Walsh donne un algorithme étape par étape si je me souviens bien