Matrices de modèles pour les modèles à effets mixtes

Dans la lmerfonction au sein lme4de Ril y a un appel à la construction d' une matrice de modèle d'effets aléatoires, , comme expliqué ici , pages 7 - 9. $Z$

Le calcul de implique les produits de KhatriRao et / ou Kronecker de deux matrices, et . $Z$ $J_i$ $X_i$

La matrice est une bouchée: "Matrice indicatrice d'indices de facteurs de regroupement", mais il semble que ce soit une matrice clairsemée avec un codage fictif pour sélectionner quelle unité (par exemple, les sujets dans les mesures répétitives) correspondant aux niveaux hiérarchiques supérieurs est "activée" pour toute observation. La matrice semble agir comme un sélecteur de mesures au niveau hiérarchique inférieur, de sorte que la combinaison des deux "sélecteurs" produirait une matrice, de la forme illustrée dans l'article via l'exemple suivant: $J_i$ $X_i$ $Z_i$

(f<-gl(3,2))

[1] 1 1 2 2 3 3
Levels: 1 2 3

(Ji<-t(as(f,Class="sparseMatrix")))

6 x 3 sparse Matrix of class "dgCMatrix"
     1 2 3
[1,] 1 . .
[2,] 1 . .
[3,] . 1 .
[4,] . 1 .
[5,] . . 1
[6,] . . 1

(Xi<-cbind(1,rep.int(c(-1,1),3L)))
     [,1] [,2]
[1,]    1   -1
[2,]    1    1
[3,]    1   -1
[4,]    1    1
[5,]    1   -1
[6,]    1    1

Transposer chacune de ces matrices et effectuer une multiplication de Khatri-Rao:

$\left[\begin{smallmatrix}1 & 1 &. &. &. &.\\.&.&1&1&.&.\\.&.&.&.&1&1 \end{smallmatrix}\right]\ast \left[\begin{smallmatrix}\,\,\,\,1 & 1 &\,\,\,\,1 &1 &\,\,\,\,1 &1\\-1&1&-1&1&-1&1 \end{smallmatrix}\right]= \left[\begin{smallmatrix}\,\,1 & 1 &.&.&.&.\\\,\,\,\,-1 &1&.&.&.&.\\ .&.&\,\,\,\,\,1 &1&.&.\\.&.&\,\,-1&1&.&.\\.&.&.&.&\,\,\,1&1\\.&.&.&.&-1&1 \end{smallmatrix}\right]$

Mais est la transposition: $Z_i$

(Zi<-t(KhatriRao(t(Ji),t(Xi))))

6 x 6 sparse Matrix of class "dgCMatrix"

[1,] 1 -1 .  . .  .
[2,] 1  1 .  . .  .
[3,] .  . 1 -1 .  .
[4,] .  . 1  1 .  .
[5,] .  . .  . 1 -1
[6,] .  . .  . 1  1

Il s'avère que les auteurs utilisent la base sleepstudyde données lme4mais ne développent pas vraiment les matrices de conception telles qu'elles s'appliquent à cette étude particulière. J'essaie donc de comprendre comment le code composé dans le document reproduit ci-dessus se traduirait en un sleepstudyexemple plus significatif .

Pour des raisons de simplicité visuelle, j'ai réduit l'ensemble de données à seulement trois sujets - "309", "330" et "371":

require(lme4)
sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ]
rownames(sleepstudy) <- NULL

Chaque individu présenterait une interception et une pente très différentes si une régression OLS simple était envisagée individuellement, suggérant la nécessité d'un modèle à effets mixtes avec la hiérarchie ou le niveau d'unité supérieur correspondant aux sujets:

    par(bg = 'peachpuff')
    plot(1,type="n", xlim=c(0, 12), ylim=c(200, 360),
             xlab='Days', ylab='Reaction')
    for (i in sleepstudy$Subject){
            fit<-lm(Reaction ~ Days, sleepstudy[sleepstudy$Subject==i,])
            lines(predict(fit), col=i, lwd=3)
            text(x=11, y=predict(fit, data.frame(Days=9)), cex=0.6,labels=i)
        }

entrez la description de l'image ici

L'appel de régression à effets mixtes est le suivant:

fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

Et la matrice extraite de la fonction donne les résultats suivants:

parsedFormula<-lFormula(formula= Reaction~Days+(Days|Subject),data= sleepstudy)
parsedFormula$reTrms

$Ztlist
$Ztlist$`Days | Subject`
6 x 12 sparse Matrix of class "dgCMatrix"

309 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . . . . . . . . . . . .
309 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . . . . . . . . . . . .
330 . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . .
330 . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . .
371 . . . . . . . . . . . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1
371 . . . . . . . . . . . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9

Cela semble vrai, mais si c'est le cas, quelle est l'algèbre linéaire derrière elle? Je comprends que les rangées de 1sont la sélection d'individus comme. Par exemple, le sujet 309est activé pour la ligne de base + neuf observations, il obtient donc quatre 1et ainsi de suite. La deuxième partie est clairement la mesure réelle: 0pour la ligne de base, 1pour le premier jour de privation de sommeil, etc.

Mais quelles sont les matrices et réelles et les ou , selon le cas est pertinent? $J_i$ $X_i$ $Z_i= (J_i^{T}∗X_i^{T})^⊤$ $Z_i= (J_i^{T}\otimes X_i^{T})^⊤$

Voici une possibilité,

$\left[\begin{smallmatrix}1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&. &. &. &. &.& . &. &. &. &. &. &.&. & . &. &. &. &. &. &.\\ .&.&.&.&. & . &. &. &. &. &1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&.& . &. &. &. &. &. &.&.&.\\&. & . &. &. &. &. &. &.&. & . &. &. &. &. &.&.&.&.&.&1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1\end{smallmatrix}\right]\ast \left[\begin{smallmatrix}1 & 1 & 1 & 1&1&1&1 & 1 & 1 & 1\\0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]=$

$\left[\begin{smallmatrix}1 & 1 & 1 &1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\0 & 1 & 2 &3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&&.&.&.&.&.&1 &1&1&1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.\\ &.&.&.&.&.&.&.&.&.&0 &1&2&3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&1&1&1&1&1&1&1&1&1&1\\&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]$

Le problème est que ce n'est pas le transposé comme la lmerfonction semble le demander, et on ne sait toujours pas quelles sont les règles pour créer . $X_i$

r mixed-model lme4-nlme matrix

— Antoni Parellada
source

C'est beaucoup plus facile que vous ne le pensez. La matrice ici est simplement la (transposition de) le produit Kronecker d'une matrice d'identité avec la matrice de conception.

Z

$Z$

— Donnie

Merci pour votre indice. Je continuerai de travailler à donner un sens à tous les sous-indices dans le squelette d'algèbre linéaire de cette fonction. S'il clique, j'irai de l'avant et répondrai à ma propre question, mais bien que je sache que c'est simple et profond, la correspondance entre la nomenclature des échafaudages mathématiques et l'application à n'importe quel exemple prête à confusion.

— Antoni Parellada

Une autre bonne ressource pour vous pourrait être leur implémentation lme4pureR , qui suit avec la vignette ci-dessus et est entièrement écrite en R. Peut-être mkZt()(recherchez-la ici ) est un bon début?

— alexforrence

La création de la matrice implique la production de 3 niveaux ( , et ) chacun avec 10 observations ou mesures ( ). En suivant le code dans le lien d'origine dans l'OP: $J_i$ 309330371nrow(sleepstudy[sleepstudy$Subject==309,]) [1] 10

f <- gl(3,10) Ji<-t(as(f,Class="sparseMatrix"))

entrez la description de l'image ici

La construction de la matrice peut être facilitée en utilisant la fonction comme référence: $X_i$ getME

library(lme4) sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ] rownames(sleepstudy) <- NULL fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

Xi <- getME(fm1,"mmList")

entrez la description de l'image ici

Puisque nous aurons besoin de la transposition, et que l'objet Xin'est pas une matrice, le t(Xi)peut être construit comme:

t_Xi <- rbind(c(rep(1,30)),c(rep(0:9,3)))

$Z_i$ est calculé comme : $Z_i= (J_i^{T}∗X_i^{T})^⊤$

Zi<-t(KhatriRao(t_Ji,t_Xi)):

entrez la description de l'image ici

Cela correspond à l'équation (6) dans le document original :

Z_{i} = (J_{i}^{T} * X_{i}^{T})^{T} = [\begin{matrix} J_{i 1}^{T} \otimes X_{i 1}^{T} \\ J_{i 2}^{T} \otimes X_{i 2}^{T} \\ ⋮ \\ J_{i n}^{T} \otimes X_{i n}^{T} \end{matrix}]

$Z_i = (J_i^T*X_i^T)^T=\begin{bmatrix}J_{i1}^T\otimes X_{i1}^T\\J_{i2}^T\otimes X_{i2}^T\\\vdots\\J_{in}^T\otimes X_{in}^T\end{bmatrix}$

Et pour voir cela, nous pouvons plutôt jouer avec les et tronquées en imaginant qu'au lieu de 9 mesures et d'une ligne de base (0), il n'y a qu'une seule mesure (et une ligne de base). Les matrices résultantes seraient: $J_i^T$ $X_i^T$

$J_i^T=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&0&1&1\end{smallmatrix}\right]$ et . $X_i^T=\left[\begin{smallmatrix}1&1&1&1&1&1\\0&1&0&1&0&1\end{smallmatrix}\right]$

$J_i^T*X_i^T=\left[ \begin{smallmatrix} \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right) \end{smallmatrix} \right]$

$\small= \begin{bmatrix}J_{i1}^T\otimes X_{i1}^T && J_{i2}^T \otimes X_{i2}^T && J_{i3}^T\otimes X_{i3}^T && J_{i4}^T\otimes X_{i4}^T && J_{i5}^T\otimes X_{i5}^T && J_{i6}^T\otimes X_{i6}^T\end{bmatrix}$

$=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&1&0&0\\0&0&0&0&1&1\\0&0&0&0&0&1\end{smallmatrix}\right]$ . Laquelle transposée et étendue donnerait . $Z_i=\left[\begin{smallmatrix}1&0&0&0&0&0\\1&1&0&0&0&0\\1&2&0&0&0&0\\\vdots\\\\0&0&1&0&0&0\\0&0&1&1&0&0\\0&0&1&2&0&0\\\vdots\\\\0&0&0&0&1&0\\0&0&0&0&1&1\\0&0&0&0&1&2\\\\\vdots\end{smallmatrix}\right]$

Extraire le vecteur des coefficients d'effets aléatoires peut se faire avec la fonction: $b$

b <- getME(fm1,"b")

[1,] -44.1573839
[2,]  -2.4118590
[3,]  32.8633489
[4,]  -0.3998801
[5,]  11.2940350
[6,]   2.8117392

Si nous ajoutons ces valeurs aux effets fixes de l'appel, fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)nous obtenons les interceptions:

205.3016 for 309; 282.3223 for 330; and 260.7530 for 371

et les pistes:

2.407141 for 309; 4.419120 for 330; and 7.630739 for 371

valeurs cohérentes avec:

library(lattice)
xyplot(Reaction ~ Days | Subject, groups = Subject, data = sleepstudy, 
       pch=19, lwd=2, type=c('p','r'))

entrez la description de l'image ici

$Zb$ peut être calculé comme as.matrix(Zi)%*%b.

— Antoni Parellada
source