Expliquez comment `eigen` aide à inverser une matrice

Ma question concerne une technique de calcul exploitée dans geoR:::.negloglik.GRFou geoR:::solve.geoR.

Dans une configuration de modèle mixte linéaire: où et sont respectivement les effets fixes et aléatoires. En outre,

$$Y=X\beta+Zb+e$$ b Σ = cov ( Y $\beta$$b$$\Sigma=\text{cov}(Y)$

Lors de l'estimation des effets, il est nécessaire de calculer qui peut normalement être fait en utilisant quelque chose comme , mais parfois est presque non inversible, alors employez l'astuce( X ′ Σ - 1 X

$$(X'\Sigma^{-1}X)^{-1}X'\Sigma^{-1} Y$$ solve(XtS_invX,XtS_invY)$(X'\Sigma^{-1}X)$geoR

t.ei=eigen(XtS_invX)
crossprod(t(t.ei$vec)/sqrt(t.ei$val))%*%XtS_invY

(peut être vu dans geoR:::.negloglik.GRFet geoR:::.solve.geoR) ce qui revient à se décomposer où et donc

$$(X'\Sigma^{-1}X)=\Lambda D \Lambda^{-1}\\ $$ ( X ′ Σ $\Lambda'=\Lambda^{-1}$ $$(X'\Sigma^{-1}X)^{-1}=(D^{-1/2}\Lambda^{-1})'(D^{-1/2}\Lambda^{-1})$$

Deux questions:

1. Comment cette décomposition propre aide-t-elle à inverser ?$(X'\Sigma^{-1}X)$
2. Existe-t-il d'autres alternatives viables (robustes et stables)? (par exemple qr.solveou chol2inv?)

1) La composition eigendec n'aide pas vraiment beaucoup. Elle est certainement plus stable numériquement qu'une factorisation de Cholesky, ce qui est utile si votre matrice est mal conditionnée / presque singulière / a un nombre élevé de conditions. Vous pouvez donc utiliser la composition eigendec et cela vous donnera une solution à votre problème. Mais rien ne garantit que ce sera la bonne solution. Honnêtement, une fois que vous inversez explicitement , le mal est déjà fait. La formation de X T Σ - 1 X ne fait qu'empirer les choses. La composition par eigend vous aidera à gagner la bataille, mais la guerre est certainement perdue.$\Sigma$$X^T \Sigma^{-1} X$

2) Sans connaître les spécificités de votre problème, voici ce que je ferais. Tout d' abord, effectuer une factorisation de Cholesky sur pour que Σ = L L T . Puis effectuer une factorisation QR sur L - 1 X de telle sorte que L - 1 X = Q R . Veuillez vous assurer de calculer L - 1$\Sigma$$\Sigma = L L^T$$L^{-1} X$$L^{-1} X = QR$$L^{-1} X$ en utilisant la substitution de l' avant - NE PAS explicitement inverti . Alors vous obtenez: X T Σ - 1 X = X T ( $L$ De là, vous pouvez résoudre n'importe quel côté droit que vous voulez. Mais encore une fois, veuillez ne pas inverser explicitementR(ouRTR). Utilisez des substitutions avant et arrière si nécessaire.

$$\begin{array}{} X^T \Sigma^{-1} X & = & X^T (L L^T)^{-1} X \\ & = & X^T L^{-T} L^{-1} X \\ & = & (L^{-1} X)^T (L^{-1} X) \\ & = & (Q R)^T Q R \\ & = & R^T Q^T Q T \\ & = & R^T R \end{array}$$ $R$$R^T R$

BTW, je suis curieux de savoir le côté droit de votre équation. Vous avez écrit que c'est . Êtes-vous sûr que ce n'est pas X T Σ - 1 Y ? Parce que si c'était le cas, vous pourriez utiliser une astuce similaire sur le côté droit: X T Σ - $X^T \Sigma Y$$X^T \Sigma^{-1} Y$ Et puis vous pouvez livrer le coup de grâce quand vous allez résoudre pourβ: X T Σ - 1 X β = X T Σ - 1 Y R T R β = R T Q T L - 1 Y R β = Q T L

$$\begin{array}{} X^T \Sigma^{-1} Y & = & X^T (L L^T)^{-1} Y \\ & = & X^T L^{-T} L^{-1} Y \\ & = & (L^{-1} X)^T L^{-1} Y \\ & = & (Q R)^T L^{-1} Y \\ & = & R^T Q^T L^{-1} Y \end{array}$$ $\beta$ Bien sûr, vous n'inverseriez jamais explicitementRpour la dernière étape, non? C'est juste une substitution en arrière. :-) $$\begin{array}{} X^T \Sigma^{-1} X \beta & = & X^T \Sigma^{-1} Y \\ R^T R \beta & = & R^T Q^T L^{-1} Y \\ R \beta & = & Q^T L^{-1} Y \\ \beta & = & R^{-1} Q^T L^{-1} Y \end{array}$$ $R$