Transformation linéaire d'une variable aléatoire par une grande matrice rectangulaire

Disons que nous avons un vecteur aléatoire , tiré d'une distribution avec la fonction de densité de probabilité . Si nous le transformons linéairement par une matrice rang complet pour obtenir , alors la densité de est donnée par $\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

Supposons maintenant que nous transformons $\vec{X}$ place par une matrice , avec , donnant . Il est clair que , mais il "vit" dans un sous-espace à dimensions . Quelle est la densité conditionnelle de , étant donné que nous savons qu'elle se situe dans ? $m \times n$ $B$ $m > n$ $\vec{Z} = B\vec{X}$ $Z \in \mathbb{R}^m$ $n$ $G \subset \mathbb{R}^m$ $\vec{Z}$ $G$

Mon premier instinct était d'utiliser la pseudo-inverse de $B$ . Si $B = U S V^T$ est la décomposition en valeurs singulières de $B$ , alors $B^+ = V S^+ U^T$ est la pseudo-inverse, où $S^+$ est formé en inversant les entrées non nulles de la matrice diagonale $S$ . J'ai deviné que cela donnerait

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$ où par

\overset{+}{det} S

$\det^+ S$ je veux dire le produit des valeurs singulières non nulles.

Ce raisonnement s'accorde avec la densité pour une normale singulière (conditionnée par la connaissance que la variable vit sur le sous-espace approprié) donnée ici et mentionnée ici et dans ce post CrossValidated .

Mais ce n'est pas bien! La constante de normalisation est désactivée. Un contre-exemple (trivial) est donné en considérant le cas suivant: Avec $X \sim \mathcal{N(0, 1)}$ , laissons

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$ Ici, la matrice

B

$B$ d'en haut n'est que le vecteur de ceux Son pseudo-inverse est

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$ et

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$ . Le raisonnement ci-dessus suggérerait

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$ mais cela s'intègre en fait (sur la ligne

y = x

$y = x$ ) à

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$ . Je me rends compte que dans ce cas, vous pouvez simplement supprimer l'une des entrées de

\vec{Y}

$\vec{Y}$ , mais quand

B

$B$ est beaucoup plus grand, identifier l'ensemble des entrées à supprimer est ennuyeux. Pourquoi le raisonnement pseudo-inverse ne fonctionne-t-il pas? Existe-t-il une formule générale pour la fonction de densité d'une transformation linéaire d'un ensemble de variables aléatoires par une matrice "haute"? Toute référence serait également grandement appréciée.

— Dan
source

Pour ceux qui pourraient rencontrer cela à l'avenir ... la source de l'erreur provient en fait de l'intégration. Dans l'exemple ci-dessus, l'intégration s'effectue sur la ligne . Il est donc nécessaire de "paramétrer" la ligne et de considérer le jacobien de la paramétrisation lors de la prise de l'intégrale, puisque chaque pas unitaire dans l' axe des correspond aux pas de longueur sur la ligne. La paramétrisation que j'utilisais implicitement a été donnée par , en d'autres termes spécifiant les deux entrées identiques de par valeur. Cela a Jacobian , qui annule proprement avec le $y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$ (venant exactement du même jacobien) dans le dénominateur.

L'exemple était artificiellement simple - pour une transformation générale , on peut avoir un autre paramétrage pour la sortie qui est naturel dans le contexte du problème. La paramétrisation devant couvrir le même sous-espace que et ce sous-espace étant un hyperplan, le paramétrage est lui-même susceptible d'être linéaire. En appelant la représentation matricielle de la paramétrisation , la condition est simplement qu'elle ait le même espace de colonne que (couvre le même hyperplan). La densité finale devient alors $B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

En général, cette configuration est un peu étrange, et je pense que la bonne chose à faire est de trouver un ensemble maximal linéairement indépendant de lignes de et de supprimer le reste des lignes (ainsi que les composants correspondants de la variable transformée ) pour obtenir une matrice carrée . Le problème se réduit ensuite au cas complet (en supposant que a le rang de colonne complet). $B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— Dan
source