Pourquoi l'ACP probabiliste utilise-t-elle les variables gaussiennes a priori sur latentes?

Je lis actuellement des articles sur l'ACP probabiliste et je me demande pourquoi un a priori gaussien (et pas un autre a priori) est choisi pour les variables latentes? Est-ce juste parce que c'est simple ou y a-t-il une autre raison?

Références:

• Tipping & Bishop, 1999, Probabilistic Principal Component Analysis - just under eq. (2)
• Tipping & Bishop, 1999, Mélanges d'analyseurs probabilistes des composants principaux - éq. (4)

ACP probabiliste

L'ACP probabiliste est un modèle à variable latente gaussienne de la forme suivante. Les observations sont constituées de variables, les variables latentes sont supposées être constituées de variables; les variables antérieures sur latentes sont une Gaussienne à covariance unitaire moyenne nulle: et la distribution conditionnelle des variables observées étant donné les variables latentes est Il s’avère que la solution du maximum de vraisemblance à ce modèle est donnée par les premiers composants PCA des données: colonnes de$\mathbf x \in \mathbb R^D$$D$$\mathbf z \in \mathbb R^M$$M<D$

$$\mathbf z \sim \mathcal N(\mathbf 0, \mathbf I),$$ $$\mathbf x | \mathbf z \sim \mathcal N(\mathbf W\mathbf z+\boldsymbol \mu, \sigma^2 \mathbf I).$$ $M$$\mathbf W_\text{ML}$ sont proportionnels aux vecteurs propres supérieurs de la matrice de covariance (axes principaux). Voir Tipping & Bishop pour plus de détails.

Pourquoi utiliser Gaussian avant?

1. Pour tout autre a priori (ou du moins pour la plupart des autres a priori), la solution du maximum de vraisemblance ne correspondra pas à la solution standard de l'ACP, il n'y aurait donc aucune raison d'appeler ce modèle de variable latente «ACP probabiliste». Gaussian prior est celui qui donne naissance à l'ACP.$\mathcal N(\mathbf 0, \mathbf I)$

2. La plupart des autres antérieurs rendraient le problème beaucoup plus compliqué ou même insoluble analytiquement. La distribution conditionnelle gaussienne a priori et gaussienne conduit à la distribution marginale gaussienne , et il est facile de voir que sa matrice de covariance sera donnée par . Les distributions non gaussiennes sont beaucoup plus difficiles à utiliser.$p(\mathbf x)$$\mathbf W^\top \mathbf W + \sigma^2\mathbf I$

3. La distribution marginale gaussienne est également intéressante car la tâche de l'ACP standard est de modéliser la matrice de covariance (c'est-à-dire le deuxième moment); PCA ne s'intéresse pas aux moments supérieurs de la distribution des données. La distribution gaussienne est entièrement décrite par les deux premiers moments: moyenne et covariance. Nous ne voulons pas utiliser des distributions plus compliquées / flexibles, car PCA ne traite pas de ces aspects des données.$p(\mathbf x)$

4. La matrice gaussienne a de covariance unité avant parce que l'idée est d'avoir des variables latentes non corrélées qui donnent lieu à des covariances observées que par les charges .$\mathbf W$