Inférence variationnelle, la divergence KL nécessite un vrai

À ma compréhension (très modeste) de l'inférence variationnelle, on essaie d'approximer une distribution inconnue $p$ en trouvant une distribution $q$ qui optimise ce qui suit:

$$KL (p||q) = \sum\limits_{x} p(x)log \frac {p(x)}{q(x)}$$

Chaque fois que j'investis du temps dans la compréhension de l'inférence variationnelle, je continue à appuyer sur cette formule et je ne peux m'empêcher de sentir que je manque le point. Il semble que j'ai besoin de connaître $p$ pour calculer $KL(p||q)$ . Mais le fait était que je ne connaissais pas cette distribution $p$ .

C'est ce point précis qui me dérange chaque fois que j'essaie de lire quelque chose de variationnel. Qu'est-ce que je rate?

MODIFIER :

Je vais ajouter quelques commentaires supplémentaires ici à la suite de la réponse de @wij, je vais essayer d'être plus précis.

Dans les cas qui m'intéressent, il semble en effet parfaitement raisonnable de considérer que ce qui suit est valable;

$$p(\theta | D) = \frac{p(D|\theta)p(\theta)}{p(D)} \propto p(D|\theta)p(\theta)$$

Dans ce cas, je pourrais savoir à quoi devrait ressembler proportionnellement car j'aurai fait un choix de modèle pour p ( D | θ ) et p ( θ ) . Aurais-je alors raison de dire que je dois alors choisir une distribution familiale q [disons gaussienne] telle que maintenant je peux estimer K L ( p ( θ | D ) | | q ) . Il me semble que dans ce cas, j'essaie d'adapter un gaussien qui est proche du p non normalisé ( D | θ $p$$p(D|\theta)$$p(\theta)$$q$$KL(p(\theta|D) || q)$ . Est-ce correct?$p(D|\theta)p(\theta)$

Si c'est le cas, j'ai l'impression de supposer que ma postérieure est une distribution normale et j'essaie simplement de trouver des valeurs probables pour cette distribution en ce qui concerne la divergence $KL$

J'ai l'impression que vous traitez comme un objet complètement inconnu. Je ne pense pas que ce soit le cas. C'est probablement ce que vous avez manqué.$p$

Supposons que nous observons (iid) et que nous voulons inférer p ( x | Y ) où nous supposons que p ( y | x ) et p ( x ) pour x ∈ R d sont spécifiés par le modèle. Selon la règle de Bayes,$Y = \{y_i\}_{i=1}^n$$p(x|Y)$$p(y|x)$$p(x)$$x\in\mathbb{R}^d$

$$p(x|Y) = \frac{p(x)}{p(Y)}p(Y|x) = \frac{p(x)}{p(Y)}\prod_{i=1}^n p(y_i|x).$$

La première observation est que nous savons quelque chose sur la distribution postérieure . Il est donné comme ci-dessus. Typiquement, nous ne connaissons simplement pas son normalisateur p ( Y ) . Si la probabilité p ( y | x ) est très compliquée, alors nous finissons par avoir une distribution p ( x | Y ) compliquée .$p(x|Y)$$p(Y)$$p(y|x)$$p(x|Y)$

La deuxième chose qui permet de faire de l'inférence variationnelle est qu'il existe une contrainte sur la forme que peut prendre. Sans aucune contrainte, arg min q K L ( p | | q ) serait p ce qui est habituellement insoluble. En règle générale, q est supposé vivre dans un sous-ensemble choisi de la famille exponentielle. Par exemple, cela pourrait être la famille de distributions gaussiennes entièrement factorisées, c.-à-d. Q ∈ Q = { ∏ d i = 1 q i ( x i ) $q$$\arg \min_q KL(p||q)$$p$$q$ . Il s'avère que si c'est votre ensemble de contraintes, alors chaque composante de q est donnée par$q \in \mathcal{Q} = \{\prod_{i=1}^d q_i(x_i) \mid \text{each } q_i \text{ is a one-dimensional Gaussian}\}$$q$

$$q_i \propto \exp( \mathbb{E}_{\prod_{j\neq i} q_j} \log p(x, Y) ),$$

où La formule exacte n'a pas beaucoup d'importance. Le fait est que le q approximatif peut être trouvé en s'appuyant sur la connaissance du vrai p et sur l'hypothèse de la forme que le q approximatif devrait prendre.$p(x, Y) = p(x) \prod_{i=1}^n p(y_i|x).$$q$$p$$q$

Mise à jour

Ce qui suit est de répondre à la partie mise à jour de la question. Je viens de réaliser que je pensais à . J'utiliserai toujours p pour la vraie quantité et q pour une quantité approximative. Dans l'inférence variationnelle ou bayésienne variationnelle, q est donné par$KL(q||p(x|Y))$$p$$q$$q$

$$q = \arg \min_{q \in \mathcal{Q}} KL(q\, ||\, p(x|Y)).$$

Avec l'ensemble de contraintes comme ci-dessus, la solution est celle donnée précédemment. Maintenant, si vous pensez$\mathcal{Q}$

$$q = \arg \min_{q \in \mathcal{Q}} KL( p(x|Y) \, || \, q),$$

pour défini comme un sous-ensemble de la famille exponentielle, alors cette inférence est appelée propagation d'espérance (EP). La solution de q dans ce cas est celle telle que ses moments correspondent à ceux de p ( x | Y ) .$\mathcal{Q}$$q$$p(x|Y)$

Quoi qu'il en soit, vous avez raison de dire que vous essayez essentiellement d'approximer la vraie distribution postérieure au sens KL par une distribution contrainte de prendre une certaine forme.$q$