L'algorithme d'échantillonnage de Gibbs garantit-il un équilibre détaillé?

Je considère par l'autorité suprême ¹ que Gibbs Sampling est un cas particulier de l'algorithme Metropolis-Hastings pour l'échantillonnage Markov Chain Monte Carlo. L'algorithme MH donne toujours une probabilité de transition avec la propriété d'équilibre détaillée; Je pense que Gibbs devrait aussi. Alors, où dans le cas simple suivant ai-je mal tourné?

Pour la distribution cible $\pi(x, y)$ sur deux variables discrètes (par souci de simplicité), les distributions conditionnelles complètes sont:

$$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$$

Si je comprends bien l'échantillonnage de Gibbs, la probabilité de transition peut s'écrire:

$$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$$

La question est de savoir si mais le plus proche que je peux obtenir est C'est subtilement différent et n'implique pas un équilibre détaillé. Merci pour toutes vos pensées!

$$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$$ $$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$$

Vous avez essayé de montrer un équilibre détaillé pour la chaîne de Markov qui est obtenu en considérant une transition de la chaîne de Markov comme le `` balayage de Gibbs '' où vous échantillonnez chaque composant tour à tour à partir de sa distribution conditionnelle. Pour cette chaîne, l'équilibre détaillé n'est pas satisfait. Le fait est plutôt que chaque échantillonnage d'une composante particulière de sa distribution conditionnelle est une transition qui satisfait un équilibre détaillé. Il serait plus exact de dire que l'échantillonnage de Gibbs est un cas particulier d'une métropole-Hastings légèrement généralisée, où vous alternez entre plusieurs propositions différentes. Plus de détails suivent.

Les balayages ne satisfont pas à l'équilibre détaillé

Je construis un contre-exemple. Considérons deux variables de Bernoulli ( ), avec des probabilités comme indiqué dans le tableau suivant: Supposons que le balayage de Gibbs est ordonné afin que soit échantillonné premier. Passer d'un état à un état en un seul mouvement est impossible, car il faudrait passer de à . Cependant, le passage de à a une probabilité positive, à savoir$X_1,X_2$ X1(0,0)(1,1)(0,0)(1,0)(1,1)(0,0)

$$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$$ $X_1$$(0,0)$$(1,1)$$(0,0)$$(1,0)$$(1,1)$$(0,0)$$\frac{1}{4}$. Nous concluons donc que l'équilibre détaillé n'est pas satisfait.

Cependant, cette chaîne a toujours une distribution stationnaire qui est la bonne. Un équilibre détaillé est une condition suffisante, mais non nécessaire, pour converger vers la distribution cible.

Les mouvements des composants satisfont un équilibre détaillé

Considérons un état à deux variables où nous échantillonnons la première variable de sa distribution conditionnelle. Un mouvement entre et a une probabilité nulle dans les deux sens si et donc pour ces cas, l'équilibre détaillé est clairement . Ensuite, considérons : $(x_1,x_2)$$(y_1,y_2)$$x_2 \neq y_2$$x_2 = y_2$

$$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$$

Comment les mouvements des composants sont-ils des mouvements de Metropolis-Hastings?

Échantillonnant à partir du premier composant, notre distribution de proposition est la distribution conditionnelle. (Pour toutes les autres composantes, nous proposons les valeurs actuelles avec probabilité ). En considérant un passage de à , le rapport des probabilités cibles est Mais le rapport des probabilités de proposition est $1$$(x_1, x_2)$$(y_1, y_2)$

$$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$$ $$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$$ Ainsi, le rapport des probabilités cibles et le rapport des probabilités de proposition sont réciproques, et donc la probabilité d'acceptation sera . En ce sens, chacun des mouvements de l'échantillonneur Gibbs est un cas particulier des mouvements de Metropolis-Hastings. Cependant, l'algorithme global vu sous cet angle est une légère généralisation de l'algorithme Metropolis-Hastings généralement présenté en ce que vous avez alterné entre différentes distributions de proposition (une pour chaque composante de la variable cible).$1$