Comment dériver l'échantillonnage de Gibbs?

En fait, j'hésite à poser cette question, car je crains d'être renvoyé à d'autres questions ou à Wikipédia sur l'échantillonnage de Gibbs, mais je n'ai pas l'impression qu'ils décrivent ce qui est à portée de main.

Étant donné une probabilité conditionnelle : $p(x|y)$

\begin{array}{ccc} p (x | y) & y = y_{0} & y = y_{1} \\ x = x_{0} & \frac{1}{4} & \frac{2}{6} \\ x = x_{1} & \frac{3}{4} & \frac{4}{6} \end{array}

$\begin{array}{c|c|c} p(x|y) & y = y_0 & y = y_1 \\ \hline x = x_0 & \tfrac{1}{4} & \tfrac{2}{6} \\ \hline x = x_1 & \tfrac{3}{4} & \tfrac{4}{6} \\ \end{array}$

Et une probabilité conditionnelle : $p(y|x)$

\begin{array}{ccc} p (y | x) & y = y_{0} & y = y_{1} \\ x = x_{0} & \frac{1}{3} & \frac{2}{3} \\ x = x_{1} & \frac{3}{7} & \frac{4}{7} \end{array}

$\begin{array}{c|c|c} p(y|x) & y = y_0 & y = y_1 \\ \hline x = x_0 & \tfrac{1}{3} & \tfrac{2}{3} \\ \hline x = x_1 & \tfrac{3}{7} & \tfrac{4}{7} \\ \end{array}$

Nous pouvons uniquement trouver la probabilité conjointe : $f_{unique}=p(x,y)$

\begin{array}{cccc} p (x, y) & y = y_{0} & y = y_{1} & p (x) \\ x = x_{0} & a_{0} & a_{1} & c_{0} \\ x = x_{1} & a_{2} & a_{3} & c_{1} \\ p (y) & b_{0} & b_{1} \end{array}

$\begin{array}{c|c|c|c} p(x,y) & y = y_0 & y = y_1 & p(x) \\ \hline x = x_0 & a_0 & a_1 & c_0 \\ \hline x = x_1 & a_2 & a_3 & c_1 \\ \hline p(y) & b_0 & b_1 & \\ \end{array}$

Parce que, bien que nous ayons inconnues, nous avons plus ( ) d'équations linéaires: $8$ $4*2+3$

$a_0+a_1+a_2+a_3=1 \\ b_0+b_1 = 1 \\ c_0+c_1 = 1$

Aussi bien que:

$\tfrac{1}{4} b_0 = a_0 \\ \tfrac{3}{4} b_0 = a_2 \\ \tfrac{2}{6} (1-b_0) = a_1 \\ \tfrac{4}{6} (1-b_0) = a_3 \\ \tfrac{1}{3} c_0 = a_0 \\ \tfrac{2}{3} c_0 = a_1 \\ \tfrac{3}{7} (1-c_0) = a_2 \\ \tfrac{4}{7} (1-c_0) = a_3$

Il est rapidement résolu par , . À savoir en égalisant avec . Cela donne et le reste suit. $c_0=\tfrac{3}{4}b_0$ $\tfrac{2}{3}c_0=a_1$ $\tfrac{2}{4}b_0=a_1$ $\tfrac{2}{6}(1-b_0)=a_1$ $b_0=\tfrac{2}{5}$

\begin{array}{cccc} p (x, y) & y = y_{0} & y = y_{1} & p (x) \\ x = x_{0} & \frac{1}{10} & \frac{2}{10} & \frac{3}{10} \\ x = x_{1} & \frac{3}{10} & \frac{4}{10} & \frac{7}{10} \\ p (y) & \frac{4}{10} & \frac{6}{10} \end{array}

$\begin{array}{c|c|c|c} p(x,y) & y = y_0 & y = y_1 & p(x) \\ \hline x = x_0 & \tfrac{1}{10} & \tfrac{2}{10} & \tfrac{3}{10} \\ \hline x = x_1 & \tfrac{3}{10} & \tfrac{4}{10} & \tfrac{7}{10} \\ \hline p(y) & \tfrac{4}{10} & \tfrac{6}{10} & \\ \end{array}$

Donc, maintenant, nous allons au cas continu. Il est imaginable d'aller à intervalles et de garder la structure ci-dessus intacte (avec plus d'équations que d'inconnues). Cependant, que se passe-t-il lorsque nous passons aux (points) instances de variables aléatoires? Comment l'échantillonnage

x_{a} \sim p (x | y = y_{b}) y_{b} \sim p (y | x = x_{a})

$x_a \sim p(x|y=y_b) \\ y_b \sim p(y|x=x_a)$

de manière itérative, conduire à ? Équivalent à la contrainte , comment assure-t-elle par exemple? De même avec . Pouvons-nous noter les contraintes et dériver l'échantillonnage de Gibbs des premiers principes? $p(x,y)$ $a_0 + a_1 + a_2 + a_3=1$ $\int_X \int_Y p(x,y) dy dx = 1$ $\int_Y p(y|x)dy=1$

Donc, je ne suis pas intéressé par la façon d'effectuer l'échantillonnage de Gibbs, ce qui est simple, mais je suis intéressé par la façon de le dériver, et de préférence comment prouver qu'il fonctionne (probablement sous certaines conditions).

sampling mcmc gibbs

— Anne van Rossum
source

Le calcul d'une distribution conjointe à partir de distributions conditionnelles en général est très difficile. Si les distributions conditionnelles sont choisies arbitrairement, une distribution commune commune pourrait même ne pas exister. Dans ce cas, même montrer que les distributions conditionnelles sont cohérentes est généralement difficile. Un résultat qui pourrait être utilisé pour dériver une distribution conjointe est le lemme de Brook , en choisissant un état fixe , même si je ne l'ai jamais utilisé avec succès à cette fin. Pour en savoir plus sur ce sujet, je voudrais regarder le travail de Julian Besag.

\frac{p (x)}{p (x^{'})} = \prod_{i} \frac{p (x_{i} ∣ x_{< i}, x_{> i}^{'})}{p (x_{i}^{'} ∣ x_{< i}, x_{> i}^{'})},

$\frac{p(\mathbf{x})}{p(\mathbf{x}')} = \prod_i \frac{p(x_i \mid \mathbf{x}_{<i}, \mathbf{x}'_{>i})}{p(x_i' \mid \mathbf{x}_{<i}, \mathbf{x}'_{>i})},$

x^{'}

$\mathbf{x}'$

Pour prouver que l'échantillonnage de Gibbs fonctionne, cependant, il est préférable d'emprunter un chemin différent. Si une chaîne de Markov implémentée par un algorithme d'échantillonnage a la distribution comme distribution invariante, et est irréductible et apériodique , alors la chaîne de Markov convergera vers cette distribution (Tierney, 1994) . $p$

L'échantillonnage de Gibbs laissera toujours la distribution conjointe invariante à partir de laquelle les distributions conditionnelles ont été dérivées: grosso modo, si et nous échantillonnons , puis $(x_0, y_0) \sim p(x_0, y_0)$ $x_1 \sim p(x_1 \mid y_0)$

(x_{1}, y_{0}) \sim \int p (x_{0}, y_{0}) p (x_{1} ∣ y_{0}) d x_{0} = p (x_{1} ∣ y_{0}) p (y_{0}) = p (x_{1}, y_{0}) .

$(x_1, y_0) \sim \int p(x_0, y_0) p(x_1 \mid y_0) \, dx_0 = p(x_1 \mid y_0) p(y_0) = p(x_1, y_0).$

En d'autres termes, la mise à jour de par échantillonnage conditionnel ne modifie pas la distribution de l'échantillon. $x$

Cependant, l'échantillonnage de Gibbs n'est pas toujours irréductible . Bien que nous puissions toujours l'appliquer sans casser les choses (dans le sens où si nous avons déjà un échantillon de la distribution souhaitée, cela ne changera pas la distribution), cela dépend de la distribution conjointe si l'échantillonnage de Gibbs va effectivement y converger (un simple suffisant la condition d'irréductibilité est que la densité soit positive partout, ). $p(\mathbf{x}) > 0$

— Lucas
source

Problème intéressant sur la compatibilité. Je vérifie maintenant la "compatibilité des distributions conditionnelles discrètes finies" (Song et al.) Qui utilisent une "matrice de rapport" pour établir la compatibilité et l'unicité. Ainsi, Gibbs ne peut pas être dérivé de ces contraintes car elles ne sont pas appliquées au départ. Je peux imaginer qu'il pourrait retourner une distribution conjointe incorrecte (somme> 1) si les distributions conditionnelles sont incompatibles par exemple. D'une certaine manière, cependant, j'ai le sentiment que ce que je fais est quelque chose de déterministe, quelque chose qui ressemble à la transformation du Radon. L'échantillonnage de Gibbs a l'air si ... sale.

— Anne van Rossum