Rao-Blackwellization de Gibbs Sampler

J'évalue actuellement un modèle de volatilité stochastique avec les méthodes de Markov Chain Monte Carlo. Ainsi, j'implémente les méthodes d'échantillonnage de Gibbs et Metropolis.

En supposant que je prenne la moyenne de la distribution postérieure plutôt qu'un échantillon aléatoire, est-ce ce que l'on appelle communément Rao-Blackwellization ?

Dans l'ensemble, cela se traduirait par la prise de la moyenne sur la moyenne des distributions postérieures comme estimation des paramètres.

— mscnvrsy
source

Réponses:

En supposant que je prenne la moyenne de la distribution postérieure plutôt qu'un échantillon aléatoire, est-ce ce que l'on appelle communément Rao-Blackwellization?

Je ne connais pas très bien les modèles de volatilité stochastique, mais je sais que dans la plupart des contextes, la raison pour laquelle nous choisissons les algorithmes de Gibbs ou MH pour dessiner à partir du postérieur, c'est parce que nous ne connaissons pas le postérieur. Souvent, nous voulons estimer la moyenne postérieure, et comme nous ne connaissons pas la moyenne postérieure, nous prélevons des échantillons sur la partie postérieure et l'estimons en utilisant la moyenne de l'échantillon. Donc, je ne sais pas comment vous pourrez prendre la moyenne de la distribution postérieure.

L'estimateur Rao-Blackwellized dépend plutôt de la connaissance de la moyenne du conditionnel complet; mais même dans ce cas, l'échantillonnage est toujours nécessaire. J'explique plus ci-dessous.

Supposons que la distribution postérieure soit définie sur deux variables, $\theta = (\mu, \phi$ ), de sorte que vous souhaitez estimer la moyenne postérieure: $E[\theta \mid \text{data}]$ . Maintenant, si un échantillonneur Gibbs était disponible, vous pouvez l'exécuter ou exécuter un algorithme MH pour échantillonner à partir de la partie postérieure.

Si vous pouvez exécuter un échantillonneur Gibbs, alors vous savez $f(\phi \mid \mu, data)$ sous forme fermée et vous connaissez la moyenne de cette distribution. Que cela signifie $\phi^*$ . Notez que $\phi^*$ est fonction de $\mu$ et les données.

Cela signifie également que vous pouvez intégrer $\phi$ du postérieur, donc le postérieur marginal de $\mu$ est $f(\mu \mid data)$ (ce n'est pas connu complètement, mais connu jusqu'à une constante). Vous voulez maintenant exécuter une chaîne de Markov telle que $f(\mu \mid data)$ est la distribution invariante, et vous obtenez des échantillons de cette marge marginale. La question est

Comment pouvez-vous maintenant estimer la moyenne postérieure de $\phi$ en utilisant uniquement ces échantillons de la partie postérieure marginale de $\mu$ ?

Cela se fait via Rao-Blackwellization.

\begin{aligned} E [ϕ ∣ d a t a] & = \int ϕ f (μ, ϕ ∣ d a t a) d μ d ϕ \\ = \int ϕ f (ϕ ∣ μ, d a t a) f (μ ∣ d a t a) d μ d ϕ \\ = \int ϕ^{*} f (μ ∣ d a t a) d μ . \end{aligned}

$\begin{align*} E[\phi \mid data]& = \int \phi \; f(\mu, \phi \mid data) d\mu \, d\phi\\ & = \int \phi \; f(\phi \mid \mu, data) f(\mu \mid data) d\mu \, d\phi\\ & = \int \phi^* f(\mu \mid data) d\mu. \end{align*}$

Supposons donc que nous ayons obtenu des échantillons $X_1, X_2, \dots X_N$ du postérieur marginal de $\mu$ . alors

\hat{ϕ} = \frac{1}{N} \sum_{i = 1}^{N} ϕ^{*} (X_{i}),

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \phi^*(X_i),$

est appelé l'estimateur Rao-Blackwellized pour $\phi$ . La même chose peut être faite en simulant également à partir des marginaux conjoints.

Exemple (purement pour démonstration).

Supposons que vous ayez une articulation postérieure inconnue $\theta = (\mu, \phi)$ à partir de laquelle vous souhaitez échantillonner. Vos données en sont $y$ et vous disposez des conditions complètes suivantes

μ ∣ ϕ, y \sim N (ϕ^{2} + 2 y, y^{2})

$\mu \mid \phi, y \sim N(\phi^2 + 2y, y^2)$

ϕ ∣ μ, y \sim G a m m a (2 μ + y, y + 1)

$\phi \mid \mu, y \sim Gamma(2\mu + y, y + 1)$

Vous exécutez l'échantillonneur Gibbs à l'aide de ces conditions et vous avez obtenu des échantillons de l'articulation postérieure $f(\mu, \phi \mid y)$ . Que ces échantillons soient $(\mu_1, \phi_1), (\mu_2, \phi_2), \dots, (\mu_N, \phi_N)$ . Vous pouvez trouver la moyenne de l'échantillon de la $\phi$ s, et ce serait l'estimateur de Monte Carlo habituel pour la moyenne postérieure pour $\phi$ ..

Ou, notez que par les propriétés de la distribution Gamma

E [ϕ | μ, y] = \frac{2 μ + y}{y + 1} = ϕ^{*} .

$E[\phi | \mu, y] = \dfrac{2 \mu + y}{y + 1} = \phi^*.$

Ici $y$ sont les données qui vous sont données et sont donc connues. L'estimateur Rao Blackwellized serait alors

\hat{ϕ} = \frac{1}{N} \sum_{i = 1}^{N} \frac{2 μ_{i} + y}{y + 1} .

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \dfrac{2 \mu_i + y}{y + 1}.$

Remarquez comment l'estimateur de la moyenne postérieure de $\phi$ n'utilise même pas le $\phi$ échantillons, et utilise uniquement le $\mu$ échantillons. Dans tous les cas, comme vous pouvez le voir, vous utilisez toujours les échantillons que vous avez obtenus d'une chaîne de Markov. Ce n'est pas un processus déterministe.

— Greenparker
source

Donc, en supposant que la distribution postérieure du paramètre est connue (ce qui, à ma connaissance, se trouve être vrai lors de l'application de l'échantillonnage de Gibbs), prendre la moyenne de la distribution plutôt qu'un échantillon aléatoire serait l'estimateur Rao-Blackwellized? J'espère avoir bien compris votre réponse. Merci beaucoup déjà!

— mscnvrsy

C'est incorrect. Dans l'échantillonnage de Gibbs, vous ne connaissez pas la distribution postérieure du paramètre, mais connaissez le postérieur conditionnel complet pour chaque paramètre. Il y a une grande différence entre les deux. Ci-dessus, le postérieur est

f (μ, ϕ ∣ d a t a)

$f(\mu, \phi \mid data)$ qui est inconnu, et pour que l'échantillonneur Gibbs fonctionne, vous devez connaître les deux

f (μ ∣ ϕ, d a t a)

$f(\mu \mid \phi, data)$ et

f (ϕ ∣ μ, d a t a)

$f(\phi \mid \mu, data)$ . Et vous avez également tort dans votre deuxième compréhension. Vous devez toujours prélever un échantillon de la partie postérieure marginale de

μ

$\mu$ , puis calculez la moyenne de l'échantillon de

ϕ^{*}

$\phi^*$ en utilisant ces échantillons pour trouver l'estimateur RB.

— Greenparker

@mscnvrsy J'ai ajouté un exemple pour vous aider

— Greenparker

Wow, merci beaucoup de m'avoir clarifié cela. Donc, en supposant que je connais les distributions conditionnelles complètes, je peux travailler avec les moyennes théoriques des distributions conditionnelles et faire la moyenne sur ces moyennes théoriques (comme E [phi | mu, y]) pour obtenir l'estimateur RB? Cela minimiserait alors la variance de mes estimations de paramètres?

— mscnvrsy

Si vous obteniez des échantillons indépendants, oui, cela minimiserait la variance des estimateurs, cependant, puisque vous traitez avec des chaînes de Markov, il est généralement connu que RB ne réduit pas nécessairement la variance, et il y a des cas où la variance augmente même. Cet article de Charlie Geyer a donné quelques exemples à ce sujet.

— Greenparker

L'échantillonneur Gibbs peut ensuite être utilisé pour améliorer l'efficacité (par exemple) des échantillons à partir d'un postérieur marginal, appelez-le $\pi_2(\theta_2|y)$ . Remarque

\begin{array}{rcl} π_{2} (θ_{2} | y) & = & \int π (θ_{1}, θ_{2} | y) ré θ_{1} \\ = & \int π_{2 | 1} (θ_{2} | θ_{1}, y) π_{1} (θ_{1} | y) ré θ_{1} \\ = & E (π_{2 | 1} (θ_{2} | θ_{1}, y)) \end{array}

$\begin{eqnarray*} \pi_2(\theta_2|y)&=&\int \pi(\theta_1,\theta_2|y)d\theta_1\\ &=&\int \pi_{2|1}(\theta_2|\theta_1,y)\pi_1(\theta_1|y)d\theta_1\\ &=&E(\pi_{2|1}(\theta_2|\theta_1,y)) \end{eqnarray*}$ Ainsi, la densité marginale de

θ_{2}

$\theta_2$ à une certaine valeur

θ_{2}

$\theta_2$ est la valeur attendue de la densité conditionnelle de

θ_{2}

$\theta_2$ donné

θ_{1}

$\theta_1$ à ce point

θ_{2}

$\theta_2$ .

Ceci est intéressant en raison du lemme de décomposition de la variance

V une r (X) = E [V une r (X | Oui)] + V une r [E (X | Oui)],

$Var(X)=E[Var(X|Y)]+Var[E(X|Y)],$ où la variance conditionnelle

V a r (X | Y)

$Var(X|Y)$ est

E {(X - E (X | Y))^{2} | Y}

$E\left\{(X-E(X|Y))^2|Y\right\}$ . Aussi,

V a r (E (X | Y)) = E [(E (X | Y) - E (X))^{2}]

$Var(E(X|Y))=E\left[(E(X|Y)-E(X))^2\right]$ . En particulier,

V une r (X) \geq V une r [E (X | Oui)] .

$Var(X)\geq Var[E(X|Y)].$ Un échantillonneur Gibbs nous donnera des réalisations

(θ_{1 i}, θ_{2 i})

$(\theta_{1i},\theta_{2i})$ . Le résultat est qu'il vaut mieux estimer

π_{2} (θ_{2} | y)

$\pi_2(\theta_2|y)$ par

{\hat{π}}_{2} (θ_{2} | y) = \frac{1}{M} \sum_{je = 1}^{M} π_{2 | 1} (θ_{2} | θ_{1 je}, y)

$\hat{\pi}_2(\theta_2|y)=\frac{1}{M}\sum_{i=1}^M\pi_{2|1}(\theta_2|\theta_{1i},y)$ que par une estimation conventionnelle de la densité du noyau en utilisant le

θ_{2 i}

$\theta_{2i}$ pour le point

θ_{2}

$\theta_2$ - à condition de connaître les distributions conditionnelles (ce qui est bien sûr la raison pour laquelle nous utilisons l'échantillonnage de Gibbs en premier lieu).

Exemple

Supposer $X$ et $Y$ sont normaux bivariés avec des moyennes nulles, des variances 1 et une corrélation $\rho$ . C'est,

π (X, y) \propto \exp {- \frac{1}{2 (1 - ρ^{2})} (X^{2} + y^{2} - 2 ρ X y)}

$\pi(x,y)\propto\exp\left\{-\frac{1}{2(1-\rho^2)}(x^2+y^2-2\rho x y)\right\}$ Clairement, marginalement,

Y \sim N (0, 1)

$Y\sim N(0,1)$ , mais supposons que nous ne le savons pas. Il est bien connu que la distribution conditionnelle de

Y

$Y$ donné

X = x

$X=x$ est

N (ρ x, 1 - ρ^{2})

$N(\rho x,1-\rho^2)$ .

Étant donné certains $M$ réalisations de $(X,Y)$ l'estimation "Rao-Blackwell" de la densité de $Y$ à $y$ alors c'est

{\hat{π}}_{Oui} (y) = \frac{1}{M} \sum_{je = 1}^{M} \frac{1}{\sqrt{1 - ρ^{2}} \sqrt{2 π}} \exp {- \frac{1}{2 (1 - ρ^{2})} (y - ρ X_{je})^{2}}

$\hat\pi_Y(y)=\frac{1}{M}\sum_{i=1}^M\frac{1}{\sqrt{1-\rho^2}\sqrt{2\pi}}\exp\left\{-\frac{1}{2(1-\rho^2)}(y-\rho x_i)^2\right\}$ À titre d'illustration, comparons une estimation de la densité du noyau à l'approche RB

library(mvtnorm)

rho <- 0.5
R <- 50
xy <- rmvnorm(n=R, mean=c(0,0), sigma= matrix(c(1,rho,rho,1), ncol=2))
x <- xy[,1]
y <- xy[,2]

kernel_density <- density(y, kernel = "gaussian")
plot(kernel_density,col = "blue",lty=2,main="Rao-Blackwell estimates from conditional normals",ylim=c(0,0.4))
legend(1.5,.37,c("Kernel","N(0,1)","Rao-Blackwell"),lty=c(2,1,3),col=c("blue","black","red"))
g <- seq(-3.5,3.5,length=100)
lines(g,dnorm(g),lty=1) # here's what we pretend not to know

density_RB <- rep(0,100)
for(i in 1:100) {density_RB[i] <- mean(dnorm(g[i], rho*x, sd = sqrt(1-rho^2)))}
lines(g,density_RB,col = "red",lty=3)

Nous observons que l'estimation RB fait beaucoup mieux (car elle exploite les informations conditionnelles):

— Christoph Hanck
source