Mettre un prior sur le paramètre de concentration dans un processus de Dirichlet

La plupart de ces informations sont d'ordre général, passez à la fin si vous en savez déjà assez sur les mélanges de procédés Dirichlet . Supposons que je modélise certaines données comme provenant d'un mélange de processus de Dirichlet, c'est-à-dire que et conditionnel à supposent$F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

Ici et est la mesure de base antérieure. Il s'avère que si pour chaque observation , si je connais le latent , la probabilité de dans ce modèle est où est le nombre de valeurs distinctes de (la mesure aléatoire est discrète presque sûrement). Escobar et West développent le schéma suivant d'échantillonnage utilisant un a priori gamma; d'abord, ils écrivent$\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ où est la fonction bêta. Ensuite, notez que si nous introduisons un paramètre latent alors la probabilité a la forme d'un mélange de distributions Gamma et l'utilisons pour écrire un échantillonneur Gibbs.$B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$

Maintenant ma question. Pourquoi ne pouvons-nous pas simplement écrire et au lieu d'utiliser un mélange de distributions Gamma, utiliser une seule distribution Gamma? Si nous introduisons ne devrais-je pas pouvoir faire la même chose mais sans avoir besoin d'utiliser le mélange?

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

Modifier pour plus de détails Plus de détails: Pour combler certaines lacunes, l'argument dans Escobar et West est que, laissant avoir une distribution Gamma avec la forme et signifie , et nous pouvons donc introduire un latent pour queLes conditions complètes sont une distribution pour et un mélange de et a$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$ pour .$\alpha$

Par le même argument, j'ai obtenu le même résultat mais avec pour et pour . Cela me semble plus facile; pourquoi ne font-ils pas ça?$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

Je ne vois pas en quoi ce que vous avez écrit est fondamentalement différent d'Escobar et de West.

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ où l'avant-dernière ligne indique comment vous l'avez et la dernière ligne comment E&W a et ils sont égaux puisque n) \ end {eqnarray *} rappelant que $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$ .

Je suppose qu'ils ont préféré leur formulation au vôtre car elle n'a que le terme de fonction Bêta, pas le produit d'une Bêta et d'un Gamma, mais je peux me tromper. Je n'ai pas tout à fait suivi le dernier morceau que vous avez écrit, pourriez-vous être plus explicite sur votre plan d'échantillonnage?