Quand MCMC est-il utile?

J'ai du mal à comprendre dans quelle situation l'approche MCMC est réellement utile. Je passe par un exemple de jouet du livre de Kruschke "Faire l'analyse des données bayésiennes: un tutoriel avec R et BUGS".

Ce que j'ai compris jusqu'à présent, c'est que nous avons besoin d'une distribution cible qui est proportionnelle à afin d'avoir un échantillon de . Cependant, il me semble qu'une fois que nous avons $p(D|\theta)p(\theta)$ $P(\theta|D)$ il suffit de normaliser la distribution pour obtenir le postérieur, et le facteur de normalisation peut être facilement trouvé numériquement. Alors, quels sont les cas où cela n'est pas possible? $p(D|\theta)p(\theta)$

mcmc

— Vaaal
source

Supposons que

ne soit pas un scalaire mais plutôt un vecteur

ayant 10000 dimensions.

θ

$\theta$

θ

$\boldsymbol\theta$

— Jan Galkowski

Ma réponse était un peu laconique. Pour obtenir la constante, il faut calculer

. Même dans le cas scalaire, supposons que

soit vraiment bancal, donc l'intégration est difficile à faire, même numériquement. Vous pouvez alors utiliser MCMC.

\int_{- \infty}^{\infty} p (D | θ) p (θ)

$\int_{-\infty}^{\infty} p(D|\theta)p(\theta)$

p (D | θ)

$p(D|\theta)$

— Jan Galkowski

Un mot de prudence d'Alan Sokal: "Monte Carlo est une méthode extrêmement mauvaise; elle ne doit être utilisée que lorsque toutes les méthodes alternatives sont les pires". Puis il se lance dans une longue discussion sur les méthodes MC. stat.unc.edu/faculty/cji/Sokal.pdf

— Yair Daon

@Yair: Il me semble que Sokal canalise Churchill.

— cardinal

Quand rien d'autre ne fonctionnera ...

— kjetil b halvorsen

Réponses:

L'intégration de Monte Carlo est une forme d'intégration numérique qui peut être beaucoup plus efficace que, par exemple, l'intégration numérique en rapprochant l'intégrande avec des polynômes. Cela est particulièrement vrai dans les dimensions élevées, où les techniques d'intégration numérique simples nécessitent un grand nombre d'évaluations de fonctions. Pour calculer la constante de normalisation $p(D)$ , nous pourrions utiliser un échantillonnage d'importance ,

p (D) = \int \frac{q (θ)}{q (θ)} p (θ) p (D ∣ θ) d θ \approx \frac{1}{N} \sum_{n} w_{n} p (θ_{n}) p (D ∣ θ_{n}),

$p(D) = \int \frac{q(\theta)}{q(\theta)} p(\theta)p(D \mid \theta) \, d\theta \approx \frac{1}{N} \sum_n w_n p(\theta_n)p(D \mid \theta_n),$

où et les sont échantillonnés à partir de . Notez que nous avons seulement besoin d'évaluer la distribution conjointe aux points échantillonnés. Pour le bon , cet estimateur peut être très efficace dans le sens où il nécessite très peu d'échantillons. En pratique, choisir un approprié $w_n = 1/q(\theta_n)$ $\theta_n$ $q$ $q$ $q$ peut être difficile, mais c'est là que MCMC peut vous aider! L'échantillonnage d'importance recuit (Neal, 1998) combine la MCMC avec l'échantillonnage d'importance.

Une autre raison pour laquelle MCMC est utile est la suivante: nous ne sommes généralement même pas très intéressés par la densité postérieure de , mais plutôt par des statistiques sommaires et des attentes , par exemple, $\theta$

\int p (θ ∣ D) f (θ) d θ .

$\int p(\theta \mid D) f(\theta) \, d\theta.$

Connaître ne signifie généralement pas que nous pouvons résoudre cette intégrale, mais les échantillons sont un moyen très pratique de l'estimer. $p(D)$

Enfin, être en mesure d'évaluer est une exigence pour certaines méthodes MCMC, mais pas pour toutes (par exemple, Murray et al., 2006 ). $p(D \mid \theta)p(\theta)$

— Lucas
source

Désolé, mais ce n'est toujours pas clair pour moi. Ma question est: si nous multiplions simplement

nous obtenons un pdf non normalisé. En exécutant MCMC, nous obtenons un échantillon pour lequel nous pouvons estimer le pdf non normalisé. Si nous voulons, nous pourrions normaliser les deux. Donc, EN supposant que je ne suis PAS intéressé par des statistiques sommaires, mais seulement par les postérieurs, pourquoi utilisons-nous MCMC en premier lieu? Comme vous l'avez dit, certaines méthodes MCMC ne nécessitent pas le calcul de

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$ , donc je ne parle pas de ceux-ci. Pour autant que je sache, la plupart d'entre eux nécessitent le calcul de cela. Quelle est l'utilité de ces méthodes?

— Vaaal

Lorsque vous exécutez MCMC, vous obtenez un échantillon du pdf normalisé , évitez donc de calculer la constante de normalisation. Et c'est gratuit.

— Xi'an

θ

$\theta$

p (D ∣ θ) p (θ)

$p(D \mid \theta) p(\theta)$

$p(\theta)$ $f(x|\theta)$

p (θ | x) \propto p (θ) f (x | θ)

$p(\theta|x)\propto p(\theta)f(x|\theta)$

$\theta$

$p(\theta|x)$ , est suffisante pour réaliser une simulation à partir du vrai postérieur à long terme.

$p(\theta|x)$ qui peut être calculée jusqu'à une constante.

$p(\theta)f(x|\theta)$

p (θ) f (x | θ) \propto \int g (z | θ, x) p (θ) f (x | θ) d z

$p(\theta)f(x|\theta)\propto \int g(z|\theta,x) p(\theta)f(x|\theta)\text{d}z$

Les méthodes MCMC ont donné une portée beaucoup plus large aux méthodes bayésiennes, comme l'illustre la recrudescence qui a suivi la vulgarisation de la méthode par Alan Gelfand et Adrian Smith en 1990.

— Xi'an
source

Le lien vers LE LIVRE DES BUGS ne fonctionne plus.

— HelloWorld