Gibbs échantillonne-t-il une méthode MCMC?


11

D'après ce que je comprends, c'est (du moins, c'est ainsi que Wikipedia le définit ). Mais j'ai trouvé cette déclaration d'Efron * (je souligne):

La chaîne de Markov Monte Carlo (MCMC) est la grande réussite des statistiques bayésiennes modernes. MCMC, et sa méthode sœur «échantillonnage de Gibbs», permettent le calcul numérique des distributions postérieures dans des situations beaucoup trop compliquées pour l'expression analytique.

et maintenant je suis confus. Est-ce juste une différence mineure dans la terminologie, ou Gibbs échantillonne-t-il autre chose que MCMC?

[*]: Efron 2011, "Le Bootstrap et Markov-Chain Monte Carlo"

Réponses:


15

L'algorithme qui s'appelle maintenant l' échantillonnage de Gibbs forme une chaîne de Markov et utilise la simulation de Monte-Carlo pour ses entrées, il tombe donc bien dans le champ d'application des méthodes MCMC (Markov-Chain Monte-Carlo). Historiquement, la méthode remonte au moins au milieu du XXe siècle, mais elle n'était pas bien connue et n'a été popularisée que plus tard par l'article fondateur de Geman et Geman (1984) qui a examiné la physique statistique en relation avec l'utilisation de la distribution de Gibbs (pour quelques références historiques, voir Casella et George 1992 , p. 167).

Pour une raison quelconque, tout au long de son article, Efron fait référence à l'échantillonneur Gibbs comme s'il était en dehors du champ d'application de MCMC. Il le fait dans la citation que vous avez donnée, ainsi que dans d'autres parties du document. Étant donné que sa référence d'ouverture à la technique fait référence à "l'échantillonneur de Gibbs" (donné entre guillemets), il est possible qu'il fasse allusion au fait historique que la méthode originale a été développée par la distribution de Gibbs en physique statistique, et n'a pas été incorporée dans le théorie statistique générale de MCMC jusqu'à bien plus tard. C'est ma meilleure estimation de la raison pour laquelle il y fait référence de cette façon.

Mise à jour: Puisque le professeur Efron est toujours vivant, j'ai pris la liberté de lui écrire pour lui demander pourquoi il décrit l'échantillonneur Gibbs de cette façon. Voici sa réponse (reproduite avec sa permission):

C'était pour des raisons principalement historiques ... D'un autre côté, l'algorithme de Gibbs est assez différent de la recette MCMC, et il faut du travail pour montrer qu'il est en quelque sorte le même. (Efron 2018, correspondance personnelle, points de suspension dans l'original)


1
Je vous remercie! J'attendrai de voir si vous obtenez une réponse du Dr Efron, sinon je vais toujours la sélectionner comme réponse.
Gabriel

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.