Quand le MCMC est-il devenu monnaie courante?


18

Quelqu'un sait-il vers quelle année MCMC est devenu courant (c.-à-d., Une méthode populaire pour l'inférence bayésienne)? Un lien vers le nombre d'articles MCMC (revues) publiés au fil du temps serait particulièrement utile.


2
Je doute que quiconque puisse fournir une seule année. Il est plus raisonnable de considérer la diffusion de MCMC au fil du temps. Il est né dans les années 50 avec l'algorithme Metropolis-Hastings mais n'a pas été largement adopté et utilisé jusqu'à l'avènement d'une puissance de calcul relativement peu coûteuse à partir des années 80. À ma connaissance, les premières utilisations ont été faites dans les technologies de reconnaissance faciale bayésienne de l'époque. Secondairement, à partir des années 90, l'utilisation des MCMC s'est étendue à d'autres domaines tels que l'économie et le marketing avec l'école de Chicago. Découvrez le MCMC pratique de Gilks ​​& Spiegelhalter de 1996 .
user332577

1
Cette question est vague et appelle une opinion (il n'y a pas de définition acceptée de banal ou populaire). Il admet un certain nombre de réponses sans doute correctes.
Glen_b -Reinstate Monica

1
@Glen_b Je pense que la réponse donnée ci-dessous est excellente. Êtes-vous en désaccord? Ou avez-vous écrit votre commentaire avant cette réponse? (Les deux disent juste «hier»).
Peter Flom - Réintègre Monica

2
@Peter Mine est venu avant chaque réponse; passez votre souris sur le mot "hier" sur chacun (ou sur tout ce qui indique un temps écoulé depuis la publication) pour voir l'heure UTC précise. Je pense que la réponse que vous indiquez est une bonne réponse partielle mais la question admettrait toujours plusieurs prises complètement différentes sans bonne base pour choisir entre elles.
Glen_b -Reinstate Monica

Réponses:


25

Cet article de Christian (Xi'an) Robert et George Casella fournit un joli résumé de l'histoire du MCMC. Extrait du document (c'est moi qui souligne).


Ce que l'on peut raisonnablement considérer comme le premier algorithme MCMC est ce que nous appelons maintenant l'algorithme Metropolis, publié par Metropolis et al. (1953). Il émane du même groupe de scientifiques qui ont produit la méthode de Monte Carlo, à savoir les chercheurs de Los Alamos, principalement des physiciens travaillant sur la physique mathématique et la bombe atomique.


L'algorithme Metropolis a ensuite été généralisé par Hastings (1970) et son élève Peskun (1973, 1981)


Bien que quelque peu éloigné de l'inférence statistique au sens classique et basé sur des techniques antérieures utilisées en physique statistique, l' article historique de Geman et Geman (1984) a amené l'échantillonnage de Gibbs dans le domaine de l'application statistique. Cet article est également responsable du nom d'échantillonnage Gibbs


En particulier, Geman et Geman (1984) ont influencé Gelfand et Smith (1990) pour rédiger un article qui est le véritable point de départ d'une utilisation intensive des méthodes MCMC par la communauté statistique du courant principal . Il a suscité de nouveaux intérêts dans les méthodes bayésiennes, le calcul statistique, les algorithmes et les processus stochastiques grâce à l'utilisation d'algorithmes de calcul tels que l'échantillonneur Gibbs et l'algorithme Metropolis – Hastings.


Fait intéressant, l'article précédent de Tanner et Wong (1987) avait essentiellement les mêmes ingrédients que Gelfand et Smith (1990), à savoir le fait que la simulation à partir des distributions conditionnelles est suffisante pour simuler asymptotiquement à partir de l'articulation. être un document de discussion dans le Journal of the American Statistical Association, mais son impact était en quelque sorte limité, par rapport à Gelfand et Smith (1990).


Je n'ai pas pu trouver le nombre d'articles de journaux publiés au fil du temps, mais voici un graphique de Google Ngram pour le nombre de mentions au fil du temps. Il est plus ou moins d'accord avec l'idée que MCMC est devenu monnaie courante après le papier de Gelfand et Smith de 1990.

entrez la description de l'image ici


1
Je vous remercie! Je considérerais 1990 comme la date la plus importante de l'histoire de MCMC, car quatre articles d'Alan Gelfand et Adrian Smith sont apparus cette même année dans les meilleures revues de statistiques et ont fait que le concept d'utiliser les chaînes de Markov pour la simulation devenait soudainement courant. Je me souviens d'avoir assisté à une conférence d'Adrian Smith en juin 1989 à Seherbrooke (PQ) où il a démontré l'universalité de l'idée en montrant une diapositive avec quelques lignes de code (Fortran?).
Xi'an

12

L'excellente réponse de knrumsey donne un peu d'histoire sur la progression d'importants travaux académiques au MCMC. Un autre aspect qui mérite d'être examiné est le développement de logiciels pour faciliter la MCMC par l'utilisateur ordinaire. Les méthodes statistiques sont souvent utilisées principalement par des spécialistes jusqu'à ce qu'elles soient implémentées dans un logiciel qui permet à l'utilisateur ordinaire de les implémenter sans programmation. Par exemple, le logiciel BUGS a été publié pour la première fois en 1997. Cela ne semble pas avoir modifié la trajectoire de croissance dans l'intrigue N-Grams, mais il a peut-être eu une influence sur la mise en usage de la méthode parmi les utilisateurs qui l'ont trouvée. intimidant de programmer leurs propres routines.


Huh, il y a une petite torsion dans la ligne pour MCMC vers 1997.
muru

Bien repéré - je ne sais pas si ce serait un changement suffisamment important pour être statistiquement significatif, mais noté quand même.
Rétablir Monica

En estimant visuellement, si la pente avant 1997 avait été maintenue, nous aurions vu quelque chose comme 0,000015% vers 2004 (mais la valeur réelle est proche de 0,0000225%). C'est une augmentation de 50%. Mais je suppose que les chiffres sont de toute façon trop petits.
muru

Vous avez peut-être raison - de bons yeux!
Rétablir Monica

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.