J'ai besoin d'étudier les méthodes de Markov Chain Monte Carlo, pour être plus précis, j'ai besoin d'étudier l'algorithme de Metropolis Hastings et tout ça comme les critères de convergence.
Qui peut me prescrire un livre, ou un papier, ou un site Web, qui explique cet argument en utilisant des termes simples, mais sans être trivial?
Réponses:
Un excellent document introductif est celui de Chib et Greenberg
Comprendre l'algorithme de métropole-Hasting
Une discussion magistrale et concise de la théorie est celle de Tierney
Chaînes de Markov pour l'exploration des distributions postérieures
Pour un livre qui n'est pas "lourd sur les mathématiques", je recommanderais:
Allez au chapitre 7.
Le code R est fourni dans le livre, vous pourrez donc jouer avec les exemples et voir, concrètement, les effets de la modification du nombre de burn-ins, etc.
Il y a un très bon article de Christian Robert décrivant l'algorithme MH en détail
Robert, CP (2015). L'algorithme de Metropolis-Hastings. arXiv preprint arXiv: 1504.01896.
et grand livre sur les méthodes de Monte Carlo en général du même auteur
Robert, C. et Casella, G. (2013). Méthodes statistiques de Monte Carlo. Springer Science & Business Media.
En ce qui concerne les critères de convergence, la plupart des travaux portent sur la convergence est le sens de la distance de variation totale (TV). Principalement parce qu'il y a beaucoup de théorie des probabilités élaborée pour la distance TV. Il y a un beau papier d'enquête et aussi du côté théorique il y a le papier de Roberts et Rosenthal qui donne plusieurs théorèmes sur les critères de convergence. Du côté plus pratique, il y a plusieurs articles écrits par Jim Hobert qui fournissent des exemples d'application d'un des théorèmes de Roberts et Rosenthal à MCMC. En général, la partie délicate de l'application de ce théorème semble proposer une bonne fonction de dérive de Lyapunov.
Voici une analogie grossière que j'ai utilisée pour donner à peu près la saveur du MHA: La prochaine fois que vous êtes au supermarché:
Prenez un article au hasard et mettez-le dans votre panier.
Prenez un autre article avec votre main droite.
Si l'article dans votre main est moins cher que le dernier article que vous avez acheté, mettez-le dans votre panier.
Sinon, placez l'article dans votre panier avec probabilité (prix du dernier) ÷ (prix en main), sinon remettez-le en place.
Répétez les étapes 2 à 4 jusqu'à ce que vingt-neuf articles supplémentaires soient dans votre panier.
Retirez les 15 premiers articles de votre panier.
Commander et souhaiter une agréable journée à la caissière.
Faites rouler le chariot vers votre voiture.
Rentrer à la maison.