MCMC avec algorithme Metropolis-Hastings: choix de la proposition

J'ai besoin de faire une simulation pour évaluer une intégrale d'une fonction à 3 paramètres, disons , qui a une formule très compliquée. Il est demandé d'utiliser la méthode MCMC pour le calculer et de mettre en œuvre l'algorithme Metropolis-Hastings pour générer les valeurs distribuées comme , et il a été suggéré d'utiliser une normale variée de 3 comme distribution de proposition. En lisant quelques exemples, j'ai vu que certains utilisent alors une normale avec des paramètres fixes et certains utilisent une variable moyenne , où est la dernière valeur acceptée comme distribué selon . J'ai des doutes sur les deux approches:$f$$f$$N(\mu, \sigma)$$N(X, \sigma)$$X$$f$

1) Quel est le sens du choix de la dernière valeur acceptée comme nouvelle moyenne de la distribution de notre proposition? Mon intuition dit que cela devrait garantir que nos valeurs seront plus proches des valeurs distribuées comme et les chances d'acceptation seraient plus grandes. Mais ne concentre-t-il pas trop notre échantillon? Est-il garanti que si j'obtiens plus d'échantillons, la chaîne deviendra stationnaire?$f$

2) Le choix de paramètres fixes (puisque le est vraiment difficile à analyser) ne serait-il pas vraiment difficile et dépendant du premier échantillon que nous devons choisir pour démarrer l'algorithme? Dans ce cas, quelle serait la meilleure approche pour trouver laquelle est la meilleure?$f$

L'une de ces approches est-elle meilleure que l'autre ou cela dépend du cas?

J'espère que mes doutes sont clairs et je serais heureux si de la littérature pouvait être donnée (j'ai lu quelques articles sur le thème, mais plus c'est mieux!)

Merci d'avance!

1) Vous pouvez considérer cette méthode comme une approche de marche aléatoire. Lorsque la distribution de la proposition , elle est communément appelée algorithme de métropole. Si est trop petit, vous aurez un taux d'acceptation élevé et explorerez très lentement la distribution cible. En fait, si est trop petit et que la distribution est multimodale, l'échantillonneur peut rester bloqué dans un mode particulier et ne pourra pas explorer complètement la distribution cible. En revanche, si est trop grand, le taux d'acceptation sera trop faible. Puisque vous avez trois dimensions, la distribution de votre proposition aurait une matrice de covariance$x \mid x^t \sim N( x^t, \sigma^2)$$\sigma^2$$\sigma^2$$\sigma^2$$\Sigma$ce qui nécessitera probablement des variances et des covariances différentes pour chaque dimension. Le choix d'un approprié peut être difficile.$\Sigma$

2) Si la distribution de votre proposition est toujours , il s'agit de l'algorithme indépendant de Metropolis-Hastings puisque votre distribution de proposition ne dépend pas de votre échantillon actuel. Cette méthode fonctionne mieux si la distribution de votre proposition est une bonne approximation de la distribution cible à partir de laquelle vous souhaitez échantillonner. Vous avez raison, il peut être difficile de choisir une bonne approximation normale.$N(\mu, \sigma^2)$

Le succès de l'une ou l'autre méthode ne devrait pas dépendre de la valeur de départ de l'échantillonneur. Peu importe où vous commencez, la chaîne de Markov devrait finalement converger vers la distribution cible. Pour vérifier la convergence, vous pouvez exécuter plusieurs chaînes à partir de différents points de départ et effectuer un diagnostic de convergence tel que le diagnostic de convergence Gelman-Rubin.