Les MCMC sont-ils sans mémoire?

18

J'essaie de comprendre ce que la chaîne Markov Monte Carlo (MCMC) est de la page Wikipedia française. Ils disent "que les méthodes Monte Carlo de la chaîne de Markov consistent à générer un vecteur uniquement à partir des données vectorielles c'est donc un processus" sans mémoire "" $x_ {i}$ $x_ {i-1}$

Les méthodes de Monte-Carlo par chaînes de Markov cohérentes à générer un vecteur uniquement à partir de la donnée du vecteur ; c'est donc un processus «sans mémoire», $x_{i}$ $x_{{i-1}}$

Je ne comprends pas pourquoi ils disent que MCMC est "sans mémoire" dans la mesure où nous utilisons les informations des données vectorielles pour générer . $x_ {i-1}$ $x_i$

mcmc

— IggyPass
source

3

Parce que vous n'avez à "vous souvenir" de rien du processus, à l'exception du dernier état de la chaîne. Je suppose que vous avez encore besoin de mémoire, mais ce n'est qu'une information.

— user2974951

x_{i - 1}

$x_{i-1}$ n'est pas "mémorisé"; c'est l'entrée explicite.

— chepner

28

La caractéristique qui définit une chaîne de Markov est que la distribution conditionnelle de sa valeur actuelle conditionnelle aux valeurs passées ne dépend que de la valeur précédente . Ainsi, chaque chaîne de Markov est "sans mémoire" dans la mesure où seule la valeur précédente affecte la probabilité conditionnelle actuelle et tous les états précédents sont "oubliés". (Vous avez raison, ce n'est pas complètement sans mémoire - après tout, la distribution conditionnelle de la valeur actuelle dépend de la valeur précédente.) C'est vrai pour MCMC et aussi pour toute autre chaîne de Markov.

— Réintégrer Monica
source

9

Si vous faites un pas en avant, vous pouvez dire que la distribution conditionnelle de ses valeurs futures conditionnelle aux valeurs passées et présentes dépend uniquement de la valeur actuelle et en ce sens, la mémoire du passé n'est pas nécessaire tant que la position actuelle est connue

— Henry

Sauf que vous pouvez toujours ajuster l'espace d'état pour stocker toute quantité finie d'informations sur le passé. Il est toujours markovien de, par exemple, dépendre de vos dix derniers états, car vous pouvez simplement étendre l'espace d'état pour inclure ces informations dans "l'état précédent".

— David Richerby

15

Bien que nous ayons la bonne réponse, je voudrais développer un peu la sémantique intuitive de l'énoncé. Imaginez que nous redéfinissions nos indices de manière à générer le vecteur partir du vecteur . Maintenant, l'instant est métaphoriquement considéré comme "le présent", et tous les vecteurs venant "plus tôt que" sont pas pertinents pour calculer le prochain à l'avenir. $x_{i+1}$ $x_{i}$ $i$ $x_{i}$

Grâce à cette simple renumérotation, il devient «complètement sans mémoire» au sens intuitif - c'est-à-dire, peu importe comment le système de Markov est devenu dans son état actuel . Seul l'état présent détermine les états futurs , sans utiliser aucune information du passé ( $x_{i-n}$ ) états.

Un point peut-être plus subtil: le mot "mémoire" est également utilisé parce que cela signifie également que vous ne pouvez pas déduire des états passés de l'état actuel. Une fois que vous êtes à $x_{i}$ , vous ne savez pas ce qui s'est passé "avant" pendant $x_{i-n}$ . C'est l'opposé des systèmes qui codent la connaissance des états passés dans l'état actuel.

— rumtscho
source

5

Tu te réveilles. Vous n'avez aucune idée de comment vous êtes arrivé là où vous êtes. Vous regardez autour de vous et décidez de la suite des choses uniquement en fonction des informations dont vous disposez à ce moment-là. C'est essentiellement la même situation que ce qui se passe au MCMC.

$x_{i}$ $x_{i-1}$ $x_{i-1}$ $x_{i+1}$ $x_i$

— Dason
source

2

Appelons ça la méthode Hangover

— IggyPass

@ThePassenger Appelez-le comme vous voulez. S'il vous plaît, passez l'aspirine.

— Dason