Calcul de la log-vraisemblance pour un MLE donné (chaînes de Markov)

Je travaille actuellement avec des chaînes de Markov et j'ai calculé l'estimation du maximum de vraisemblance en utilisant les probabilités de transition suggérées par plusieurs sources (c'est-à-dire le nombre de transitions de a vers b divisé par le nombre de transitions globales de a vers d'autres nœuds).

Je veux maintenant calculer la log-vraisemblance du MLE.

maximum-likelihood markov-process likelihood

— fsociety
source

Vous avez déjà calculé l'estimation du maximum de vraisemblance des probabilités de transition et maintenant vous voulez calculer le log-vraisemblance de quoi exactement?

— Nick

Soit un chemin de la chaîne markovienne et soit la probabilité d'observer le chemin lorsque est la vraie valeur du paramètre (alias la fonction de vraisemblance pour ). En utilisant la définition de la probabilité conditionnelle, nous savons $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Puisqu'il s'agit d'une chaîne de Markov, nous savons que , donc ceci simplifie cela pour $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Maintenant, si vous répétez cette même logique fois, vous obtenez $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

où doit être interprété comme l'état initial du processus. Les termes sur le côté droit ne sont que des éléments de la matrice de transition. Étant donné que c'était la probabilité logarithmique que vous avez demandée, la réponse finale est: $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Il s'agit de la probabilité d'une chaîne de Markov unique - si votre ensemble de données comprend plusieurs chaînes de Markov (indépendantes), la probabilité totale sera une somme de termes de ce formulaire.

— Macro
source

Wow, merci beaucoup pour la réponse. Dans ce cas, est la probabilité de "transition" tirée du MLE, non?

P_{θ}

$P_{\theta}$

— fsociety

@ph_singer, vous êtes les bienvenus. est la probabilité de passer de l'état à , étant donné la valeur du paramètre, . Si vous n'avez imposé aucune structure à la matrice de transition (ce à quoi cela ressemble), alors indique simplement le vecteur des probabilités de transition (et les MLE ne sont que les proportions de l'échantillon, comme vous l'avez correctement indiqué dans votre énoncé de question), alors, oui : ne sera que la proportion d'échantillon de mouvements de l'état qui se sont retrouvés dans l'état .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Macro

Merci encore! Une dernière question: si j'utilise une autre commande (par exemple, k = 2), comment ce processus fonctionnerait-il alors?

— fsociety

Pouvez-vous préciser ce que vous entendez par «commander»?

— Macro

(+1) L'OP signifie probablement pour désigner un MC de second ordre , c'est-à-dire, en fonction des deux états précédents plutôt que juste le plus récent .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— cardinal