Quelle est la différence entre un réseau Bayes (dynamique) et un HMM?

J'ai lu que les HMM, les filtres à particules et les filtres de Kalman sont des cas particuliers de réseaux Bayes dynamiques. Cependant, je ne connais que les HMM et je ne vois pas la différence avec les réseaux Bayes dynamiques.

Quelqu'un pourrait-il expliquer?

Ce serait bien si votre réponse pouvait être similaire à la suivante, mais pour Bayes Networks:

Modèles de Markov cachés

Un modèle de Markov caché (HMM) est un 5 × tuple $\lambda = (S, O, A, B, \Pi)$ :

• $S \neq \emptyset$ : un ensemble d'états (par exemple "début du phonème", "milieu du phonème", "fin du phonème")
• $O \neq \emptyset$ : un ensemble d'observations possibles (signaux audio)
• $A \in \mathbb{R}^{|S| \times |S|}$ : Une matrice stochastique qui donne des probabilités pour passer de l'état à l'état .$(a_{ij})$$i$$j$
• $B \in \mathbb{R}^{|S| \times |O|}$ : Une matrice stochastique qui donne des probabilités $(b_{kl})$ pour obtenir dans l'état $k$ l'observation $l$ .
• $\Pi \in \mathbb{R}^{|S|}$ : Distribution initiale pour commencer dans l'un des états.

Il est généralement affiché sous forme de graphe orienté, où chaque nœud correspond à un état et les probabilités de transition sont indiquées sur les bords.$s \in S$

Les modèles de Markov cachés sont appelés "cachés", car l'état actuel est masqué. Les algorithmes doivent le deviner à partir des observations et du modèle lui-même. Ils sont appelés "Markov", car pour l'état suivant, seul l'état actuel compte.

Pour les HMM, vous donnez une topologie fixe (nombre d'états, arêtes possibles). Ensuite, il y a 3 tâches possibles

• Évaluation : étant donné un HMM , quelle est la probabilité d'obtenir des observations (algorithme Forward)$\lambda$$o_1, \dots, o_t$
• Décodage : étant donné un HMM et une observation , quelle est la séquence d'états la plus probable (algorithme de Viterbi)$\lambda$$o_1, \dots, o_t$$s_1, \dots, s_t$
• Apprentissage : apprendre : algorithme de Baum-Welch , qui est un cas particulier de maximisation des attentes.$A, B, \Pi$

Réseaux Bayes

Les réseaux bayésiens sont des graphes acycliques dirigés (DAG) . Les nœuds représentent des variables aléatoires . Pour chaque , il existe une distribution de probabilité qui est conditionnée aux parents de :$G = (\mathcal{X}, \mathcal{E})$$X \in \mathcal{X}$$X$$X$

Il semble y avoir (veuillez préciser) deux tâches:

• Inférence : Étant donné certaines variables, obtenez les valeurs les plus probables des autres variables. L'inférence exacte est NP-difficile. Vous pouvez approximativement utiliser MCMC.

• Apprentissage : La façon dont vous apprenez ces distributions dépend du problème exact ( source ):

  • structure connue, entièrement observable: estimation du maximum de vraisemblance (MLE)
  • structure connue, partiellement observable: maximisation des attentes (EM) ou chaîne de Markov Monte Carlo (MCMC)
  • structure inconnue, entièrement observable: recherche dans l'espace modèle
  • structure inconnue, partiellement observable: recherche EM + dans l'espace modèle

Réseaux Bayes dynamiques

Je suppose que les réseaux dynamiques Bayes (DBN) sont également des modèles graphiques probabilistes dirigés. La variabilité semble provenir de l'évolution du réseau au fil du temps. Cependant, il me semble que cela équivaut à ne copier que le même réseau et à connecter chaque nœud à l'instant avec chaque nœud correspondant à l'instant . Est-ce le cas?$t$$t+1$

D'une question de validation croisée similaire suit la réponse de @jerad :

Les HMM ne sont pas équivalents aux DBN, ils constituent plutôt un cas particulier des DBN dans lesquels l'état du monde entier est représenté par une seule variable d'état cachée. D'autres modèles dans le cadre DBN généralisent le HMM de base, permettant plus de variables d'état cachées (voir le deuxième article ci-dessus pour les nombreuses variétés).

Enfin, non, les DBN ne sont pas toujours discrets. Par exemple, les modèles d'état gaussiens linéaires (filtres de Kalman) peuvent être conçus comme des HMM à valeur continue, souvent utilisés pour suivre des objets dans l'espace.

Je recommanderais de parcourir ces deux excellents articles de synthèse:

• Une introduction aux modèles de Markov cachés et aux réseaux bayésiens par Zoubin Gharamani
• Réseaux bayésiens dynamiques par Kevin Murphy