Pourquoi utiliser le graphique des facteurs pour l'inférence bayésienne?

Je ne comprends pas pourquoi la conversion d'un réseau bayésien en un graphique factoriel est bonne pour l'inférence bayésienne?

Mes questions sont:

1. Quel est l'avantage d'utiliser le graphe factoriel dans le raisonnement bayésien?
2. Que se passerait-il si nous ne l'utilisions pas?

Tout exemple concret sera apprécié!

Je vais essayer de répondre à ma propre question.

Message

Une notion très importante de graphe factoriel est le message , qui peut être compris comme A dit quelque chose à propos de B, si le message est transmis de A à B.

Dans le contexte du modèle probabiliste, message du facteur $f$ à variable $x$ peut être noté comme $\mu_{f \to x}$, qui peut être compris comme $f$ sait quelque chose (distribution de probabilité dans ce cas) et lui dit de $x$.

Factor résume les messages

Dans le contexte «factoriel», pour connaître la distribution de probabilité d'une variable, il faut que tous les messages soient prêts à partir de ses facteurs voisins, puis résumer tous les messages pour dériver la distribution.

Par exemple, dans le graphique suivant, les bords, $x_i$, sont des variables et des nœuds, $f_i$, sont des facteurs reliés par des arêtes.

À savoir $P(x_4)$, nous devons connaître $\mu_{f_3 \to x_4}$ et $\mu_{f_4 \to x_4}$ et résumez-les ensemble.

Structure récursive des messages

Alors comment connaître ces deux messages? Par exemple,$\mu_{f_4 \to x_4}$. Il peut être vu comme le message après avoir résumé deux messages,$\mu_{x_5 \to f_4}$ et $\mu_{x_6 \to f_4}$. Et$\mu_{x_6 \to f_4}$ est essentiellement $\mu_{f_6 \to x_6}$, qui peut être calculé à partir d'autres messages.

Il s'agit de la structure récursive des messages, les messages peuvent être définis par des messages .

La récursivité est une bonne chose, une pour une meilleure compréhension, une pour une mise en œuvre plus facile du programme informatique.

Conclusion

Les avantages des facteurs sont:

1. Factor, qui résume les messages entrants et sort le message sortant, active les messages qui sont essentiels pour le calcul marginal
2. Les facteurs permettent la structure récursive du calcul des messages, ce qui rend le processus de transmission des messages ou de propagation des croyances plus facile à comprendre et peut-être plus facile à mettre en œuvre.

Un réseau bayésien, par définition, est un ensemble de variables aléatoires $\{X_n: P \rightarrow \mathbb{R}\}$ et un graphique $G$ de telle sorte que la fonction de probabilité $P(X_1,...,X_n)$ facteurs comme probabilités conditionnelles d'une manière déterminée par $G$. Voir http://en.wikipedia.org/wiki/Factor_graph .

Plus important encore, les facteurs du réseau bayésien sont de la forme $P(X_i| X_{j_1},..,X_{j_n})$.

Un graphe factoriel, même s'il est plus général, est le même en ce qu'il est un moyen graphique de conserver des informations sur la factorisation de $P(X_1,...,X_n)$ ou toute autre fonction.

La différence est que lorsqu'un réseau bayésien est converti en graphe factoriel, les facteurs du graphe factoriel sont regroupés. Par exemple, un facteur du graphique des facteurs peut être$P(X_i| X_{j_1},..,X_{j_n})P(X_{j_n})P(X_{j_1}) = P(X_i| X_{j_2},..,X_{j_{n-1}})$. Le réseau bayésien d'origine stockait cela comme trois facteurs, mais le graphique des facteurs ne le stockait que comme un seul facteur. En général, le graphique factoriel d'un réseau bayésien garde une trace de moins de factorisations que le réseau bayésien d'origine.