Pourquoi les mélanges de prieurs conjugués sont importants?

J'ai une question sur le mélange de prieurs conjugués. J'ai appris et dit le mélange de prieurs conjugués à quelques reprises lorsque j'apprends le bayésien. Je me demande pourquoi ce théorème est si important, comment allons-nous l'appliquer lorsque nous faisons une analyse bayésienne.

Pour être plus précis, un théorème de Diaconis et Ylivisaker 1985 a illustré un théorème comme ceci:

Étant donné un modèle d'échantillonnage $p(y|\theta)$ à partir d'une famille exponentielle, toute distribution antérieure peut être approximée par un mélange fini de distributions antérieures conjuguées.

Plus précisément, étant donné $p(\theta)=\int p(\theta|\omega)p(\omega)d\omega$, on peut dériver le postérieur:

$p(\theta|Y)\propto\int p(Y|\theta)p(\theta|\omega)p(\omega)d\omega\propto\int \frac{p(Y|\theta)p(\theta|\omega)}{p(Y|\omega)}p(Y|\omega)p(\omega)d\omega\propto \int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega$

Donc,

$p(\theta|Y)=\frac{\int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega}{\int p(Y|\omega)p(\omega)d\omega}$

Le calcul direct des postérieurs avec des priors généraux / arbitraires peut être une tâche difficile.

En revanche, le calcul des postérieurs avec des mélanges de prieurs conjugués est relativement simple, puisqu'un mélange donné de priors devient le même mélange des postérieurs correspondants.

[Il existe également de nombreux cas où certains antérieurs donnés peuvent être assez bien approximés par un mélange fini de prieurs conjugués - cela permet une approche très facile à appliquer et pratique dans de nombreuses situations, ce qui conduit à des postérieurs approximatifs qui peuvent être rendus assez proches. à l'exact.]

Pour étendre légèrement la réponse de @ Glen_b, une implication est que nous pouvons obtenir une approximation de forme fermée à la partie postérieure quand un a priori non conjugué est utilisé en rapprochant d'abord le a priori non conjugué avec un mélange de prieurs conjugués puis en résolvant directement pour le postérieure de l'approximation.

Cependant, en général, cette méthode semble assez délicate à utiliser. Bien qu'il soit vrai que vous pouvez rendre le mélange antérieur arbitrairement proche du précédent non conjugué, il y aura généralement une erreur dans toute approximation finie. De petites erreurs dans le prieur peuvent facilement se propager à d'énormes erreurs dans le postérieur. Par exemple, si l'a prior est bien approximé sauf sur les queues extrêmes, mais les données fournissent des preuves solides que les valeurs des paramètres sont dans les queues extrêmes, ces erreurs sur les queues extrêmes de l'a priori entraîneront des erreurs dans les régions à forte probabilité de la postérieur.