Démontrer que la distribution d'entropie maximale avec une matrice de covariance fixe est gaussienne

13

J'essaie d'obtenir ma tête autour de la preuve suivante que le gaussien a l'entropie maximale.

En quoi l'étape suivie est-elle logique? Une covariance spécifique ne fixe que le deuxième moment. Qu'arrive-t-il aux troisième, quatrième, cinquième moments, etc.?

entropy information-theory maximum-entropy

— Tarrare
source

13

L'étape étoilée est valide car (a) et ont les mêmes moments zéro et second et (b) est une fonction polynomiale des composantes de dont les termes ont un total de degrés ou . $p$ $q$ $\log(p)$ $\mathbf{x}$ $0$ $2$

Vous devez savoir seulement deux choses sur une distribution normale multivariée avec une moyenne nulle:

est une fonction quadratique de sans termes linéaires. Plus précisément, il existe des constantes et pour lesquelles $\log(p)$ $\mathbf{x}=(x_1,x_2,\ldots,x_n)$ $C$ $p_{ij}$
$\log (p (x)) = C + \sum_{i, j = 1}^{n} p_{i j} x_{i} x_{j} .$ $\log(p(\mathbf{x}))=C + \sum_{i,j=1}^n p_{ij}\, x_i x_j.$
$C$ $p_{ij}$ $\Sigma$
$\Sigma$
$Σ_{i j} = E_{p} (x_{i} x_{j}) = \int p (x) x_{i} x_{j} d x .$ $\Sigma_{ij}=E_p(x_i x_j) = \int p(\mathbf{x})\, x_ix_j\, d\mathbf{x}.$

Nous pouvons utiliser ces informations pour élaborer une intégrale:

\begin{aligned} \int (q (X) - p (X)) Journal (p (X)) ré X \\ = & \int (q (X) - p (X)) (C + \sum_{je, j = 1}^{n} p_{je j} X_{je} X_{j}) ré X . \end{aligned}

$\eqalign{ & &\int(q(\mathbf{x}) - p(\mathbf{x}))\log(p(\mathbf{x}))d\mathbf{x} \\ &= &\int(q(\mathbf{x}) - p(\mathbf{x}))\left(C + \sum_{i,j=1}^n p_{ij}\, x_i x_j\right)d\mathbf{x}. }$

Il se décompose en la somme de deux parties:

$\int(q(x) - p(x))C\, d\mathbf{x} = C\left(\int q(\mathbf{x}) d\mathbf{x} - \int p(\mathbf{x}) d\mathbf{x}\right) = C(1 - 1) = 0$ $q$ $p$
$\int(q(\mathbf{x}) - p(\mathbf{x})) \sum_{i,j=1}^n p_{ij}\, x_i x_jd\mathbf{x} = \sum_{i,j=1}^n p_{ij}\int(q(\mathbf{x}) - p(\mathbf{x}))x_i x_jd\mathbf{x} = 0$ $\int q(\mathbf{x}) x_i x_jd\mathbf{x}$ $\int p(\mathbf{x}) x_i x_jd\mathbf{x}$ $\Sigma_{ij}$

$\int(q(\mathbf{x}) - p(\mathbf{x}))\log(p(\mathbf{x}))d\mathbf{x}=0$ $\int q(\mathbf{x})\log(p(\mathbf{x}))d\mathbf{x} = \int p(\mathbf{x})\log(p(\mathbf{x}))d\mathbf{x}.$

— whuber
source

1

$q(x)$ $p(x)$ $\sigma_{ij}x_ix_j$ $p(x)$ $p(x)$ $q(x)$

— F. Tusell
source