Doutes sur la dérivation des équations de régression du processus gaussien dans un article

Je lis ce papier préimprimé et j'ai des difficultés à suivre leur dérivation des équations pour la régression du processus gaussien. Ils utilisent le réglage et la notation de Rasmussen & Williams . Ainsi, on suppose un additif, de moyenne nulle, stationnaire et normalement distribué avec la variance :$\sigma^2_{noise}$

$$y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise})$$

Un GP avant avec une moyenne nulle est supposé pour , ce qui signifie que , est un vecteur gaussien de moyenne 0 et de matrice de covariance∀ d ∈ N f = { f ( x 1 ) , … , f ( x d ) $f(\mathbf{x})$$\forall \ d\in N$$\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\}$

$$\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) }$$

Désormais, nous supposons que les hyperparamètres sont connus. Alors l'équation (4) du papier est évidente:

$$p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right)$$

Voici les doutes:

1. Équation (5):

   $$p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right)$$

   E [ y | f ] = f ≠ 0 $E[\mathbf{f}]=0$ , mais je suppose que parce que quand je conditionne sur , puis où est un vecteur constant et seulement est aléatoire. Correct?$E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0$$\mathbf{f}$$\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}$$\mathbf{c}$$\boldsymbol{\epsilon}$

2. Quoi qu'il en soit, c'est l'équation (6) qui est plus obscure pour moi:

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})}$$

   Ce n'est pas la forme habituelle du théorème de Bayes. Le théorème de Bayes serait

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f},\mathbf{f^*})}{p(\mathbf{y})}$$

   Je comprends en quelque sorte pourquoi les deux équations sont les mêmes: intuitivement, le vecteur de réponse ne dépend que du vecteur latent correspondant , conditionnant ainsi sur ou sur devrait conduire à la même distribution. Cependant, c'est une intuition, pas une preuve! Pouvez-vous m'aider à montrer pourquoif f ( f , f ∗$\mathbf{y}$$\mathbf{f}$$\mathbf{f}$$(\mathbf{f},\mathbf{f^*})$

   $$p(\mathbf{y}|\mathbf{f},\mathbf{f^*})=p(\mathbf{y}|\mathbf{f})$$

1. Si nous fixons , alors toute incertitude dans vient du bruit. Donc, pour l'équation (5) dans l'article, nous avons que, étant donné nous avons à chaque point un bruit indépendant avec une variance et une moyenne zéro . Nous ajoutons la moyenne initiale et obtenons la réponse.$\mathbf{f}$$\mathbf{y}$$\mathbf{f}$$\sigma_{noise}^2$$0$
2. Une façon de prouver l'égalité suggérée est de trouver la distribution à du côté gauche et du côté droit de la qualité. Tous deux sont gaussiens, pour le côté gauche, nous connaissons déjà la réponse. Pour le côté droit, nous procédons de la même manière. Trouvons la distribution conditionnelle pour . D'après le résultat de la première partie, nous savons: En utilisant des règles de probabilité, il est facile d'intégrer partir de $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = p(\mathbf{y} | \mathbf{f})$$ $(\mathbf{y}, \mathbf{y}^*)$ $$p(\mathbf{y}, \mathbf{y}^* | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}((\mathbf{f}, \mathbf{f}^*), \sigma^2_{noise} I).$$ $\mathbf{y}^*$y y ∗ p ( y | f , f ∗ ) = N ( f , σ 2 n o i s e I ) = p ( y | f ) $(\mathbf{y}, \mathbf{y}^*)$, la matrice de covariance étant diagonale, les vecteurs et sont indépendants. En faisant cela, nous obtenons: $\mathbf{y}$$\mathbf{y}^*$ $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}(\mathbf{f}, \sigma^2_{noise} I) = p(\mathbf{y} | \mathbf{f}).$$