Interprétation de l'intervalle de prédiction bayésien à 95%

Supposons le modèle de régression bivarié suivant: où est iid pour .

y_{i} = β x_{i} + u_{i},

$y_i = \beta x_i + u_i,$

u_{i}

$u_i$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

i = 1, \dots, n

$i = 1,\ldots, n$

Supposons un a priori non informatif , alors on peut montrer que le pdf postérieur pour est où $p(\beta) \propto \text{constant}$ $\beta$

p (β | y) = (18 π)^{- \frac{1}{2}} {(\sum_{i = 1}^{n} x_{i}^{2})}^{\frac{1}{2}} \exp [- \frac{1}{18} \sum_{i = 1}^{n} x_{i}^{2} (β - \hat{β})^{2}],

$p(\beta|\mathbf{y}) = (18\pi)^{-\frac{1}{2}}\left(\sum_{i=1}^n x_i^2\right)^{\frac{1}{2}} \exp\left[-\frac{1}{18}\sum_{i=1}^n x_i^2 (\beta - \hat{\beta})^2\right],$

\hat{β} = (\sum_{i = 1}^{n} y_{i} x_{i}) / (\sum_{i = 1}^{n} x_{i}^{2}) .

$\hat{\beta} = (\sum_{i=1}^n y_ix_i)/(\sum_{i=1}^n x_i^2).$

Considérons maintenant la valeur de avec une valeur future donnée de , : où est iid , alors nous pouvons montrer que est une densité normale avec espérance et variance Ainsi, la fonction de densité de probabilité postérieure pour , conditionnelle à , est $y$ $x$ $x_{n+1}$

y_{n + 1} = β x_{n + 1} + u_{n + 1},

$y_{n+1} = \beta x_{n+1} + u_{n+1},$

u_{n + 1}

$u_{n+1}$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

p (y_{n + 1} | x_{n + 1}, y) = \int_{β} p (y_{n + 1} | x_{n + 1}, β, y) p (β | y) d β

$p(y_{n+1}|x_{n+1},\mathbf{y}) = \int_{\beta} p(y_{n+1}|x_{n+1}, \beta, \mathbf{y}) p(\beta|\mathbf{y})d\beta$

E [y_{n + 1} | x_{n + 1}, y] = \hat{β} x_{n + 1}, v a r [y_{n + 1} | x_{n + 1}, y] = \frac{9 [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}} .

$E[y_{n+1}|x_{n+1},\mathbf{y}] = \hat{\beta}x_{n+1},\quad {\rm var}[y_{n+1}|x_{n+1},\mathbf{y}] = \frac{9[x_{n+1}^2 + \sum_{i=1}^n x_i^2]}{\sum_{i=1}^n x_i^2}.$

y_{n + 1}

$y_{n+1}$

x_{n + 1}

$x_{n+1}$

\begin{aligned} p (y_{n + 1} | x_{n + 1}, y) = & {(\frac{18 π [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}})}^{- \frac{1}{2}} \\ \times \exp {- \frac{\sum_{i = 1}^{n} x_{i}^{2}}{18 (x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2})} {(y_{n + 1} - \hat{β} x_{n + 1})}^{2}} \end{aligned}

$\begin{align} p(y_{n+1}|x_{n+1},\mathbf{y}) = &\left(\frac{18\pi\left[x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right]}{ \displaystyle{\sum_{i=1}^n x_i^2}}\right)^{-\frac{1}{2}} \\ & \times \exp\left\{-\frac{\displaystyle{\sum_{i=1}^n x_i^2}}{18\left(x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right)}\left(y_{n+1}-\hat{\beta}x_{n+1}\right)^2\right\} \end{align}$

Maintenant la question est: Spécifiez un intervalle de prédiction de 95% pour et interprétez-le soigneusement. Sur quel (s) aspect (s) du processus de génération de données l'intervalle ne parvient-il pas à tenir compte de notre incertitude? $y_{n+1}$

Je ne sais pas trop comment répondre à la question, mais voici ma tentative:

Donc, nous devons essentiellement trouver quelques et tels que $a$ $b$ $P(a < y_{n+1} < b) = \int_{a}^b p(y_{n+1}|x_{n+1}, \mathbf{y}) dy_{n+1} = 95\%$

Nous savons maintenant que où et , d'où: $y_{n+1}|x_{n+1}, \mathbf{y} \sim N(m, v^2)$ $m = E[y_{n+1}|x_{n+1},\mathbf{y}]$ $v^2 = var[y_{n+1}|x_{n+1},\mathbf{y}]$

\frac{y_{n + 1} - m}{v} \sim N (0, 1)

$\frac{y_{n+1}-m}{v} \sim N(0,1)$

P (- 1.96 < \frac{y_{n + 1} - m}{v} < 1.96) = 95 %

$P(-1.96 < \frac{y_{n+1}-m}{v} < 1.96) = 95\%$

P (- 1.96 v + m < y_{n + 1} < 1.96 v + m) = 95 %

$P(-1.96v+m < y_{n+1} < 1.96v+m) = 95\%$

Maintenant, parce que nous conditionnons sur et regardons l'expression de et , nous voyons que et sont des valeurs connues. On peut donc prendre et . c'est-à-dire que nous pouvons sélectionner de nombreuses autres possibilités de et qui donnent une probabilité de ... mais comment cela se rapporte-t-il à la réponse à la partie de la question qui demande quels aspects du processus de génération de données cet intervalle ne prend pas en compte? $x_{n+1}$ $v$ $m$ $v$ $m$ $a = -1.96v+m$ $b = 1.96v+m$ $a$ $b$ $95\%$

— TeTs
source

Veuillez ajouter la balise d'auto-apprentissage s'il s'agit de devoirs ou d'une tentative de problème de manuel.

— Nick Cox

@Nick Cox Merci de m'avoir informé, j'ai ajouté la balise d'auto-apprentissage.

— TeTs

Se pourrait-il que l'intervalle en particulier ne nous donne aucune compréhension de la forme du processus de génération de données? Autrement dit, nous ne connaissons pas la combinaison moyenne / variance uniquement à partir de l'intervalle?

Question étrange. Y a-t-il un contexte avant l'exercice? Pourquoi dites-vous un modèle de régression bivarié ?

— Stéphane Laurent

L'intervalle accueille toute l'incertitude du problème. Dans votre description du problème, les seules choses que vous ne savez pas sont et . L'intervalle de prédiction que vous avez dérivé tient compte de l'incertitude des deux. Il n'y a donc plus d'incertitude quant à l'intervalle de "ne pas tenir compte". $\beta$ $u$

— Tom Minka
source

Il subsiste une incertitude quant à savoir si le modèle est correct ou non.

— Xi'an

Le modèle a été présenté comme une hypothèse. Il n'y a donc aucune incertitude à ce sujet.

— Tom Minka

Je suppose que cela signifie que la distribution prédictive représente toute l'incertitude du problème et que l'intervalle ne résume qu'un aspect de cette distribution. Pourtant, il n'est pas clair qu'en tant qu'intervalle cela laisse de côté.

— conjugateprior