Comment la bêta antérieure affecte-t-elle la partie postérieure sous une probabilité binomiale

J'ai deux questions,

Question 1: Comment puis-je montrer que la distribution postérieure est une distribution bêta si la probabilité est binomiale et l'a priori est une bêta

Question 2: Comment les choix des paramètres antérieurs affectent-ils le postérieur? Ne devraient-ils pas tous être les mêmes?

Est-il possible de répondre à ces questions en R?

Pour répondre à votre première question, nous avons juste besoin d'utiliser le théorème de Bayes pour mettre à jour notre vraisemblance binomiale avec la version bêta précédente. Pour mieux comprendre comment procéder, observez d'abord le résultat suivant où nous pouvons utiliser le résultat de proportionnalité puisque la distribution bêta est l'a priori conjugué pour la vraisemblance binomiale.

$$p(\theta|\mathbf{x})=\frac{p(\mathbf{x}|\theta)p(\theta)}{\int_{\Theta}p(\mathbf{x}|\theta)p(\theta)d\theta}\propto p(\mathbf{x}|\theta)p(\theta)$$

Maintenant, laissez et . Nous pouvons maintenant utiliser le théorème de Bayes pour calculer le postérieur comme suit:$x_i\sim\text{Binomial}(N_i,\theta)$$\theta\sim\text{Beta}(\alpha,\beta)$

$$\begin{align} p(\theta|\mathbf{x})&\propto p(\mathbf{x}|\theta)p(\theta)\\ &\\ &\propto \binom{N}{x_i}\theta^{s}(1-\theta)^{N-s}\frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}\theta^{\alpha-1}(1-\theta)^{\beta-1}\\ &\\ &\propto \theta^{s}(1-\theta)^{N-s}\theta^{\alpha-1}(1-\theta)^{\beta-1}\\ &\\ &\propto\theta^{\alpha+s-1}(1-\theta)^{\beta+N-s-1} \end{align}$$ où et$s=\sum_{i=1}^nx_i$$N=\sum_{i=1}^nN_i$

Maintenant, nous reconnaissons le côté droit proportionnel de l'équation comme le noyau d'une autre distribution bêta avec des paramètres mis à jour et

$$\alpha^*=\alpha+\sum_{i=1}^nx_i$$ $$\beta^*=\beta+\sum_{i=1}^nN_i-\sum_{i=1}^nx_i$$

Maintenant, pour la deuxième partie de votre problème, considérez les graphiques suivants des postérieurs étant donné les différentes distributions antérieures.

Le tracé ci-dessus est de cinq distributions antérieures différentes:

$$\begin{align*} \text{Prior }1&:\,\,\theta\sim\text{Beta}(.5,.5)\\ \text{Prior }1&:\,\,\theta\sim\text{Beta}(5,1)\\ \text{Prior }1&:\,\,\theta\sim\text{Beta}(1,3)\\ \text{Prior }1&:\,\,\theta\sim\text{Beta}(2,2)\\ \text{Prior }1&:\,\,\theta\sim\text{Beta}(2,5) \end{align*}$$

Or, bien que la distribution postérieure ne semble pas beaucoup modifiée par le choix du prieur dans cette situation, ce n'est pas toujours le cas. Par exemple, si nous avions échantillonné à partir d'une distribution binomiale (dans le code) où nous verrions que la distribution postérieure est radicalement modifiée par le choix de la distribution précédente.$N=2$

Voici le Rcode utilisé pour tout générer:

colors = c("red","blue","green","orange","purple")

n = 10
N = 10
theta = .2

x = rbinom(n,N,theta)
grid = seq(0,2,.01)


alpha = c(.5,5,1,2,2)
beta = c(.5,1,3,2,5)

plot(grid,grid,type="n",xlim=c(0,1),ylim=c(0,4),xlab="",ylab="Prior Density",
     main="Prior Distributions", las=1)
for(i in 1:length(alpha)){
    prior = dbeta(grid,alpha[i],beta[i])
    lines(grid,prior,col=colors[i],lwd=2)
}

legend("topleft", legend=c("Beta(0.5,0.5)", "Beta(5,1)", "Beta(1,3)", "Beta(2,2)", "Beta(2,5)"),
       lwd=rep(2,5), col=colors, bty="n", ncol=3)

for(i in 1:length(alpha)){
    dev.new()
    plot(grid,grid,,type="n",xlim=c(0,1),ylim=c(0,10),xlab="",ylab="Density",xaxs="i",yaxs="i",
    main="Prior and Posterior Distribution")

    alpha.star = alpha[i] + sum(x)
    beta.star = beta[i] + n*N - sum(x)
    prior = dbeta(grid,alpha[i],beta[i])
    post = dbeta(grid,alpha.star,beta.star)

    lines(grid,post,lwd=2)
    lines(grid,prior,col=colors[i],lwd=2)
    legend("topright",c("Prior","Posterior"),col=c(colors[i],"black"),lwd=2)

}