Avec quelle probabilité une pièce est-elle meilleure que l'autre?

Disons que nous avons deux pièces biaisées C1et que les C2deux ont une probabilité différente de tourner la tête.

Nous jetons des C1 n1fois et obtenons des H1têtes, des C2 n2fois et obtenons des H2têtes. Et nous constatons que le rapport des têtes pour une pièce est plus élevé que l'autre.

Quelle est la probabilité avec laquelle nous pouvons dire qu'une pièce est meilleure que l'autre? (mieux signifie ici une probabilité réelle plus élevée de tourner la tête).

Il est facile de calculer la probabilité de faire cette observation, étant donné que les deux pièces sont égales. Cela peut être fait par le test exact des pêcheurs . Compte tenu de ces observations

$$\begin{array} {r|c|c} &\text{coin }1 &\text{coin }2 \\ \hline \text{heads} &H_1 &H_2\\ \hline \text{tails} &n_1-H_1 &n_2-H_2\\\end{array}$$

la probabilité d'observer ces nombres alors que les pièces sont égales étant donné le nombre d'essais $n_1$, $n_2$ et le nombre total de têtes $H_1+H_2$ est

$$p(H_1, H_2|n_1, n_2, H_1+H_2) = \frac{(H_1+H_2)!(n_1+n_2-H_1-H_2)!n_1!n_2!}{H_1!H_2!(n_1-H_1)!(n_2-H_2)!(n_1+n_2)!}.$$

Mais ce que vous demandez, c'est la probabilité qu'une pièce soit meilleure. Puisque nous discutons de la croyance sur le biais des pièces, nous devons utiliser une approche bayésienne pour calculer le résultat. Veuillez noter que dans l'inférence bayésienne, le terme croyance est modélisé comme probabilité et que les deux termes sont utilisés de manière interchangeable (s. Probabilité bayésienne ). Nous appelons la probabilité que la pièce$i$ lance des têtes $p_i$. La distribution postérieure après observation, pour cette$p_i$est donné par le théorème de Bayes :

$$f(p_i|H_i,n_i)= \frac{f(H_i|p_i,n_i)f(p_i)}{f(n_i,H_i)}$$ La fonction de densité de probabilité (pdf) $f(H_i|p_i,n_i)$est donnée par la probabilité binomiale, car les essais individuels sont des expériences de Bernoulli: je suppose la connaissance antérieure sur est que pourrait se situer n'importe où entre et avec une probabilité égale, d'où . Le nominateur est donc . $$f(H_i|p_i,n_i) = \binom{n_i}{H_i}p_i^{H_i}(1-p_i)^{n_i-H_i}$$ $f(p_i)$$p_i$$0$$1$$f(p_i) = 1$$f(H_i|p_i,n_i)f(p_i)= f(H_i|p_i,n_i)$

Pour calculer nous utilisons le fait que l'intégrale sur un pdf doit être un . Le dénominateur sera donc un facteur constant pour y parvenir. Il existe un pdf connu qui ne diffère du nominateur que par un facteur constant, qui est la distribution bêta . D'où $f(n_i,H_i)$$\int_0^1f(p|H_i,n_i)\mathrm dp = 1$

$$f(p_i|H_i,n_i) = \frac{1}{B(H_i+1, n_i-H_i+1)}p_i^{H_i}(1-p_i)^{n_i-H_i}.$$

Le pdf de la paire de probabilités de pièces indépendantes est

$$f(p_1,p_2|H_1,n_1,H_2,n_2) = f(p_1|H_1,n_1)f(p_2|H_2,n_2).$$

Maintenant, nous devons l'intégrer dans les cas où afin de savoir comment la pièce est probablement meilleure que la pièce : $p_1>p_2$$1$$2$

$$\begin{align} \mathbb P(p_1>p_2) &= \int_0^1 \int_0^{p‘_1} f(p‘_1,p‘_2|H_1,n_1,H_2,n_2)\mathrm dp‘_2 \mathrm dp‘_1\\ &=\int_0^1 \frac{B(p‘_1;H_2+1,n_2-H_2+1)}{B(H_2+1,n_2-H_2+1)} f(p‘_1|H_1,n_1)\mathrm dp‘_1 \end{align}$$

Je ne peux pas résoudre cette dernière intégrale analytiquement mais on peut la résoudre numériquement avec un ordinateur après avoir branché les chiffres. est la fonction bêta et est la fonction bêta incomplète. Notez que car est une variable continue et jamais exactement la même chose que .$B(\cdot,\cdot)$$B(\cdot;\cdot,\cdot)$$\mathbb P(p_1=p_2) = 0$$p_1$$p_2$

---

Concernant l'hypothèse antérieure sur et ses remarques: Une bonne alternative au modèle est considérée par beaucoup comme une distribution bêta . Cela conduirait à une probabilité finale De cette façon, on pourrait modéliser un fort biais vers les pièces de monnaie régulières de grand mais égal , . Cela reviendrait à lancer la pièce des fois supplémentaires et à recevoir des têtes ce qui équivaudrait à avoir simplement plus de données. est la quantité de lancers que nous n'aurions pas à effectuer$f(p_i)$$Beta(a_i+1,b_i+1)$

$$\mathbb P(p_1>p_2) =\int_0^1 \frac{B(p‘_1;H_2+1+a_2,n_2-H_2+1+b_2)}{B(H_2+1+a_2,n_2-H_2+1+b_2)} f(p‘_1|H_1+a_1,n_1+a_1+b_1)\mathrm dp‘_1.$$ $a_i$$b_i$$a_i+b_i$$a_i$$a_i + b_i$ si nous incluons cela avant.

Le PO a déclaré que les deux pièces étaient toutes deux biaisées à un degré inconnu. J'ai donc compris que toutes les connaissances doivent être déduites des observations. C'est pourquoi j'ai opté pour une méthode non informative avant que la dose ne biaise le résultat, par exemple vers des pièces ordinaires.

Toutes les informations peuvent être transmises sous la forme de par pièce. L'absence d'un a priori informatif signifie seulement que plus d'observations sont nécessaires pour décider quelle pièce est meilleure avec une probabilité élevée.$(H_i, n_i)$

---

Voici le code de R qui fournit une fonction utilisant l'uniforme a priori : P(n1, H1, n2, H2) $=\mathbb P(p_1>p_2)$$f(p_i)=1$

mp <- function(p1, n1, H1, n2, H2) {
    f1 <- pbeta(p1, H2 + 1, n2 - H2 + 1)
    f2 <- dbeta(p1, H1 + 1, n1 - H1 + 1)
    return(f1 * f2)
}

P <- function(n1, H1, n2, H2) {
    return(integrate(mp, 0, 1, n1, H1, n2, H2))
}

Vous pouvez dessiner pour différents résultats expérimentaux et fixer , par exemple avec ce code coupé:$P(p_1>p_2)$$n_1$$n_2$$n_1=n_2=4$

library(lattice)
n1 <- 4
n2 <- 4
heads <- expand.grid(H1 = 0:n1, H2 = 0:n2)
heads$P <- apply(heads, 1, function(H) P(n1, H[1], n2, H[2])$value)
levelplot(P ~ H1 + H2, heads, main = "P(p1 > p2)")

Vous devrez peut-être d' install.packages("lattice")abord.

On peut voir que même avec un a priori uniforme et un petit échantillon, la probabilité ou croire qu'une pièce est meilleure peut devenir assez solide, lorsque et diffèrent suffisamment. Une différence relative encore plus petite est nécessaire si et sont encore plus grands. Voici un graphique pour et :$H_1$$H_2$$n_1$$n_2$$n_1=100$$n_2=200$

---

Martijn Weterings a suggéré de calculer la distribution de probabilité postérieure de la différence entre et . Cela peut être fait en intégrant le pdf de la paire sur l'ensemble : $p_1$$p_2$$S(d)=\{(p_1,p_2)\in[0,1]^2|d=|p_1-p_2|\}$

$$\begin{align} f(d|H_1,n_1,H_2,n_2) &= \int_{S(d)}f(p_1,p_2|H_1,n_1,H_2,n_2) \mathrm d\gamma\\ &= \int_0^{1-d} f(p,p+d|H_1,n_1,H_2,n_2) \mathrm dp + \int_d^1 f(p,p-d|H_1,n_1,H_2,n_2) \mathrm dp\\ \end{align}$$

Encore une fois, pas une intégrale que je peux résoudre analytiquement mais le code R serait:

d1 <- function(p, d, n1, H1, n2, H2) {
    f1 <- dbeta(p, H1 + 1, n1 - H1 + 1)
    f2 <- dbeta(p + d, H2 + 1, n2 - H2 + 1)
    return(f1 * f2)
}

d2 <- function(p, d, n1, H1, n2, H2) {
    f1 <- dbeta(p, H1 + 1, n1 - H1 + 1)
    f2 <- dbeta(p - d, H2 + 1, n2 - H2 + 1)
    return(f1 * f2)
}

fd <- function(d, n1, H1, n2, H2) {
    if (d==1) return(0)
    s1 <- integrate(d1, 0, 1-d, d, n1, H1, n2, H2)
    s2 <- integrate(d2, d, 1, d, n1, H1, n2, H2)
    return(s1$value + s2$value)
}

J'ai tracé pour , , et toutes les valeurs de :$f(d|n_1,H_1,n_2,H_2)$$n_1=4$$H_1=3$$n_2=4$$H_2$

n1 <- 4
n2 <- 4
H1 <- 3
d <- seq(0, 1, length = 500)

get_f <- function(H2) sapply(d, fd, n1, H1, n2, H2)
dat <- sapply(0:n2, get_f)

matplot(d, dat, type = "l", ylab = "Density",
        main = "f(d | 4, 3, 4, H2)")
legend("topright", legend = paste("H2 =", 0:n2),
       col = 1:(n2 + 1), pch = "-")

Vous pouvez calculer la probabilité deêtre supérieur à une valeur par . Gardez à l'esprit que la double application de l'intégrale numérique s'accompagne d'une erreur numérique. Par exemple, doit toujours être égal à car prend toujours une valeur comprise entre et . Mais le résultat s'écarte souvent légèrement.$|p_1-p_2|$$d$integrate(fd, d, 1, n1, H1, n2, H2)integrate(fd, 0, 1, n1, H1, n2, H2)$1$$d$$0$$1$

J'ai fait une simulation numérique avec R, probablement vous cherchez une réponse analytique, mais j'ai pensé que cela pourrait être intéressant à partager.

set.seed(123)
# coin 1
N1 = 20
theta1 = 0.7

toss1 <- rbinom(n = N1, size = 1, prob = theta1)

# coin 2
N2 = 25
theta2 = 0.5

toss2 <- rbinom(n = N2, size = 1, prob = theta2)

# frequency
sum(toss1)/N1 # [1] 0.65
sum(toss2)/N2 # [1] 0.52

Dans ce premier code, je simule simplement deux lancers de pièces. Ici, vous pouvez voir bien sûr que cela theta1 > theta2, alors bien sûr la fréquence de H1sera supérieure à H2. Notez les différentes N1, N2tailles.

Voyons ce que nous pouvons faire avec différents thetas. Notez que le code n'est pas optimal. Du tout.

simulation <- function(N1, N2, theta1, theta2, nsim = 100) {
  count1 <- count2 <- 0

  for (i in 1:nsim) {
    toss1 <- rbinom(n = N1, size = 1, prob = theta1)
    toss2 <- rbinom(n = N2, size = 1, prob = theta2)

    if (sum(toss1)/N1 > sum(toss2)/N2) {count1 = count1 + 1} 
    #if (sum(toss1)/N1 < sum(toss2)/N2) {count2 = count2 + 1} 
  }

  count1/nsim

}
set.seed(123)
simulation(20, 25, 0.7, 0.5, 100)
#[1] 0.93

Donc 0,93 est la fréquence (sur 100) où la première pièce avait plus de têtes. Cela semble correct, vu theta1et theta2utilisé.

Voyons voir avec deux vecteurs de thetas.

theta1_v <- seq(from = 0.1, to = 0.9, by = 0.1)
theta2_v <- seq(from = 0.9, to = 0.1, by = -0.1)

res_v <- c()
for (i in 1:length(theta1_v)) {

  res <- simulation(1000, 1500, theta1_v[i], theta2_v[i], 100)
  res_v[i] <- res

}

plot(theta1_v, res_v, type = "l")

N'oubliez pas que ce res_vsont les fréquences où H1 > H2, sur 100 simulations.

Donc, à theta1mesure que les augmentations, la probabilité d' H1être plus élevé augmente, bien sûr.

Je l' ai fait d'autres simulations et il semble que les tailles N1, N2sont moins importants.

Si vous connaissez, Rvous pouvez utiliser ce code pour faire la lumière sur le problème. Je suis conscient que ce n'est pas une analyse complète et qu'elle peut être améliorée.