Probabilité conditionnelle d'une variable continue

Supposons que la variable aléatoire suit une distribution uniforme continue avec les paramètres 0 et 10 (c'est-à-dire ) $U$ $U \sim \rm{U}(0,10)$

Désignons maintenant A l'événement où = 5 et B l'événement où est égal à ou 6. Selon ma compréhension, les deux événements ont une probabilité nulle de se produire. $U$ $U$ $5$

Maintenant, si nous considérons calculer , nous ne pouvons pas utiliser la loi conditionnelle $P(A|B)$ , carest égal à zéro. Cependant, mon intuition me dit que. $P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}}$ $P(B)$ $P(A|B) = 1/2$

conditional-probability continuous-data uniform

— Noob
source

Que vous dirait votre intuition si

avait une densité non uniforme de

U

$U$

0.02 u, u \in (0, 10)

$0.02u, u \in (0,10)$

— Dilip Sarwate

@DilipSarwate Mon intuition me dirait que la réponse est un nombre légèrement inférieur à 0,5

— Noob

Réponses:

"Le concept d'une probabilité conditionnelle par rapport à une hypothèse isolée dont la probabilité est égale à 0 est inadmissible." A. Kolmogorov

Pour les variables aléatoires continues, et disent, les distributions conditionnelles sont définies par la propriété qu'elles récupèrent la mesure de probabilité d'origine, c'est-à-dire pour tous les ensembles mesurables , , $X$ $Y$ $A\in\mathcal{B}(\mathbf{X})$ $B\in\mathcal{B}(\mathbf{Y})$ Cela implique que la densité conditionnelle est définie arbitrairement sur des ensembles de mesure zéro ou, en d'autres termes, que la densité conditionnelle est définipresque partout. Puisque l'ensemble est de mesure zéro par rapport à la mesure de Lebesgue, cela signifie que vous pouvez définir à la fois et de manière absolument arbitraire et donc que la probabilité

P (X \in A, Y \in B) = \int_{B} d P_{Y} (y) \int_{B} d P_{X | Y} (x | y)

$\mathbb{P}(X\in A,Y\in B)=\int_B \text{d}P_Y(y) \int_B \text{d}P_{X|Y}(x|y)$

p_{X | Y} (x | y)

$p_{X|Y}(x|y)$

{5, 6}

$\{5,6\}$

p (5)

$p(5)$

p (6)

$p(6)$

peut prendre n'importe quelle valeur.

P (U = 5 | U \in {5, 6})

$\mathbb{P}(U=5|U\in\{5,6\})$

Cela ne signifie pas que vous ne pouvez pas définir une densité conditionnelle par la formule de rapport comme dans le cas normal bivarié mais simplement que la densité n'est définie presque partout que pour les deux et .

f (y | x) = f (x, y) / f (x)

$f(y|x)=f(x,y)\big/f(x)$

x

$x$

y

$y$

"De nombreux arguments assez futiles ont fait rage - entre probabilistes autrement compétents - sur lequel de ces résultats est" correct "." ET Jaynes

Le fait que l'argument limitant (lorsque passe à zéro) dans la réponse ci-dessus semble donner une réponse naturelle et intuitive est lié au paradoxe de Borel . Le choix du paramétrage dans les matières limites, comme le montre l'exemple suivant que j'utilise dans mes cours de premier cycle. $\epsilon$

Prenez la normale bivariée Quelle est la densité conditionnelle de étant donné que ?

X, Oui \overset{iid}{\sim} N (0, 1)

$X,Y\stackrel{\text{i.i.d.}}{\sim}\mathcal{N}(0,1)$ $X$ $X=Y$

Si l'on part de la densité conjointe , la réponse "intuitive" est [proportionnelle à] . Ceci peut être obtenu en considérant le changement de variable où a la densité $\varphi(x)\varphi(y)$ $\varphi(x)^2$

(X, t) = (X, y - X) \sim φ (X) φ (t + X)

$(x,t)=(x,y-x) \sim \varphi(x)\varphi(t+x)$

T = Y - X

$T=Y-X$

. Donc

φ (t / \sqrt{2}) / \sqrt{2}

$\varphi(t/\sqrt{2})/\sqrt{2}$

F (X | t) = \frac{φ (X) φ (t + X)}{φ (t / \sqrt{2}) / \sqrt{2}}

$f(x|t)=\dfrac{\varphi(x)\varphi(t+x)}{\varphi(t/\sqrt{2})/\sqrt{2}}$

Cependant, si l'on considère plutôt le changement de variable

étant donné que

est

F (X | t = 0) = \frac{φ (X) φ (X)}{φ (0 / \sqrt{2}) / \sqrt{2}} = φ (X)^{2} \sqrt{2}

$f(x|t=0)=\dfrac{\varphi(x)\varphi(x)}{\varphi(0/\sqrt{2})/\sqrt{2}}=\varphi(x)^2\sqrt{2}$

la densité marginale de

est la densité de Cauchy

et la densité conditionnelle de

(X, r) = (X, y / X) \sim φ (X) φ (r X) | X |

$(x,r)=(x,y/x) \sim \varphi(x)\varphi(rx)|x|$

R = Y / X

$R=Y/X$

ψ (r) = 1 / π {1 + r^{2}}

$\psi(r)=1/\pi\{1+r^2\}$

X

$X$

R

$R$

Par conséquent,

F (X | r) = φ (X) φ (r X) | X | \times π {1 + r^{2}}

$f(x|r)=\varphi(x)\varphi(rx)|x| \times \pi \{1+r^2\}$

Et là réside le « paradoxe »: les événements

sont les mêmes que

, mais elles conduisent à différentes densités conditionnelles sur

F (X | r = 1) = π φ (X)^{2} | X | / 2 .

$f(x|r=1)= \pi\varphi(x)^2|x|/2\,.$

R = 1

$R=1$

T = 0

$T=0$

X = Y

$X=Y$

X

$X$

— Xi'an
source

Ceci est tout simplement faux. Si vous suivez un cours rigoureux de théorie des probabilités, vous verrez que le conditionnement sur des événements de mesure zéro est possible et pratique. Prenons un gaussien bitivarié. Tout le monde sait que vous pouvez conditionner la première variable à prendre la valeur zéro, bien que cet événement ait une probabilité nulle. Voir wikipedia. en.wikipedia.org/wiki/…

— Yair Daon

Voici une réponse controversée:

Xi'an a raison de dire que vous ne pouvez pas conditionner des événements avec une probabilité nulle. Cependant, Yair a également raison de dire qu'une fois que vous avez décidé d'un processus limitant , vous pouvez évaluer une probabilité. Le problème est qu'il existe de nombreux processus limitatifs qui arrivent à la condition souhaitée.

$(1, 11)$ $p$ $1-p$

Notez que de nombreux statisticiens n'acceptent pas le principe d'indifférence. Je l'aime parce qu'elle reflète mes intuitions. Bien que je ne sache pas toujours comment l'appliquer, peut-être que dans 50 ans, ce sera plus courant?

— Neil G
source

[0, 10]

$[0,10]$

5

$5$

0

$0$

6

$6$

\sqrt{1 - \frac{2}{\sqrt{5}}}

$\sqrt{1-\frac{2}{\sqrt{5}}}$

@whuber: L'argument flipping ne fonctionnerait pas pour une distribution Cauchy, à moins que vous n'ayez inversé son mode.

— Neil G

Bien sûr: il existe de nombreuses façons de transformer une distribution continue en une autre qui permute deux valeurs. En fait, votre "retournement" n'a même pas conservé la distribution d'origine. (Cela a complètement changé son support.) Il semblerait donc que tout ce que vous faites est de remplacer une distribution par une autre. Aucun principe ne semble fonctionner ici.

— whuber

@whuber: il a remplacé une distribution par une autre où les régions uniformes autour des 5 et 6 étaient inchangées - de la même manière, je pense que le zoom arrière essaie de laisser les densités inchangées dans les cercles d'origine dans le paradoxe de Bertrand .

— Neil G

@whuber: Vous avez raison. J'ai vraiment aimé la réponse de Potato à l'une de mes questions. Je pense personnellement qu'en cas de divergence entre la théorie et l'intuition, nous devrions rechercher de nouvelles théories plus complètes. Peut-être que le "principe d'indifférence" n'est pas tout à fait juste, ou n'est généralement pas réalisable, mais j'ai un désir naturel pour la théorie des probabilités de répondre à des questions pour lesquelles nous avons une compréhension intuitive. Peut-être que Lebesgue avait le même genre d'angoisse à propos de l'intégration de Riemann lorsqu'il a créé son intégrale?

— Neil G

$A = [5 - \frac{\epsilon}{2} , 5 + \frac{\epsilon}{2}]$ $B = [5 - \frac{\epsilon}{4} , 5 + \frac{\epsilon}{4}] \cup [6 - \frac{\epsilon}{4} , 6 + \frac{\epsilon}{4}]$ $\epsilon \to 0$

Permettez-moi de souligner à nouveau (et encore) que la méthode ci-dessus est utilisée pour l'intuition. Le conditionnement sur des événements de probabilité nulle se fait très souvent sans trop réfléchir. Le meilleur exemple auquel je peux penser est si $(X_1, X_2) \sim \mathcal{N}(0, \Sigma)$ $X_1$ $X_2 = 0$ $P(\xi = a) = 0$

Donc, oui, vous pouvez donner un sens au conditionnement sur des événements de mesure zéro.

— Yair Daon
source

U \sim U [0, 10]

$U\sim \text{U}[0,10]$

0

$0$

10

$10$

A = {0}

$A=\{0\}$

B = {0, 6}

$B=\{0,6\}$

P (A | B) = 1 / 2

$P(A|B)=1/2$

[0, 10]

$[0,10]$

1 / 3

$1/3$

5

$5$

0

$0$

0

$0$

ε

$\varepsilon$

P (A | B) = \frac{P (A \cap B)}{P (B)} = \frac{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u}{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u + \int_{6 - \frac{ε}{4}}^{6 + \frac{ε}{4}} f (u) d u} = \frac{\frac{ε}{2}}{\frac{ε}{2} + \frac{ε}{2}} = 0.5

$P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}} = \frac{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} }}{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} + \int\limits_{6 - \frac{\varepsilon }{4}}^{6 + \frac{\varepsilon }{4}} {f\left( u \right)du} }} = \frac{{\frac{\varepsilon }{2}}}{{\frac{\varepsilon }{2} + \frac{\varepsilon }{2}}} = 0.5$

[5 - \frac{ε}{8}, 5 + \frac{ε}{8}]

$\left[ {5 - \frac{\varepsilon }{8},5 + \frac{\varepsilon }{8}} \right]$

\frac{1}{8}

${\frac{1}{8}}$

C'est excellent pour l'intuition en montrant qu'il n'y a pas de réponse unique: c'est la base de la déclaration de Kolmogorov citée par @ Xi'an. Le fait que vous ayez dû modifier votre procédure pour faire sortir les choses comme vous le pensiez devrait vous alerter sur les problèmes de cette approche.

— whuber

X_{2}

$X_2$

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} = 0

$X_1=0$