J'ai entendu dire que les ratios ou les inverses de variables aléatoires sont souvent problématiques, car ils n'ont pas d'attentes. Pourquoi donc?

25

Le titre est la question. On me dit que les ratios et les inverses de variables aléatoires sont souvent problématiques. Cela signifie que les attentes n'existent souvent pas. Y a-t-il une explication simple et générale à cela?

— kjetil b halvorsen
source

25

Je voudrais offrir une explication très simple et intuitive. Cela revient à regarder une photo: le reste de ce post explique la photo et en tire des conclusions.

Voici à quoi cela se résume: quand il y a une "masse de probabilité" concentrée près de , il y aura trop de probabilité près de , ce qui rend son attente indéfinie. $X=0$ $1/X\approx \pm \infty$

Au lieu d'être entièrement général, concentrons-nous sur les variables aléatoires qui ont des densités continues dans un voisinage de . Supposons que . Visuellement, ces conditions signifient que le graphique de se situe au-dessus de l'axe autour de : $X$ $f_X$ $0$ $f_X(0)\ne 0$ $f$ $0$

La continuité de autour de implique que pour toute hauteur positive inférieure à et suffisamment petite , nous pouvons tailler un rectangle sous ce graphique qui est centré autour de , a une largeur et une hauteur , comme indiqué. Cela correspond à l'expression de la distribution d'origine comme un mélange d'une distribution uniforme (avec un poids ) et tout ce qui reste. $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

En d'autres termes, nous pouvons penser à comme résultant de la manière suivante: $X$

Avec la probabilité , tracez une valeur à partir d'une distribution uniforme . $2p\epsilon$ $(-\epsilon,\epsilon)$
Sinon, tirez une valeur de la distribution dont la densité est proportionnelle à . (Il s'agit de la fonction dessinée en jaune à droite.) $f_X - p I_{(-\epsilon,\epsilon)}$

( est la fonction d'indicateur.) $I$

L'étape montre que pour tout , la probabilité que soit compris entre et dépasse . De manière équivalente, c'est la chance que dépasse . En d'autres termes: écrire pour la fonction de survivant de $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

l'image montre pour tous les . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Nous avons terminé maintenant, car ce fait concernant implique que l'attente n'est pas définie. $S$ Comparez les intégrales impliquées dans le calcul de l'espérance de la partie positive de , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} \log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Il s'agit d'un argument purement géométrique: chaque intégrale représente une région bidimensionnelle identifiable et toutes les inégalités proviennent d'inclusions strictes au sein de ces régions. En effet, nous n'avons même pas besoin de savoir que l'intégrale finale est un logarithme: il existe des géométries simples arguments montrant cette intégrale diverge.)

Puisque le côté droit diverge en tant que , diverge également. La situation avec la partie négative de est la même (car le rectangle est centré autour de ), et le même argument montre l'attente de la partie négative de diverge. Par conséquent, l'attente de lui-même n'est pas définie. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Soit dit en passant, le même argument montre que lorsque a une probabilité concentrée sur un côté de , comme toute distribution exponentielle ou gamma (avec un paramètre de forme inférieur à ), alors l'attente positive diverge, mais l'espérance négative est nulle. Dans ce cas, l'attente est définie, mais elle est infinie. $X$ $0$ $1$

— whuber
source

3

Ai-je raison de soupçonner que l'hypothèse est cruciale pour le résultat? Je veux dire, nous avons des cas où a des moments au moins pour une certaine gamme de paramètres impliqués, et il semble que ce soit dans les cas où , comme Gamma / Inverse-Gamma

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

f_{X} (0) = 0

$f_X(0) = 0$

— Alecos Papadopoulos

3

@Alecos Non, cette hypothèse n'est pas cruciale. Cela et la continuité de à rendent l'argument simple, mais aucun n'est essentiel. Considérons un avec une densité proportionnelle à pour et . Ceci est continu à mais n'a aucune attente.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— whuber

15

Les rapports et les inverses sont principalement significatifs avec des variables aléatoires non négatives, donc je vais supposer presque sûrement. Ensuite, si est une variable discrète qui prend la valeur zéro avec une probabilité positive, nous diviserons avec zéro avec une probabilité positive, ce qui explique pourquoi l'espérance de n'existera pas. $X \ge 0$ $X$ $1/X$

Regardons maintenant le cas de la distribution continue, avec une variable aléatoire avec la fonction de densité . Nous supposerons que et que est continu (au moins à zéro). Ensuite, il y a un tel que pour . La valeur attendue de est donnée par maintenant la variable d'intégration en , nous avons , obtention $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$ Maintenant, par hypothèse sur donc sur , en utilisant ceci nous avons montrant que l'attente n'existe pas. Un exemple remplissant cette hypothèse est la distribution exponentielle avec le taux 1.

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

Nous avons donné une réponse pour les inverses, qu'en est-il des ratios? Soit le rapport de deux variables aléatoires non négatives. S'ils sont indépendants, nous pouvons écrire donc cela se réduit à peu près au premier cas et il n'y a pas grand chose de nouveau à dire . Et s'ils sont dépendants, avec une factorisation de densité conjointe comme Ensuite, nous obtenons (en utilisant la même substitution que ci-dessus) et nous pouvons raisonner comme ci-dessus sur l'intégrale intérieure. Le résultat sera que si la densité conditionnelle (étant donné $Z=Y/X$

E Z = E \frac{Y}{X} = E Y \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$

f (x, y) = f (x ∣ y) g (y)

$f(x,y) = f(x \mid y) g(y)$

E \frac{Y}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x g (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u g (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$

y

$y$ ) est positive et continue à zéro, pour un ensemble de à probabilité marginale positive, l'espérance sera infinie. Je suppose qu'il ne sera pas facile de trouver des exemples où l'espérance marginale de est infinie, mais l'espérance du rapport est finie, sauf s'il existe une corrélation parfaite. Ce serait bien de voir de tels exemples!

y

$y$

1 / X

$1/X$

Y / X

$Y/X$

— kjetil b halvorsen
source