Casse-tête: Quelle est la longueur attendue d'une séquence iid qui augmente de façon monotone lorsqu'elle est tirée d'une distribution uniforme [0,1]?

Il s'agit d'une question d'entrevue pour un poste d'analyste quantitatif, rapportée ici . Supposons que nous dessinons à partir d'une distribution uniforme et que les tirages soient iid, quelle est la longueur attendue d'une distribution augmentant de façon monotone? C'est-à-dire que nous arrêtons de dessiner si le tirage actuel est inférieur ou égal au tirage précédent. $[0,1]$

J'ai obtenu les premiers:

Pr (length = 1) = \int_{0}^{1} \int_{0}^{x_{1}} d x_{2} d x_{1} = 1 / 2

$\Pr(\text{length} = 1) = \int_0^1 \int_0^{x_1} \mathrm{d}x_2\, \mathrm{d}x_1 = 1/2$

Pr (length = 2) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{0}^{x_{2}} d x_{3} d x_{2} d x_{1} = 1 / 3

$\Pr(\text{length} = 2) = \int_0^1 \int_{x_1}^1 \int_0^{x_2} \mathrm{d}x_3 \, \mathrm{d}x_2 \, \mathrm{d}x_1 = 1/3$

Pr (length = 3) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{x_{2}}^{1} \int_{0}^{x_{3}} d x_{4} d x_{3} d x_{2} d x_{1} = 1 / 8

$\Pr(\text{length} = 3) = \int_0^1 \int_{x_1}^1 \int_{x_2}^1 \int_0^{x_3} \mathrm{d}x_4\, \mathrm{d}x_3\, \mathrm{d}x_2\, \mathrm{d}x_1 = 1/8$

mais je trouve le calcul de ces intégrales imbriquées de plus en plus difficile et je n'ai pas le "truc" pour généraliser à $\Pr(\text{length} = n)$ . Je sais que la réponse finale est structurée

E (length) = \sum_{n = 1}^{\infty} n Pr (length = n)

$\mathbb E(\text{length}) = \sum_{n=1}^{\infty}n\Pr(\text{length} = n)$

Des idées sur la façon de répondre à cette question?

— Amazonien
source

Réponses:

Voici quelques conseils généraux pour résoudre cette question:

Vous disposez d'une séquence de variables aléatoires IID continues, ce qui signifie qu'elles sont échangeables . Qu'est-ce que cela implique sur la probabilité d'obtenir un ordre particulier pour les premières $n$ valeurs? Sur cette base, quelle est la probabilité d'obtenir un ordre croissant pour les premières $n$ valeurs? Il est possible de comprendre cela sans intégrer la distribution des variables aléatoires sous-jacentes. Si vous le faites bien, vous pourrez dériver une réponse sans aucune hypothèse d'une distribution uniforme - c'est-à-dire que vous obtenez une réponse qui s'applique à toutes les séquences échangeables de variables aléatoires continues.

Voici la solution complète ( ne regardez pas si vous êtes censé le découvrir vous-même ):

Soit votre séquence de variables aléatoires continues indépendantes, et soit soit le nombre d'éléments croissants au début de la séquence. Comme ce sont des variables aléatoires interchangeables continues, elles sont presque sûrement inégales les unes aux autres, et tout ordre est également probable, nous avons donc: (Notez que ce résultat est valable pour toute séquence IID de variables aléatoires continues; elles n'ont pas besoin d'avoir une distribution uniforme.) Ainsi, la variable aléatoire a une fonction de masse de probabilité $U_1, U_2, U_3, \cdots \sim \text{IID Continuous Dist}$ $N \equiv \max \{ n \in \mathbb{N} | U_1 < U_2 < \cdots < U_n \}$
$P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n}) = \frac{1}{n!} .$ $\mathbb{P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n) = \frac{1}{n!}.$ $N$ $p_{N} (n) = P (N = n) = \frac{1}{n!} - \frac{1}{(n + 1)!} = \frac{n}{(n + 1)!} .$ $p_N(n) = \mathbb{P}(N=n) = \frac{1}{n!} - \frac{1}{(n+1)!} = \frac{n}{(n+1)!}.$ Vous remarquerez que ce résultat correspond aux valeurs que vous avez calculées en utilisant l'intégration sur les valeurs sous-jacentes. (Cette partie n'est pas nécessaire pour la solution; elle est incluse pour être complète.) En utilisant une règle bien connue pour la valeur attendue d'une variable aléatoire non négative , nous avons: Notez encore qu'il n'y a rien dans notre travail qui utilise la distribution uniforme sous-jacente. Il s'agit donc d'un résultat général qui s'applique à toute séquence échangeable de variables aléatoires continues. $E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n) = \sum_{n = 1}^{\infty} \frac{1}{n!} = e - 1 = 1.718282.$ $\mathbb{E}(N) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n) = \sum_{n=1}^\infty \frac{1}{n!} = e - 1 = 1.718282.$

Quelques informations supplémentaires:

D'après les travaux ci-dessus, nous voyons que ce résultat de distribution et la valeur attendue qui en résulte ne dépendent pas de la distribution sous-jacente, tant qu'il s'agit d'une distribution continue. Ce n'est vraiment pas surprenant une fois que nous considérons le fait que chaque variable scalaire aléatoire continue peut être obtenue via une transformation monotone d'une variable aléatoire uniforme (la transformation étant sa fonction quantile). Étant donné que les transformations monotones préservent l'ordre de classement, l'examen des probabilités d'ordonnances de variables aléatoires continues IID arbitraires revient à examiner les probabilités d'ordonnances de variables aléatoires uniformes IID .

— Réintégrer Monica
source

Bien fait! (+1)

— jbowman

@Ben je vous suis jusqu'à la dernière équation ... Je pensais que la valeur attendue devrait être, plutôt que ... pouvez-vous expliquer davantage cette partie?

E (N) = \sum_{n = 1}^{\infty} P (N = n) * n = \sum_{n = 1}^{\infty} n^{2} / (n + 1)!

$E(N)=∑_{n=1}^∞P(N=n)*n=∑_{n=1}^∞ n^2/(n+1)!$

E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n)

$E(N)=∑_{n=1}^∞P(N⩾n)$

— Amazonian

Il s'agit d'une règle bien connue pour la valeur attendue d'une variable aléatoire non négative . En utilisant une technique impliquant l'échange de l'ordre des sommations, vous avez: Vous devriez donc trouver que .

E (N) = \sum_{n = 1}^{\infty} n P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = 1}^{n} P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = n}^{\infty} P (N = k) = \sum_{n = 1}^{\infty} P (N ⩾ n) .

$\mathbb{E}(N) = \sum_{n=1}^\infty n \mathbb{P}(N=n) = \sum_{n=1}^\infty \sum_{k=1}^n \mathbb{P}(N = n) = \sum_{n=1}^\infty \sum_{k=n}^\infty \mathbb{P}(N =k) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n).$

\sum_{n} \frac{1}{n!} = \sum_{n} \frac{n^{2}}{(n + 1)!}

$\sum_n \tfrac{1}{n!} = \sum_n \tfrac{n^2}{(n+1)!}$

— Rétablir Monica le

Pouvez-vous expliquer pourquoi ?

P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n})

${P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n)$

— badmax

@badmax: La variable aléatoire est le nombre d'éléments croissants de au début de la séquence (voir sa définition). Ainsi, si cela signifie qu'il y a au moins éléments croissants au début de la séquence. Cela signifie que les premiers éléments doivent être dans l'ordre croissant, qui est .

N

$N$

U

$U$

N ⩾ n

$N \geqslant n$

n

$n$

n

$n$

U_{1} < U_{2} < \dots < U_{n}

$U_1 < U_2 < \cdots < U_n$

— Rétablir Monica le

Une autre méthode de résolution qui vous apporte la solution pour un cas plus général.

Supposons que soit la longueur attendue d'une séquence monotone , telle que . La valeur que nous voulons calculer est . Et nous savons que . Conditionner sur la valeur suivante, $F(x)$ $\{x_1, x_2, ...\}$ $x\leq x_1\leq x_2\leq\cdots$ $F(0)$ $F(1)=0$

F (x) = \int_{0}^{x} π (y) \cdot 0 d y + \int_{x}^{1} π (y) (1 + F (y)) d y = \int_{x}^{1} 1 + F (y) d y

$F(x) = \int_0^x \pi(y)\cdot 0 dy + \int_x^1\pi(y)(1+F(y))dy= \int_x^1 1+F(y) dy$

où est la densité U [0,1]. Alors $\pi(y)=1$

F^{'} (x) = - (1 + F (x))

$F'(x)=-(1+F(x))$

En résolvant avec la condition aux limites , on obtient . D'où . $F(1)=0$ $F(x) = e^{(1-x)}-1$ $F(0)=e-1$

— jf328
source

C'est très intelligent. Juste pour l'exprimer un peu: vos observations sont que 1) si est la longueur de la plus longue séquence croissante initiale moins un, alors il suffit de déterminer et de définir et 2) est nul si et sinon. Puisque nous obtenons , qui dans le cas uniforme peut être résolu directement.

L

$L$

E (L | X_{0} = x) =: F (x)

$E(L|X_0=x)=:F(x)$

x = 0

$x=0$

E (L | X_{0} = x, X_{1} = y)

$E(L|X_0=x,X_1=y)$

y < x

$y<x$

1 + E (L | X_{0} = y)

$1+E(L|X_0=y)$

E (L | X_{0} = x) = E (E (L | X_{0} = x, X_{1})) = \int_{R} f_{X} (y) E (L | X_{0} = x, X_{1} = y) d y = \int_{x}^{1} f_{X} (y) (1 + E (L | X_{0} = y)) d y = \int_{x}^{1} f_{X} (y) (1 + F (y)) d y

$E(L|X_0=x)=E(E(L|X_0=x,X_1)) = \int_\mathbb{R} f_X(y) E(L|X_0=x, X_1=y) dy = \int_x^1 f_X(y)(1+E(L|X_0=y))dy= \int_x^1 f_X(y)(1+F(y))dy$

F^{'} (x) = - f_{X} (x) (1 + F (x))

$F'(x)=-f_X(x)(1+F(x))$

— Matthew Towers

+1 Très intelligent en effet. Mais comme la réponse finale ne dépend pas de la distribution (comme le dit l'autre réponse), ce calcul ne devrait pas non plus dépendre de . Y a-t-il un moyen de le voir? CC à @m_t_.

π (y)

$\pi(y)$

— amibe dit Réintégrer Monica

@amoeba Je suis d'accord que ne devrait pas dépendre de la distribution des s, mais d'autres valeurs de devraient: la solution générale de ce DE est

F (0)

$F(0)$

X

$X$

F

$F$

F = C e^{- \int π} - 1

$F=Ce^{-\int \pi}-1$

— Matthew Towers

@MartijnWeterings Je pense que , pas 1, par exemple dans le cas uniforme, nous obtenons

C = e

$C=e$

e e^{- x} - 1

$e e^{-x} -1$

— Matthew Towers

Oui, tu as raison. J'ai utilisé le cas uniforme pour déduire ma déclaration, mais j'ai utilisé à tort au lieu de

c e^{1 - x} - 1

$ce^{1-x}-1$

c e^{- x} - 1

$ce^{-x}-1$

— Sextus Empiricus

Une autre méthode de résolution consiste à calculer directement l'intégrale.

La probabilité de générer une séquence dont la partie croissante a une longueur de est , où . $\geq n$ $f^n(0)$ $f^n(x) = \int_{x}^{1}\int_{x_1}^{1}\int_{x_2}^{1}...\int_{x_{n-2}}^{1}\int_{x_{n-1}}^{1}dx_ndx_{n-1}...dx_2dx_1$

Ce que nous devons faire est de calculer . $f^n(0)$

Si vous essayez de calculer les premiers , vous constaterez peut-être que $f^n(x)$ $f^n(x) = \sum_{t=0}^n \dfrac{(-x)^t}{t!(n-t)!}$

Cas de base: lorsque , $n=1$ $f^1(x) = \sum_{t=0}^1 \dfrac{(-x)^t}{t!(n-t)!}=1-x=\int_{x}^{1}dx_1$

Hypothèse inductive: lorsque , $n=k$ $f^n(x) = \sum_{t=0}^k \dfrac{(-x)^t}{t!(k-t)!}\text{ , for }k \geq 1$

Étape inductive: lorsque , $n = k+1$

$\ \ \ \ \ f^{n}(x) = f^{k+1}(x) = \int_{x}^{1}f^{k}(x^*)dx^*$

$=\int_{x}^{1}\sum_{t=0}^{k} \dfrac{(-x^*)^t}{t!(k-t)!}dx^*$

$=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{t!(k-t)!\times(t+1)}\Biggr|_{x}^{1}\\=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{(t+1)!(k-t)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{-(-x^*)^{t}}{t!(k-t+1)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}}{t!(k-t+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}+\sum_{t=0}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}-\dfrac{(1-1)^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=0}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

Par induction mathématique, l'hypothèse est vraie.

Ainsi, nous obtenons que $f^n(0)=\dfrac{1}{n!}$

Donc, $E(length)=\sum_{n=1}^{\infty} Pr(length\geq n)=\sum_{n=1}^{\infty} \dfrac{1}{n!}=e-1$

— 劉家維
source