La distribution normale converge-t-elle vers une distribution uniforme lorsque l'écart-type augmente à l'infini?

18

La distribution normale converge-t-elle vers une certaine distribution si l'écart-type croît sans limites? il me semble que le pdf commence à ressembler à une distribution uniforme avec des bornes données par . Est-ce vrai? $[-2 \sigma, 2 \sigma]$

normal-distribution convergence

— Ramon Martinez
source

2

Non, mais pour répondre correctement à votre question, nous devons savoir quelle est votre définition de la convergence. Gardez à l'esprit qu'une discussion formelle n'est possible que lorsque le côté droit ne change pas. Vous ne pouvez donc pas établir de convergence vers Unifrom [ ] car votre est en train de changer. Recherchez la formulation de CLT pour voir ce que je veux dire

- σ, σ

$-\sigma,\sigma$

σ

$\sigma$

— Aksakal

seulement si vous l'enveloppez ou le tronquez à quelque chose .

o (σ)

$o(\sigma)$

— enthdegree

4

Les autres réponses déjà ici font un excellent travail d'expliquer pourquoi VR gaussiennes ne convergent pas vers quoi que ce soit l'augmentation de la variance sans limite, mais je tiens à souligner une propriété en apparence uniforme qu'une telle collection de gaussiennes ne satisfont que je pense pourrait être suffisant pour que quelqu'un devine qu'ils deviennent uniformes, mais cela ne s'avère pas assez fort pour en conclure. $\newcommand{\len}{\text{len}}$

Considérons une collection de variables aléatoires $\{X_1,X_2,\dots\}$ où $X_n \sim \mathcal N(0, n^2)$ . Soit $A = [a_1,a_2]$ un intervalle fixe de longueur finie, et pour certains $c \in \mathbb R$ définissent $B = A +c$ , c'est-à-dire que $B$ est $A$ mais simplement décalé de $c$ . Pour un intervalle $I = [i_1,i_2]$ définissez $\len (I) = i_2-i_1$ comme étant la longueur de $I$ , et notez que $\len(A) = \len(B)$ .

Je vais maintenant prouver le résultat suivant:

Résultat : $\vert P(X_n \in A) - P(x_n\in B)\vert \to 0$ as $n \to \infty$ .

J'appelle cela uniforme parce qu'il dit que la distribution de plus en plus deux intervalles fixes de longueur égale ayant une probabilité égale, peu importe à quelle distance ils peuvent être. C'est certainement une fonctionnalité très uniforme, mais comme nous le verrons, cela ne dit rien sur la distribution réelle du convergeant vers une distribution uniforme. $X_n$ $X_n$

Pf: notez que où donc Je peux utiliser la limite (très approximative) que pour obtenir $X_n = n X_1$ $X_1 \sim \mathcal N(0, 1)$

P (X_{n} \in A) = P (a_{1} \leq n X_{1} \leq a_{2}) = P (\frac{a_{1}}{n} \leq X_{1} \leq \frac{a_{2}}{n})

$P(X_n \in A) = P(a_1 \leq n X_1 \leq a_2) = P\left(\frac{a_1}{n} \leq X_1 \leq \frac{a_2}n\right)$

= \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x .

$= \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx.$

e^{- x^{2} / 2} \leq 1

$e^{-x^2/2} \leq 1$

\frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x \leq \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} 1 d x

$\frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx \leq \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} 1\,\text dx$

= \frac{len (A)}{n \sqrt{2 π}} .

$= \frac{\text{len}(A)}{n\sqrt{2\pi}}.$

Je peux faire la même chose pour pour obtenir $B$

P (X_{n} \in B) \leq \frac{len (B)}{n \sqrt{2 π}} .

$P(X_n \in B) \leq \frac{\text{len}(B)}{n\sqrt{2\pi}}.$

En les assemblant, j'ai as (j'utilise ici l'inégalité du triangle).

| P (X_{n} \in A) - P (X_{n} \in B) | \leq \frac{\sqrt{2} len (A)}{n \sqrt{π}} \to 0

$\left\vert P(X_n \in A) - P(X_n \in B)\right\vert \leq \frac{\sqrt 2 \text{len}(A) }{n\sqrt{\pi}} \to 0$

n \to \infty

$n\to\infty$

$\square$

En quoi est-ce différent de convergeant sur une distribution uniforme? Je viens de prouver que les probabilités données à tous les deux intervalles fixes de la même longueur finie se rapprochent de plus en plus, et de façon intuitive qui fait sens que les densités sont « aplatissant » de et perspectives d ». $X_n$ $A$ $B$

Mais pour que converge vers une distribution uniforme, il me faudrait pour être proportionnel à pour tout intervalle , et c'est une chose très différente parce que cela doit s'appliquer à tout , pas seulement à un fixe à l'avance (et comme mentionné ailleurs, cela n'est même pas possible pour une distribution avec un support illimité). $X_n$ $P(X_n \in I)$ $\text{len}(I)$ $I$ $I$

— jld
source

À droite, on pourrait presque dire qu'ils ont convergé dans la distribution, sauf que la limite de ce vers quoi ils convergent est une distribution incorrecte. Un type de convergence qui serait bien défini est que je suppose que vous pourriez montrer que la métrique de Wasserstein approchera de zéro en tant que ?

σ \to \infty

$\sigma \rightarrow \infty$

— Cliff AB

36

Une erreur courante de probabilité est de penser qu'une distribution est uniforme car elle semble visuellement plate lorsque toutes ses valeurs sont proches de zéro. En effet, nous avons tendance à voir que et pourtant , c'est-à-dire qu'un petit intervalle autour de est 1000 fois plus probable qu'un petit intervalle autour de . $f(x)=0.001 \approx 0.000001=f(y)$ $f(x)/f(y)=0.001/0.000001=1000$ $x$ $y$

Ce n'est certainement pas uniforme sur toute la ligne réelle dans la limite, car il n'y a pas de distribution uniforme sur . Ce n'est même pas approximativement uniforme sur . $(-\infty,\infty)$ $[-2\sigma,2\sigma]$

Vous pouvez voir ce dernier à partir de la règle 68-95-99.7 que vous semblez connaître. S'il était approximativement uniforme sur , alors la probabilité d'être dans et devrait être la même, car les deux intervalles sont les mêmes longueur. Mais ce n'est pas le cas: , mais . $[-2\sigma,2\sigma]$ $[0,\sigma]$ $[\sigma,2\sigma]$ $P([0,\sigma])\approx 0.68/2= 0.34$ $P([\sigma,2\sigma])\approx (0.95-0.68)/2 = 0.135$

Lorsqu'elle est vue sur toute la ligne réelle, cette séquence de distributions normales ne converge vers aucune distribution de probabilité. Il y a plusieurs façons de voir cela. Par exemple, le cdf d'une normale avec un écart-type est , et pour tout , qui n'est le cdf d' aucune variable aléatoire. En fait, ce n'est pas du tout un cdf. $\sigma$ $F_\sigma(x) = (1/2)(1+\mbox{erf}(x/\sqrt{2}\sigma)$ $\lim_{\sigma\rightarrow\infty} F_\sigma(x) = 1/2$ $x$

La raison de cette non-convergence se résume à une "perte de masse" est la limite. La fonction limite de la distribution normale a en fait "perdu" la probabilité (c'est-à-dire qu'elle s'est échappée à l'infini). Ceci est lié au concept de rigueur des mesures , qui donne les conditions nécessaires pour qu'une séquence de variables aléatoires converge vers une autre variable aléatoire.

— Alex R.
source

1

Le "c'est" incorrect était "toutes ses valeurs sont proches de zéro". Le "C'est" dans "C'est une erreur courante" était correct.

— Accumulation

15

Votre déclaration que le pdf commence à ressembler à une distribution uniforme avec des limites données par $[−2σ,2σ]$ n'est pas correcte si vous ajustez pour correspondre à l'écart-type plus large. $\sigma$

Considérons ce graphique de deux densités normales centrées sur zéro. La courbe rouge correspond à un écart type de et la courbe bleue à un écart type de , et il est en effet vrai que la courbe bleue est quasiment plate sur $1$ $10$ $[-2,2]$

mais pour la courbe bleue avec , nous devrions en fait regarder sa forme sur . Le redimensionnement à la fois de l' axe et de l'axe par des facteurs de donne ce graphique suivant, et vous obtenez exactement la même forme pour la densité bleue dans ce graphique ultérieur que la densité rouge dans le graphique précédent $\sigma=10$ $[-20,20]$ $x$ $y$ $10$

— Henri
source

2

Votre question est fondamentalement erronée. La distribution normale standard est mise à l'échelle de sorte que . Donc, pour une autre distribution gaussienne ( ), la courbe entre les bornes a la même forme que la distribution normale standard. La seule différence est le facteur d'échelle. Donc, si vous redimensionnez le gaussien en divisant par , vous vous retrouvez avec la distribution normale standard. $\sigma = 1$ $\mu = 0, \sigma = \sigma^*$ $[-2\sigma^*, 2\sigma^*]$ $\sigma^*$

Maintenant, si vous avez une distribution gaussienne ( ) alors oui comme , la région entre devient plus plate. $\mu = 0, \sigma = \sigma^*$ $\sigma^* \rightarrow \infty$ $[-2, 2]$

— MaxW
source