Théorème central limite et loi des grands nombres

J'ai une question très débutante concernant le théorème de limite centrale (CLT):

Je sais que le CLT indique qu'une moyenne de variables aléatoires iid est distribuée approximativement normalement (pour , où est l'indice des sommets) ou que la variable aléatoire normalisée aurait une distribution normale standard. $n \to \infty$ $n$

Or, la loi du grand nombre stipule grosso modo que la moyenne des variables aléatoires iid converge (en probabilité ou presque sûrement) vers leur valeur attendue.

Ce que je ne comprends pas, c'est: si, comme l'indique le CLT, la moyenne est approximativement distribuée normalement, comment peut-elle alors également converger vers la valeur attendue en même temps?

La convergence impliquerait pour moi qu'avec le temps la probabilité que la moyenne prenne une valeur qui n'est pas la valeur attendue soit presque nulle, donc la distribution ne serait pas vraiment une normale mais presque nulle partout sauf à la valeur attendue.

Toute explication est la bienvenue.

— Pegah
source

La clé de la réponse réside dans l'endroit où le mot «standardisé» apparaît dans votre question.

— whuber

Je suis désolé mais je ne suis pas sûr de comprendre.

— Pegah

Astuce: un théorème concerne qui a une variance , l'autre sur qui a une variance .

\frac{1}{\sqrt{n}} \sum_{i} X_{i}

$\frac{1}{\sqrt{n}}\sum_i X_i$

σ^{2}

$\sigma^2$

\frac{1}{n} \sum_{i} X_{i}

$\frac{1}{n}\sum_i X_i$

\frac{σ^{2}}{n}

$\frac{\sigma^2}{n}$

— Dilip Sarwate

Le théorème de la limite centrale concerne le voyage et la loi forte des grands nombres concerne la destination.

— Cardinal

Cette figure montre les distributions des moyennes de (bleu), (rouge) et (or) distributions normales indépendantes et identiquement distribuées ( iid ) (de variance unitaire et moyenne ): $n=1$ $10$ $100$ $\mu$

Trois PDF qui se chevauchent

Lorsque augmente, la distribution de la moyenne devient plus "focalisée" sur . (Le sens de "focalisation" est facilement quantifiable: étant donné tout intervalle ouvert fixe entourant , la quantité de la distribution dans augmente avec et a une valeur limite de ) $n$ $\mu$ $(a,b)$ $\mu$ $[a,b]$ $n$ $1$

Cependant, lorsque nous normalisons ces distributions, nous redimensionnons chacune d'elles pour avoir une moyenne de et une variance unitaire: elles sont alors toutes les mêmes. C'est ainsi que nous voyons que bien que les fichiers PDF des moyens eux-mêmes augmentent et se concentrent autour de , néanmoins chacune de ces distributions a toujours une forme normale , même si elles diffèrent individuellement. $0$ $\mu$

Le théorème de la limite centrale dit que lorsque vous commencez avec n'importe quelle distribution - pas seulement une distribution normale - qui a une variance finie, et jouez au même jeu avec des moyennes de valeurs iid lorsque augmente, vous voyez la même chose: la moyenne les distributions se concentrent autour de la moyenne d'origine (la loi faible des grands nombres), mais les distributions moyennes normalisées convergent vers une distribution normale standard (le théorème de la limite centrale). $n$ $n$

— whuber
source

@whuber assez bonne réponse, j'apprécierai une explication de ce que nous comprenons par la loi faible du grand nombre.

— Subhash C. Davar

@subhash Voir en.wikipedia.org/wiki/Law_of_large_numbers#Weak_law .

— whuber