Distribution asymptotique de la variance de l'échantillon d'un échantillon non normal

Il s'agit d'un traitement plus général de la question posée par cette question . Après avoir dérivé la distribution asymptotique de la variance de l'échantillon, nous pouvons appliquer la méthode Delta pour arriver à la distribution correspondante pour l'écart type.

Soit un échantillon de taille de iid variables aléatoires non normales , avec la moyenne et la variance . Définissez la moyenne de l'échantillon et la variance de l'échantillon comme { X i } $n$$\{X_i\},\;\; i=1,...,n$$\mu$$\sigma^2$

$$\bar x = \frac 1n \sum_{i=1}^nX_i,\;\;\; s^2 = \frac 1{n-1} \sum_{i=1}^n(X_i-\bar x)^2$$

Nous savons que

$$E(s^2) = \sigma^2, \;\;\; \operatorname {Var}(s^2) = \frac{1}{n} \left(\mu_4 - \frac{n-3}{n-1}\sigma^4\right)$$

où , et nous limitons notre attention aux distributions pour lesquelles les moments doivent exister et être finis, existent et sont finis.$\mu_4 = E(X_i -\mu)^4$

Est-ce que cela tient

$$\sqrt n(s^2 - \sigma^2) \rightarrow_d N\left(0,\mu_4 - \sigma^4\right)\;\; ?$$

Pour dépendre les dépendances survenant lorsque nous considérons la variance de l'échantillon, nous écrivons

$$(n-1)s^2 = \sum_{i=1}^n\Big((X_i-\mu) -(\bar x-\mu)\Big)^2$$

$$=\sum_{i=1}^n\Big(X_i-\mu\Big)^2-2\sum_{i=1}^n\Big((X_i-\mu)(\bar x-\mu)\Big)+\sum_{i=1}^n\Big(\bar x-\mu\Big)^2$$

et après un peu de manipulation,

$$=\sum_{i=1}^n\Big(X_i-\mu\Big)^2 - n\Big(\bar x-\mu\Big)^2$$

Donc

$$\sqrt n(s^2 - \sigma^2) = \frac {\sqrt n}{n-1}\sum_{i=1}^n\Big(X_i-\mu\Big)^2 -\sqrt n \sigma^2- \frac {\sqrt n}{n-1}n\Big(\bar x-\mu\Big)^2$$

Manipuler,

$$\sqrt n(s^2 - \sigma^2) = \frac {\sqrt n}{n-1}\sum_{i=1}^n\Big(X_i-\mu\Big)^2 -\sqrt n \frac {n-1}{n-1}\sigma^2- \frac {n}{n-1}\sqrt n\Big(\bar x-\mu\Big)^2$$

$$=\frac {n\sqrt n}{n-1}\frac 1n\sum_{i=1}^n\Big(X_i-\mu\Big)^2 -\sqrt n \frac {n-1}{n-1}\sigma^2- \frac {n}{n-1}\sqrt n\Big(\bar x-\mu\Big)^2$$

$$=\frac {n}{n-1}\left[\sqrt n\left(\frac 1n\sum_{i=1}^n\Big(X_i-\mu\Big)^2 -\sigma^2\right)\right] + \frac {\sqrt n}{n-1}\sigma^2 -\frac {n}{n-1}\sqrt n\Big(\bar x-\mu\Big)^2$$

Le terme devient asymptotiquement unité. Le terme est déterministe et va à zéro comme .$n/(n-1)$n→$\frac {\sqrt n}{n-1}\sigma^2$$n \rightarrow \infty$

Nous avons également . Le premier composant converge en distribution vers un Normal, le second converge en probabilité vers zéro. Ensuite, par le théorème de Slutsky, le produit converge en probabilité vers zéro,$\sqrt n\Big(\bar x-\mu\Big)^2 = \left[\sqrt n\Big(\bar x-\mu\Big)\right]\cdot \Big(\bar x-\mu\Big)$

$$\sqrt n\Big(\bar x-\mu\Big)^2\xrightarrow{p} 0$$

Il nous reste le terme

$$\left[\sqrt n\left(\frac 1n\sum_{i=1}^n\Big(X_i-\mu\Big)^2 -\sigma^2\right)\right]$$

Alerté par un exemple létal offert par @whuber dans un commentaire à cette réponse , nous voulons nous assurer que n'est pas constant. Whuber a souligné que si est un Bernoulli alors cette quantité est une constante. Donc, en excluant les variables pour lesquelles cela se produit (peut-être d'autres dichotomiques, pas seulement binaire?), Pour le reste, nous avonsX i ( 1 / 2 ) 0 /$(X_i-\mu)^2$$X_i$$(1/2)$$0/1$

$$\mathrm{E}\Big(X_i-\mu\Big)^2 = \sigma^2,\;\; \operatorname {Var}\left[\Big(X_i-\mu\Big)^2\right] = \mu_4 - \sigma^4$$

et donc le terme sous enquête est un sujet habituel du théorème de limite centrale classique, et

$$\sqrt n(s^2 - \sigma^2) \xrightarrow{d} N\left(0,\mu_4 - \sigma^4\right)$$

Remarque: le résultat ci-dessus vaut bien sûr également pour les échantillons normalement distribués - mais dans ce dernier cas, nous avons également un résultat de distribution khi carré à échantillon fini.

Vous avez déjà une réponse détaillée à votre question, mais permettez-moi d'en proposer une autre pour l'accompagner. En fait, une preuve plus courte est possible sur la base du fait que la distribution des

$$S^2 = \frac{1}{n-1} \sum_{i=1}^n \left(X_i - \bar{X} \right)^2$$

ne dépend pas de , par exemple. De manière asymptotique, cela n'a pas d'importance non plus de changer le facteur en , ce que je ferai pour plus de commodité. Nous avons alors$E(X) = \xi$$\frac{1}{n-1}$$\frac{1}{n}$

$$\sqrt{n} \left(S^2 - \sigma^2 \right) = \sqrt{n} \left[ \frac{1}{n} \sum_{i=1}^n X_i^2 - \bar{X}^2 - \sigma^2 \right]$$

Et maintenant, nous supposons sans perte de généralité que et nous remarquons que$\xi = 0$

$$\sqrt{n} \bar{X}^2 = \frac{1}{\sqrt{n}} \left( \sqrt{n} \bar{X} \right)^2$$

a une limite de probabilité nulle, puisque le deuxième terme est borné en probabilité (par le CLT et le théorème de mappage continu), c'est-à-dire qu'il est . Le résultat asymptotique découle désormais du théorème de Slutzky et du CLT, puisque$O_p(1)$

$$\sqrt{n} \left[ \frac{1}{n} \sum X_i^2 - \sigma^2 \right] \xrightarrow{D} \mathcal{N} \left(0, \tau^2 \right)$$

où . Et cela le fera.$\tau^2 = Var \left\{ X^2\right\} = \mathbb{E} \left(X^4 \right) - \left( \mathbb{E} \left(X^2\right) \right)^2$

Les excellentes réponses d' Alecos et de JohnK donnent déjà le résultat que vous recherchez, mais je voudrais noter autre chose sur la distribution asymptotique de la variance de l'échantillon.

Il est courant de voir des résultats asymptotiques présentés en utilisant la distribution normale, et cela est utile pour énoncer les théorèmes. Cependant, en pratique, le but d'une distribution asymptotique pour une statistique d'échantillon est qu'elle vous permet d'obtenir une distribution approximative lorsque est grand. Il y a beaucoup de choix que vous pourriez faire pour votre approximation à large échantillon, car de nombreuses distributions ont la même forme asymptotique. Dans le cas de la variance de l'échantillon, je suis d'avis qu'une excellente distribution d'approximation pour les grands est donnée par:$n$$n$

$$\frac{S_n^2}{\sigma^2} \sim \frac{\text{Chi-Sq}(\text{df} = DF_n)}{DF_n},$$

où et est le paramètre kurtosis. Cette distribution est asymptotiquement équivalente à l'approximation normale dérivée du théorème (la distribution du khi carré converge vers la normale lorsque les degrés de liberté tendent vers l'infini). Malgré cette équivalence, cette approximation a diverses autres propriétés que vous aimeriez que votre distribution approximative ait:$DF_n \equiv 2 / \mathbb{V}(S_n^2 / \sigma^2) = 2n / ( \kappa - (n-3)/(n-1))$$\kappa = \mu_4 / \sigma^4$

• Contrairement à l'approximation normale dérivée directement du théorème, cette distribution a le support correct pour la statistique d'intérêt. La variance de l'échantillon n'est pas négative, et cette distribution a un support non négatif.

• Dans le cas où les valeurs sous-jacentes sont normalement distribuées, cette approximation est en fait la distribution d'échantillonnage exacte. (Dans ce cas, nous avons qui donne , qui est la forme standard utilisée dans la plupart des textes.) Il constitue donc un résultat exact dans un cas spécial important, tout en restant une approximation raisonnable dans cas plus généraux.$\kappa = 3$$DF_n = n-1$

---

Dérivation du résultat ci-dessus: Les résultats de distribution approximatifs pour la moyenne et la variance de l'échantillon sont discutés en détail dans O'Neill (2014) , et cet article fournit des dérivations de nombreux résultats, y compris la distribution approximative actuelle.

Cette dérivation part du résultat limitatif de la question:

$$\sqrt{n} (S_n^2 - \sigma^2) \sim \text{N}(0, \sigma^4 (\kappa - 1)).$$

En réorganisant ce résultat, nous obtenons l'approximation:

$$\frac{S_n^2}{\sigma^2} \sim \text{N} \Big( 1, \frac{\kappa - 1}{n} \Big).$$

Puisque la distribution du chi carré est asymptotiquement normale, comme nous avons:$DF \rightarrow \infty$

$$\frac{\text{Chi-Sq}(DF)}{DF} \rightarrow \frac{1}{DF} \text{N} ( DF, 2DF ) = \text{N} \Big( 1, \frac{2}{DF} \Big).$$

La prise de (qui donne la formule ci-dessus) donne qui garantit que la distribution du chi carré est asymptotiquement équivalent à l'approximation normale du théorème limite.$DF_n \equiv 2 / \mathbb{V}(S_n^2 / \sigma^2)$$DF_n \rightarrow 2n / (\kappa - 1)$