Test de variance finie?

Est-il possible de tester la finitude (ou l'existence) de la variance d'une variable aléatoire dans un échantillon? En tant que valeur nulle, soit {la variance existe et est finie} soit {la variance n'existe pas / est infinie} serait acceptable. Sur le plan philosophique (et sur le plan du calcul), cela semble très étrange car il ne devrait pas y avoir de différence entre une population sans variance finie et une population avec une très grande variance (disons> $10^{400}$ ), donc je ne pense pas que ce problème puisse être résolu.

Une approche qui m'avait été suggérée était via le théorème de la limite centrale: en supposant que les échantillons sont iid et que la population a une moyenne finie, on pourrait vérifier, d'une manière ou d'une autre, si la moyenne de l'échantillon a la bonne erreur standard avec l'augmentation de la taille de l'échantillon. Je ne suis pas sûr de croire que cette méthode fonctionnerait, cependant. (En particulier, je ne vois pas comment en faire un test approprié.)

Non, cela n'est pas possible, car un échantillon fini de taille $n$ ne peut pas faire une distinction fiable entre, disons, une population normale et une population normale contaminée par une quantité $1/N$ d'une distribution de Cauchy où $N$ >> $n$ . (Bien sûr, le premier a une variance finie et le second a une variance infinie.) Ainsi, tout test entièrement non paramétrique aura une puissance arbitrairement faible contre de telles alternatives.

Vous ne pouvez pas être certain sans connaître la distribution. Mais il y a certaines choses que vous pouvez faire, comme regarder ce qu'on pourrait appeler la "variance partielle", c'est-à-dire que si vous avez un échantillon de taille , vous dessinez la variance estimée à partir des n premiers termes, avec n allant de 2 à N .$N$$n$$n$$N$

Avec une variance de population finie, vous espérez que la variance partielle se stabilisera bientôt proche de la variance de population.

Avec une variance de population infinie, vous voyez des sauts dans la variance partielle suivis de baisses lentes jusqu'à ce que la prochaine très grande valeur apparaisse dans l'échantillon.

Ceci est une illustration avec des variables aléatoires Normal et Cauchy (et une échelle logarithmique)

Cela peut ne pas aider si la forme de votre distribution est telle qu'une taille d'échantillon beaucoup plus grande que celle dont vous disposez est nécessaire pour l'identifier avec une confiance suffisante, c'est-à-dire lorsque de très grandes valeurs sont assez (mais pas extrêmement) rares pour une distribution à variance finie, ou sont extrêmement rares pour une distribution avec une variance infinie. Pour une distribution donnée, il y aura des tailles d'échantillon qui sont plus susceptibles qu'autrement de révéler sa nature; à l'inverse, pour une taille d'échantillon donnée, il existe des distributions plus susceptibles qu'autrement de masquer leur nature pour cette taille d'échantillon.

Voici une autre réponse. Supposons que vous puissiez paramétrer le problème, quelque chose comme ceci:

$$H_{0}:\ X \sim t(\mathtt{df}=3)\mathrm{\ versus\ } H_{1}:\ X \sim t(\mathtt{df}=1).$$

Ensuite, vous pourriez faire un test de rapport de vraisemblance Neyman-Pearson ordinaire de contre H 1 . Notez que H 1 est Cauchy (variance infinie) et H 0 est le t de Student habituel avec 3 degrés de liberté (variance finie) qui a PDF: f ( x | ν ) = Γ ( ν + $H_{0}$$H_{1}$$H_{1}$$H_{0}$ $t$

$$f(x|\nu) = \frac{\Gamma\left(\frac{\nu + 1}{2}\right)}{\sqrt{\nu\pi}\Gamma\left(\frac{\nu}{2}\right)}\left(1 + \frac{x^{2}}{\nu} \right)^{-\frac{\nu + 1}{2}},$$

pour . Étant donné les données d'échantillonnage aléatoire simples x 1 , x 2 , … , x n , le test du rapport de vraisemblance rejette H 0 lorsque Λ ( x ) = ∏ n i = 1 f ( x i | ν = 1 $-\infty < x < \infty$$x_{1},x_{2},\ldots,x_{n}$$H_{0}$ oùk≥0est choisi tel que P(Λ(X)>

$$\Lambda(\mathbf{x}) = \frac{\prod_{i=1}^{n}f(x_{i}|\nu = 1)}{\prod_{i=1}^{n}f(x_{i}|\nu = 3)} > k,$$ $k \geq 0$ $$P(\Lambda(\mathbf{X}) > k\,|\nu = 3) = \alpha.$$

C'est un peu d'algèbre pour simplifier

$$\Lambda(\mathbf{x}) = \left(\frac{\sqrt{3}}{2}\right)^{n}\prod_{i = 1}^{n}\frac{\left(1 + x_{i}^{2}/3 \right)^{2}}{1 + x_{i}^{2}}.$$

$\Lambda(\mathbf{x})$$H_{0}$$\Lambda(\mathbf{x})$$\alpha = 0.05$$n = 13$

$H_{0}$$\Lambda$

set.seed(1)
x <- matrix(rt(1000000*13, df = 3), ncol = 13)
y <- apply(x, 1, function(z) prod((1 + z^2/3)^2)/prod(1 + z^2))
quantile(y, probs = 0.95)

$\approx 12.8842$$(\sqrt{3}/2)^{13}$$k \approx 1.9859$

$H_{0}$$H_{1}$$\alpha$

Avertissements: ceci est un exemple de jouet. Je n'ai pas de situation réelle dans laquelle j'étais curieux de savoir si mes données provenaient de Cauchy par opposition au t de Student avec 3 df. Et la question initiale ne disait rien sur les problèmes paramétrés, elle semblait rechercher davantage une approche non paramétrique, qui, je pense, a été bien abordée par les autres. Le but de cette réponse est pour les futurs lecteurs qui tombent sur le titre de la question et recherchent l'approche classique des manuels poussiéreux.

$H_{1}:\nu \leq 1$

$D\equiv Y_{1},Y_{2},\dots,Y_{N}$

1. $H_{0}:Y_{i}\sim Normal(\mu,\sigma)$
2. $H_{A}:Y_{i}\sim Cauchy(\nu,\tau)$

One hypothesis has finite variance, one has infinite variance. Just calculate the odds:

$$\frac{P(H_{0}|D,I)}{P(H_{A}|D,I)}=\frac{P(H_{0}|I)}{P(H_{A}|I)}\frac{\int P(D,\mu,\sigma|H_{0},I)d\mu d\sigma}{\int P(D,\nu,\tau|H_{A},I)d\nu d\tau}$$

Where $\frac{P(H_{0}|I)}{P(H_{A}|I)}$ is the prior odds (usually 1)

$$P(D,\mu,\sigma|H_{0},I)=P(\mu,\sigma|H_{0},I)P(D|\mu,\sigma,H_{0},I)$$ And $$P(D,\nu,\tau|H_{A},I)=P(\nu,\tau|H_{A},I)P(D|\nu,\tau,H_{A},I)$$

Now you normally wouldn't be able to use improper priors here, but because both densities are of the "location-scale" type, if you specify the standard non-informative prior with the same range $L_{1}<\mu,\tau<U_{1}$ and $L_{2}<\sigma,\tau<U_{2}$, then we get for the numerator integral:

$$\frac{\left(2\pi\right)^{-\frac{N}{2}}}{(U_1-L_1)log\left(\frac{U_2}{L_2}\right)}\int_{L_2}^{U_2}\sigma^{-(N+1)}\int_{L_1}^{U_1} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma$$

Where $s^2=N^{-1}\sum_{i=1}^{N}(Y_i-\overline{Y})^2$ and $\overline{Y}=N^{-1}\sum_{i=1}^{N}Y_i$. And for the denominator integral:

$$\frac{\pi^{-N}}{(U_1-L_1)log\left(\frac{U_2}{L_2}\right)}\int_{L_2}^{U_2}\tau^{-(N+1)}\int_{L_1}^{U_1} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau$$

And now taking the ratio we find that the important parts of the normalising constants cancel and we get:

$$\frac{P(D|H_{0},I)}{P(D|H_{A},I)}=\left(\frac{\pi}{2}\right)^{\frac{N}{2}}\frac{\int_{L_2}^{U_2}\sigma^{-(N+1)}\int_{L_1}^{U_1} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma}{\int_{L_2}^{U_2}\tau^{-(N+1)}\int_{L_1}^{U_1} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

And all integrals are still proper in the limit so we can get:

$$\frac{P(D|H_{0},I)}{P(D|H_{A},I)}=\left(\frac{2}{\pi}\right)^{-\frac{N}{2}}\frac{\int_{0}^{\infty}\sigma^{-(N+1)}\int_{-\infty}^{\infty} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma}{\int_{0}^{\infty}\tau^{-(N+1)}\int_{-\infty}^{\infty} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

The denominator integral cannot be analytically computed, but the numerator can, and we get for the numerator:

$$\int_{0}^{\infty}\sigma^{-(N+1)}\int_{-\infty}^{\infty} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma=\sqrt{2N\pi}\int_{0}^{\infty}\sigma^{-N} exp\left(-\frac{Ns^{2}}{2\sigma^{2}}\right)d\sigma$$

Now make change of variables $\lambda=\sigma^{-2}\implies d\sigma = -\frac{1}{2}\lambda^{-\frac{3}{2}}d\lambda$ and you get a gamma integral:

$$-\sqrt{2N\pi}\int_{\infty}^{0}\lambda^{\frac{N-1}{2}-1} exp\left(-\lambda\frac{Ns^{2}}{2}\right)d\lambda=\sqrt{2N\pi}\left(\frac{2}{Ns^{2}}\right)^{\frac{N-1}{2}}\Gamma\left(\frac{N-1}{2}\right)$$

And we get as a final analytic form for the odds for numerical work:

$$\frac{P(H_{0}|D,I)}{P(H_{A}|D,I)}=\frac{P(H_{0}|I)}{P(H_{A}|I)}\times\frac{\pi^{\frac{N+1}{2}}N^{-\frac{N}{2}}s^{-(N-1)}\Gamma\left(\frac{N-1}{2}\right)}{\int_{0}^{\infty}\tau^{-(N+1)}\int_{-\infty}^{\infty} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

So this can be thought of as a specific test of finite versus infinite variance. We could also do a T distribution into this framework to get another test (test the hypothesis that the degrees of freedom is greater than 2).

The counterexample is not relevant to the question asked. You want to test the null hypothesis that a sample of i.i.d. random variables is drawn from a distribution having finite variance, at a given significance level. I recommend a good reference text like "Statistical Inference" by Casella to understand the use and the limit of hypothesis testing. Regarding h.t. on finite variance, I don't have a reference handy, but the following paper addresses a similar, but stronger, version of the problem, i.e., if the distribution tails follow a power law.

POWER-LAW DISTRIBUTIONS IN EMPIRICAL DATA SIAM Review 51 (2009): 661--703.

Une approche qui m'avait été suggérée était via le théorème de la limite centrale.

C'est une vieille question, mais je veux proposer un moyen d'utiliser le CLT pour tester les grosses queues.

Laisser $X = \{X_1,\ldots,X_n\}$être notre échantillon. Si l'échantillon est une réalisation iid à partir d'une distribution de queue légère, le théorème CLT est valable. Il s'ensuit que si$Y = \{Y_1,\ldots,Y_n\}$ est un rééchantillonnage bootstrap de $X$ puis la distribution de:

$$Z = \sqrt{n}\times\frac{mean(Y) - mean(X)}{sd(Y)},$$

est également proche de la fonction de distribution N (0,1).

Il ne nous reste plus qu'à effectuer un grand nombre de bootstrap et à comparer la fonction de distribution empirique des Z observés avec la edf d'un N (0,1). Une façon naturelle de faire cette comparaison est le test de Kolmogorov – Smirnov .

Les images suivantes illustrent l'idée principale. Dans les deux images, chaque ligne colorée est construite à partir d'une réalisation iid de 1000 observations de la distribution particulière, suivie de 200 rééchantillonnages bootstrap de taille 500 pour l'approximation du Z ecdf. La ligne continue noire est le N (0,1) cdf.