Pourquoi le test d'indépendance utilise-t-il la distribution chi carré?

Le test d'ajustement de $\chi^2$ utilise la statistique suivante :

χ_{0}^{2} = \sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}}

$\chi_0^2=\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}$ Dans le test, en admettant que les conditions sont remplies, on utilise ladistribution

χ^{2}

$\chi^2$ -pour calculer la valeur de p qui étant donnée le

H_{0}

$H_0$ est vrai, on observerait une telle valeur dans un échantillon représentatif de la même taille.

Cependant, pour qu'une statistique $\chi_0^2$ suive une distribution $\chi^2$ (avec $n-1$ degrés de liberté), il doit être vrai que:

\sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}} = \sum_{i = 1}^{n - 1} Z_{i}^{2}

$\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}=\sum_{i=1}^{n-1}Z_i^2$ pournormal indépendant standard(Wikipedia). Les conditions du test sont les suivantes (encore une fois, à partir deWikipedia):

Z_{i}

$Z_i$

Échantillon représentatif de la population
Grand échantillon
Le nombre de cellules attendu est suffisamment grand
Indépendance entre chaque catégorie

D'après les conditions (1,2), il est clair que nous remplissons les conditions d'inférence de l'échantillon à la population. (3) semble être une hypothèse requise car le nombre discret , qui est au dénominateur, n'entraîne pas une distribution quasi continue pour chaque et s'il n'est pas assez grand il y a une erreur qui peut être corrigée avec Yates 'correction - cela semble provenir du fait qu'une distribution discrète est fondamentalement une distribution continue "plancher", donc le décalage de pour chacun corrige cela. $E_i$ $Z_i$ $1/2$

La nécessité de (4) semble être utile plus tard, mais je ne vois pas comment.

Au début, je pensais que est nécessaire pour que la statistique corresponde à la distribution. Cela m'a conduit à l'hypothèse douteuse que , ce qui était effectivement faux. En fait, il ressort clairement de la réduction de dimension pour les deux côtés de l'égalité de à que cela ne peut pas être le cas. $Z_i=\frac{O_i-E_i}{\sqrt{E_i}}$ $O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$ $n$ $n-1$

Il est devenu évident, grâce aux explications de Whuber, que n'a pas besoin d'être égal à chaque terme parce que (notez la réduction du nombre de variables additionnées) pour les variables aléatoires normales normales qui sont $Z_i$ $\frac{O_i-E_i}{\sqrt{E_i}}$ $\chi_0^2=\sum_{i=1}^{n-1}Z_i^2$ $Z_i$ fonctionnellement indépendantes.

Ma question est alors de savoir comment suivre la ? Quels types de combinaisons de chacun des termes aboutissent à des normales standard au carré ? Cela nécessite l'utilisation du CLT, apparemment (et cela a du sens), mais comment? En d'autres termes , à quoi chaque égal (ou approximativement égal)? $\chi_0^2$ $\chi^2$ $\frac{(O_i-E_i)^2}{E_i}$ $Z_i^2$ $Z_i$

hypothesis-testing chi-squared

— VF1
source

Je suis curieux de savoir où vous lisez que quiconque suppose la dernière chose que vous avez déclarée ( ). Cela n'est pas nécessaire: la statistique peut avoir une (au moins à une très bonne approximation) sans qu'aucun de ces résidus normalisés ait une distribution normale. La question que vous semblez poser est de savoir comment ces hypothèses justifient-elles de renvoyer la statistique à une ? En soi, ils ne le font pas. Pour une discussion sur ce qui peut mal tourner, veuillez consulter mon article sur stats.stackexchange.com/a/17148 .

O_{i} - E_{i} \sim N (0, \sqrt{E_{i}})

$O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$

χ^{2}

$\chi^2$

χ^{2}

$\chi^2$ $\chi^2$ $\chi^2$

— blanc

De l'égalité de deux sommes de carrés, vous ne pouvez pas conclure que les racines carrées sont égales terme par terme! Parce que c'est le cas pour les simples nombres, c'est sûrement le cas pour les variables aléatoires aussi.

— whuber

Pour rendre cela concret, supposons que

sont distribués indépendamment avec

distributions ayant des degrés de liberté

et que

mais

pour tout

(W_{i}), i = 1, \dots, n

$(W_i),i=1, \ldots,n$

χ

$\chi$

ν_{1}, ν_{2}, \dots, ν_{n}

$\nu_1,\nu_2,\ldots,\nu_n$

ν_{1} + ν_{2} + \dots + ν_{n} = n - 1

$\nu_1+\nu_2+\cdots+\nu_n=n-1$

ν_{i} \neq 1

$\nu_i\ne 1$

i

$i$ . Alors, bien qu'aucun des

soit normal, a une .

W_{i}

$W_i$

\sum_{i = 1}^{n} W_{i}^{2}

$\sum_{i=1}^n W_i^2$

χ^{2} (n - 1)

$\chi^2(n-1)$

— whuber

Si par "normal standard au carré" vous voulez dire "somme des normales standard au carré indépendantes", c'est la question que je crois que vous vouliez vraiment poser au départ :-). Et au final, la plupart des analyses de la situation invoquent en effet le théorème de la limite centrale pour prouver que les résidus normalisés sont asymptotiquement normaux (mais pas tout à fait indépendants, c'est pourquoi les degrés de liberté sont et non ).

n - 1

$n-1$

n

$n$

— whuber

+1 pour ce que j'anticipe sera bientôt une très bonne question. Le premier problème est que le test d' indépendance n'utilise pas la statistique revendiquée. La statistique donnée au départ est unidimensionnelle (une somme sur catégories), tandis qu'un test d'indépendance nécessite plus d'une variable. Veuillez modifier pour faire correspondre le nom du test et la statistique.

n

$n$

— Glen_b -Reinstate Monica

Réponses:

Il s'agit de la distribution de Poisson. Si est Poisson avec la moyenne , alors la variance de est également. Cela signifie que est une entité semblable à . Par le CLT, le Poisson tend vers la normalité lorsque la moyenne devient grande, c'est là que le chi carré entre en jeu. Oui, c'est un test asymptotique. $X$ $\lambda$ $X$ $\lambda$

\frac{(X - λ)^{2}}{λ}

$\frac{(X-\lambda)^2}{\lambda}$

z^{2}

$z^2$

Les degrés de liberté proviennent du théorème de Cochran. Fondamentalement, Cochran explique comment le chi carré est transformé (ou reste inchangé) soumis à une transformation linéaire dans les scores . $z^2$

\sum_{i} z_{i}^{2} = Z^{'} I Z

$\sum_i z_i^2=Z' I Z$

en notation matricielle. Si au lieu de calculer la somme des carrés habituelle, vous Compute pour une matrice Q, vous obtenez toujours une quantité avec aa distribution chi-carré, mais les degrés de liberté sont maintenant au rang de . Il y a plus de conditions sur la matrice Q, mais c'est l'essentiel.

Z^{'} Q Z

$Z' Q Z$

Q

$Q$

Si vous jouez avec une notation matricielle, vous pouvez exprimer sous une forme quadratique. Cochran suppose l'indépendance des variables normales d'origine, c'est pourquoi les colonnes de votre table de dénombrement doivent également être indépendantes.

\sum_{i} (z_{i} - \bar{z})^{2}

$\sum_i (z_i-\bar{z})^2$

— Placidia
source

Désolé, mais vous m'avez définitivement perdu à "Si à la place, vous faites ..."

— VF1

@ VF1, j'ai fait un changement, donc j'espère que c'est plus clair. Le théorème de Cochrane est la réponse à votre question de savoir quand une somme de carrés contenant des normales a une distribution chi carré.

— Placidia

OK, je vais y jeter un œil. Je laisse la question ouverte, au cas où quelqu'un d'autre aurait quelque chose à ajouter.

— VF1

Normalement, la taille de l'échantillon est fixe. Cela signifie qu'il est impossible qu'une des entrées puisse suivre une distribution de Poisson. L'appel à une distribution de Poisson semble donc être juste une autre approximation - et semble nous laisser là où nous avons commencé.

— whuber

Selon le manuel "Statistiques d'introduction avec randomisation et simulation", section 3.3.2 (manuel disponible gratuitement sur OpenIntro ), la statistique de test essaie d'accumuler les écarts entre l'observé et l'attendu. Et les écarts sont en effet exprimés à travers le terme $\chi^2$

Z_{je} = \frac{O_{je} - E_{je}}{\sqrt{E_{je}}}

$Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

qui provient en fait de .

\frac{O_{je} - E_{je}}{(S t une n ré une r ré E r r o r O F T h e O b s e r v e ré)}

$\frac{O_i - E_i}{(Standard Error Of The Observed)}$

Le manuel poursuit en disant que est mieux estimé par , donc le terme devient . Le manuel n'explique pas vraiment pourquoi cette substitution est acceptable, et j'aimerais aussi le découvrir. $(StandardErrorOfTheObserved)$ $\sqrt{E_i}$ $Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

Quoi qu'il en soit, vous pouvez créer une statistique de test du formulaire

Z = | Z_{1} | + | Z_{2} | + | Z_{3} | + . . .

$Z = |Z_1| + |Z_2| + |Z_3| + ...$

mais il est préférable de mettre tous les termes au carré, car vous obtenez immédiatement des valeurs positives et les valeurs plus élevées ressortent davantage après la quadrature. Vous obtenez donc ce qui suit:

χ^{2} = Z_{1}^{2} + Z_{2}^{2} + Z_{3}^{2} + . . .

$\chi^2 = Z_1^2 + Z_2^2 + Z_3^2 +...$

Mais je ne sais pas non plus pourquoi cette somme devrait suivre la , ni quel est le lien avec la définition de la (somme des carrés des variables indépendantes normales normales). $\chi^2$ $\chi^2$

EDIT: J'apprends toujours des statistiques et je ne pense toujours pas comprendre correctement le test . J'espère que d'autres pourront m'éclairer aussi. $\chi^2$

— CamilB
source