Méthode générale pour dériver l'erreur standard

Je n'arrive pas à trouver une méthode générale pour dériver des erreurs standard n'importe où. J'ai regardé sur Google, ce site Web et même dans des manuels, mais tout ce que je peux trouver, c'est la formule des erreurs standard pour la moyenne, la variance, la proportion, le rapport de risque, etc ... et non pas comment ces formules ont été établies.

Si un organisme pouvait l'expliquer en termes simples ou même me lier à une bonne ressource qui l'explique, je lui en serais reconnaissant.

standard-error

— Daniel Gardiner
source

Je fournis un modèle simple général et l'applique, avec tous les détails élaborés , dans la publication à stats.stackexchange.com/a/18609/919 . Ceci et bien d'autres messages sur les erreurs standard (près d'un millier à ce jour) peuvent être trouvés en recherchant sur notre site "erreur standard"

— whuber

Ce que vous voulez trouver, c'est l'écart-type de la distribution d'échantillonnage de la moyenne. C'est-à-dire, dans un langage simple, la distribution d'échantillonnage est lorsque vous choisissez éléments de votre population, les additionnez et divisez la somme par . Nous trouvons ensuite la variance de cette quantité et obtenons l'écart type en prenant la racine carrée de sa variance. $n$ $n$

Donc, que les éléments que vous choisissez soient représentés par les variables aléatoires , chacune étant identiquement distribuée avec la variance . Ils sont échantillonnés indépendamment, donc la variance de la somme n'est que la somme des variances. $X_i, 1\le i \le n$ $\sigma^2$

Var (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} Var (X_{i}) = \sum_{i = 1}^{n} σ^{2} = n σ^{2}

$\text{Var}\left(\sum_{i=1}^n X_i\right) = \sum_{i=1}^n\text{Var}\left(X_i\right) = \sum_{i=1}^n\sigma^2 = n\sigma^2$

Ensuite, nous divisons par . Nous savons en général que , donc en mettant nous avons $n$ $\text{Var}(kY)=k^2 \text{Var}(Y)$ $k=1/n$

Var (\frac{\sum_{i = 1}^{n} X_{i}}{n}) = \frac{1}{n^{2}} Var (\sum_{i = 1}^{n} X_{i}) = \frac{1}{n^{2}} n σ^{2} = \frac{σ^{2}}{n}

$\text{Var}\left(\frac{\sum_{i=1}^n X_i}{n}\right) = \frac{1}{n^2} \text{Var}\left(\sum_{i=1}^n X_i\right) = \frac{1}{n^2} n\sigma^2 = \frac{\sigma^2}{n}$

Enfin, prenez la racine carrée pour obtenir l'écart type . Lorsque l'écart-type de population n'est pas disponible, l'écart-type d'échantillon est utilisé comme estimation, donnant . $\dfrac{\sigma}{\sqrt{n}}$ $s$ $\dfrac{s}{\sqrt{n}}$

Tout ce qui précède est vrai quelle que soit la distribution des , mais cela soulève la question de ce que vous voulez réellement faire avec l'erreur standard? En règle générale, vous souhaiterez peut-être construire des intervalles de confiance, et il est ensuite important d'attribuer une probabilité à la construction d'un intervalle de confiance qui contient la moyenne. $X_i$

Si vos sont normalement distribués, c'est facile, car alors la distribution d'échantillonnage est également normalement distribuée. Vous pouvez dire que 68% des échantillons de la moyenne se situeront à moins d'une erreur standard de la vraie moyenne, 95% seront à moins de 2 erreurs standard, etc. $X_i$

Si vous avez un échantillon suffisamment grand (ou un échantillon plus petit et que les ne sont pas trop anormaux), vous pouvez invoquer le théorème de la limite centrale et dire que la distribution d'échantillonnage est distribuée approximativement normalement, et vos énoncés de probabilité sont également approximatifs. $X_i$

Un exemple typique est l'estimation d'une proportion , où vous tirez éléments chacun d'une distribution de Bernouilli. La variance de chaque distribution est et donc l'erreur standard est (la proportion est estimée à l'aide des données). Pour ensuite dire qu'environ quelque% des échantillons se situent à l'intérieur de tant d'écarts-types de la moyenne, vous devez comprendre quand la distribution d'échantillonnage est approximativement normale. L'échantillonnage répété à partir d'une distribution de Bernouilli est identique à l'échantillonnage à partir d'une distribution binomiale, et une règle de base courante consiste à se rapprocher uniquement lorsque et sont $p$ $n$ $X_i$ $p(1-p)$ $\sqrt{p(1-p)/n}$ $p$ $np$ $n(1-p)$ $\ge5$ . (Voir wikipedia pour une discussion plus approfondie sur l'approximation du binôme avec la normale. Voir ici pour un exemple pratique d'erreurs standard avec une proportion.)

Si, d'autre part, votre distribution d'échantillonnage ne peut pas être approximée par une distribution normale, alors l'erreur standard est beaucoup moins utile. Par exemple, avec une distribution asymétrique très asymétrique, vous ne pouvez pas dire que le même% d'échantillons serait un écart type chaque côté de la moyenne, et vous voudrez peut-être trouver une manière différente d'associer les probabilités aux échantillons. $\pm1$

— TooTone
source

Merci, cette approche est logique et je peux voir comment elle s'applique à la moyenne, mais je ne vois pas comment l'étendre à d'autres statistiques. Par exemple, comment trouver l'erreur-type d'un taux? ou un rapport de taux?

— Daniel Gardiner

J'ai mis à jour mon message. Le point clé est que des quantités comme la moyenne, la variance, etc. - et donc stderr - peuvent être trouvées pour n'importe quelle distribution. Mais pour faire des énoncés de probabilité, vous devez savoir quelque chose sur la distribution, qu'elle soit normale, binomiale ou autre. Le stderr peut donc toujours être trouvé, mais son utilité dépend de la situation.

— TooTone

v a r (X_{i}) = σ^{2}

$var(X_i) = \sigma^2$

s^{2}

$s^2$

X_{i}

$X_i$

X_{i}

$X_i$

s^{2}

$s^2$

s^{2}

$s^2$

X_{i}

$X_i$

s^{2}

$s^2$

— TooTone

L'erreur standard est l'écart type de la statistique (sous l'hypothèse nulle, si vous testez). Une méthode générale pour trouver l'erreur standard serait de trouver d'abord la fonction de distribution ou de génération de moment de votre statistique, de trouver le deuxième moment central et de prendre la racine carrée.

$\mu$ $\sigma^2$ $\bar{X}=\frac{1}{n}\sum_{i=1}^{n} X_i$ $\mu$ $\sigma^2/n$

La somme des variables aléatoires indépendantes est normale,
$\mathrm{E}\left[\sum_{i=1}^{n} a_i X_i\right] = \sum_{i=1}^{n} a_i \mathrm{E}\left[ X_i \right]$
$X_1$ $X_2$ $\mathrm{Var}\left(a_1 X_1 + a_2 X_2 \right) = a_1^2 \mathrm{Var}\left(X_1\right) + a_2^2 \mathrm{Var}\left( X_2 \right)$

$\sigma/\sqrt{n}$

Il y a des raccourcis, comme vous n'avez pas nécessairement besoin de trouver la distribution de la statistique, mais je pense que conceptuellement, il est utile d'avoir les distributions à l'esprit si vous les connaissez.

— P Schnell
source