Déterminer la vraie moyenne à partir d'observations bruyantes

J'ai un grand ensemble de points de données du formulaire (moyenne, stdev). Je souhaite réduire cela à une moyenne (meilleure) et à un écart-type (espérons-le) plus petit.

De toute évidence, je pourrais simplement calculer , mais cela ne tient pas compte du fait que certains points de données sont nettement plus précis que d'autres. $\frac{\sum data_{mean}}{N}$

Pour le dire simplement, je souhaite effectuer une moyenne pondérée de ces points de données, mais je ne sais pas quelle devrait être la fonction de pondération en termes d'écart type.

normal-distribution repeated-measures weighted-mean

— Michael
source

Vous recherchez un estimateur linéaire pour la moyenne de la forme $\mu$

\hat{μ} = \sum_{i = 1}^{n} α_{i} x_{i}

$\hat{\mu} = \sum_{i=1}^{n} \alpha_i x_i$

où les sont les poids et les sont les observations. L'objectif est de trouver des valeurs appropriées pour les poids. Soit la véritable déviation standard de , qui pourrait coïncider ou non avec la déviation standard estimée que vous avez probablement. Supposons que les observations ne sont pas biaisées; c'est-à-dire que leurs attentes sont toutes égales à la moyenne . En ces termes, nous pouvons calculer que l'attente de est $\alpha_i$ $x_i$ $\sigma_i$ $x_i$ $\mu$ $\hat{\mu}$

E [\hat{μ}] = \sum_{i = 1}^{n} α_{i} E [x_{i}] = μ \sum_{i = 1}^{n} α_{i}

$\mathbb{E}[\hat{\mu}] = \sum_{i=1}^{n} \alpha_i \mathbb{E}[x_i] = \mu \sum_{i=1}^{n} \alpha_i$

et (à condition que les soient pas corrélés) la variance de cet estimateur est $x_i$

Var [\hat{μ}] = \sum_{i = 1}^{n} α_{i}^{2} σ_{i}^{2} .

$\operatorname{Var}\left[\hat{\mu}\right] = \sum_{i=1}^{n} \alpha_i^2 \sigma_i^2.$

À ce stade, de nombreuses personnes exigent que l'estimateur soit sans biais; c'est-à-dire que nous voulons que son attente soit égale à la vraie moyenne. Cela implique que les poids doivent correspondre à l'unité. Sous réserve de cette restriction, la précision de l'estimateur (mesurée avec l'erreur quadratique moyenne) est optimisée en minimisant la variance. La solution unique (facilement obtenue avec un multiplicateur de Lagrange ou en réinterprétant la situation géométriquement comme un problème de minimisation de distance) est que les poids doivent être proportionnels à . $\alpha_i$ $1/\sigma_i^2$ La restriction somme-à-unité fixe leurs valeurs, ce qui donne

\hat{μ} = \frac{\sum_{i = 1}^{n} x_{i} / σ_{i}^{2}}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}}

$\hat{\mu} = \frac{\sum_{i=1}^{n} x_i / \sigma_i^2}{\sum_{i=1}^{n} 1 / \sigma_i^2}$

Var [\hat{μ}] = \frac{1}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}} = \frac{1}{n} {(\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{σ_{i}^{2}})}^{- 1} .

$\operatorname{Var}\left[\hat\mu\right] = \frac{1}{\sum_{i=1}^{n} 1 / \sigma_i^2} = \frac{1}{n} \left(\frac{1}{n} \sum_{i=1}^n \frac{1}{\sigma_i^2}\right)^{-1}.$

Dans les mots,

l'estimateur sans biais de variance minimale de la moyenne est obtenu en rendant les poids inversement proportionnels aux variances; la variance de cet estimateur est fois la moyenne harmonique des variances. $1/n$

Nous ne connaissons généralement pas les vraies variances . Tout ce que nous pouvons faire est de rendre les poids inversement proportionnels aux variances estimées (les carrés de vos écarts-types) et espérons que cela fonctionnera bien. $\sigma_i$

— whuber
source

et lié à cette réponse, également de whuber: stats.stackexchange.com/questions/9071/…

— Henry

Que se passerait-il si nous ne «supposons pas que les observations sont non biaisées»? Avec cette affirmation, vous dites que si des mesures individuelles aléatoires infinies sont ajoutées à l'observation nous obtenons la moyenne mu?

x_{i}

$x_i$

— user1420303