Pourquoi l'erreur-type de l'ordonnée à l'origine augmente-t-elle encore

L'erreur type du terme d'interception ( ) dans est donnée par où est la moyenne de la . $\hat{\beta}_0$ $y=\beta_1x+\beta_0+\varepsilon$

S E ({\hat{β}}_{0})^{2} = σ^{2} [\frac{1}{n} + \frac{{\bar{x}}^{2}}{\sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}}]

$SE(\hat{\beta}_0)^2 = \sigma^2\left[\frac{1}{n}+\frac{\bar{x}^2}{\sum_{i=1}^n(x_i-\bar{x})^2}\right]$

\bar{x}

$\bar{x}$

x_{i}

$x_i$

D'après ce que je comprends, le SE quantifie votre incertitude - par exemple, dans 95% des échantillons, l'intervalle $[\hat{\beta}_0-2SE,\hat{\beta}_0+2SE]$ contiendra le vrai $\beta_0$ . Je n'arrive pas à comprendre comment le SE, une mesure de l'incertitude, augmente avec $\bar{x}$ . Si je déplace simplement mes données, de sorte que $\bar{x}=0$ , mon incertitude diminue? Cela semble déraisonnable.

Une interprétation analogue est - dans la version non centrée de mes données, $\hat{\beta}_0$ correspond à ma prédiction à $x=0$ , tandis que dans les données centrées, $\hat{\beta}_0$ correspond à ma prédiction à $x=\bar{x}$ . Cela signifie-t-il alors que mon incertitude sur ma prédiction à $x=0$ est supérieure à mon incertitude sur ma prédiction à $x=\bar{x}$ ? Cela semble également déraisonnable, l'erreur $\epsilon$ a la même variance pour toutes les valeurs de $x$ , donc mon incertitude dans mes valeurs prédites devrait être la même pour tous les $x$ .

Il y a des lacunes dans ma compréhension, j'en suis sûr. Quelqu'un pourrait-il m'aider à comprendre ce qui se passe?

regression interpretation standard-error

— elexhobby
source

Avez-vous déjà régressé quelque chose contre une date? De nombreux systèmes informatiques commencent leurs dates dans un passé lointain, souvent il y a plus de 100 ou plus de 2000 ans. L'interception estime la valeur de vos données extrapolées en arrière à cette heure de début. Dans quelle mesure seriez-vous certain, par exemple, du produit intérieur brut de l'Irak au cours de l'année 0 après avoir régressé une série de données du 21e siècle?

— whuber

Je suis d'accord, cela a du sens si vous y pensez de cette façon. Ceci, et la réponse de Gung, clarifient les choses.

— elexhobby

Cette réponse donne une explication intuitive, avec des diagrammes) de son apparition, en exprimant la ligne ajustée en termes d'ajustement à la moyenne (la ligne ajustée passe par ) et montre pourquoi lorsque vous vous éloignez de (ce qui est dû à l'incertitude de la pente), la position de la ligne peut aller .

\bar{x}

$\bar x$

(\bar{x}, \bar{y})

$(\bar x,\bar y)$

\bar{x}

$\bar x$

— Glen_b -Reinstate Monica

Parce que la droite de régression ajustée par les moindres carrés ordinaires passera nécessairement par la moyenne de vos données (c'est-à-dire, ) - au moins tant que vous ne supprimez pas l'ordonnée à l'origine - incertitude sur la valeur réelle de la pente n'a aucun effet sur la position verticale de la ligne à la moyenne de ( par exemple, à ). Cela se traduit par moins d'incertitude verticale à que vous ne vous éloignez de . Si l'ordonnée à l'origine, où est $(\bar x, \bar y)$ $x$ $\hat y_{\bar x}$ $\bar x$ $\bar x$ $x=0$ $\bar x$ , cela minimisera votre incertitude sur la valeur réelle de . En termes mathématiques, cela se traduit par la plus petite valeur possible de l'erreur standard pour . $\beta_0$ $\hat\beta_0$

Voici un exemple rapide dans R:

set.seed(1)                           # this makes the example exactly reproducible
x0      = rnorm(20, mean=0, sd=1)     # the mean of x varies from 0 to 10
x5      = rnorm(20, mean=5, sd=1)
x10     = rnorm(20, mean=10, sd=1)
y0      = 5 + 1*x0  + rnorm(20)       # all data come from the same  
y5      = 5 + 1*x5  + rnorm(20)       #  data generating process
y10     = 5 + 1*x10 + rnorm(20)
model0  = lm(y0~x0)                   # all models are fit the same way
model5  = lm(y5~x5)
model10 = lm(y10~x10)

entrez la description de l'image ici

Ce chiffre est un peu occupé, mais vous pouvez voir les données de plusieurs études différentes où la distribution de était plus proche ou plus éloignée de . Les pentes diffèrent légèrement d'une étude à l'autre, mais sont largement similaires. (Avis ils vont tous à travers le X entouré d'un cercle que j'utilisé pour marquer .) Néanmoins, l'incertitude quant à la valeur réelle de ces pentes provoque l'incertitude sur pour étendre plus vous obtenez de , ce qui signifie que le $x$ $0$ $(\bar x, \bar y)$ $\hat y$ $\bar x$ $SE(\hat\beta_0)$ est très large pour les données qui ont été échantillonnées dans le voisinage de , et très étroite pour l'étude dans laquelle les données ont été échantillonnées près de . $x=10$ $x=0$

Modifier en réponse à un commentaire: Malheureusement, centrer vos données après que vous les avez ne vous aidera pas si vous voulez connaître la probable valeur à un certain valeur . Au lieu de cela, vous devez centrer votre collecte de données sur le point qui vous intéresse en premier lieu. Pour mieux comprendre ces problèmes, il peut vous être utile de lire ma réponse ici: Intervalle de prédiction de régression linéaire . $y$ $x$ $x_\text{new}$

— gung - Réintégrer Monica
source

Donc, disons pour une raison quelconque, je suis le plus intéressé par la prédiction à la valeur

. L'explication ci-dessus implique que je ne devrais pas centrer mes données (c'est-à-dire déplacer

pour que

), mais plutôt les déplacer pour que

. Est-ce correct?

x = x^{'}

$x=x'$

x

$x$

\bar{x} = 0

$\bar{x}=0$

\bar{x} = x^{'}

$\bar{x}=x'$

— elexhobby

La formule générale a

dans le numérateur au lieu de

: aucun décalage n'est nécessaire.

(x^{'} - \bar{x})^{2}

$(x^\prime - \bar{x})^2$

{\bar{x}}^{2}

$\bar{x}^2$

— whuber

@elexhobby, j'ai ajouté quelques informations pour répondre à votre commentaire, vous voudrez peut-être aussi regarder le matériel lié. Faites-moi savoir si vous en avez encore besoin.

— gung - Réintégrer Monica

Voici comment je comprends - je l' ai lu ailleurs que

. Maintenantl'erreur dans la valeur prédite à

raison de cette incertitude de la pente est

. De plus, l'erreur due à l'incertitude sur la position verticale de la ligne est

S E ({\hat{β}}_{1}) = \frac{σ^{2}}{\sum (x_{i} - \bar{x})^{2}}

$SE(\hat{\beta}_1)=\frac{\sigma^2}{\sum(x_i-\bar{x})^2}$

x_{n e w}

$x_{new}$

S E ({\hat{β}}_{1}) (x_{n e w} - \bar{x})^{2}

$SE(\hat{\beta}_1)(x_{new}-\bar{x})^2$

. Combiner cesensemble, et nous obtenons l'incertitude de la valeur préditeraison deincertitude dans

est

\frac{σ^{2}}{n}

$\frac{\sigma^2}{n}$

{\hat{β}}_{1}

$\hat{\beta}_1$

{\hat{β}}_{0}

$\hat{\beta}_0$

. Corrige moi si je me trompe.

\frac{σ^{2}}{n} + \frac{σ^{2} (x_{n e w} - \bar{x})^{2}}{\sum (x_{i} - \bar{x})^{2}}

$\frac{\sigma^2}{n}+\frac{\sigma^2(x_{new}-\bar{x})^2}{\sum(x_i-\bar{x})^2}$

— elexhobby

De plus, il est clair pourquoi l'erreur en position verticale est

- nous savons que la ligne doit passer par

. Maintenant,

contient la moyenne deserreurs

iid, et donc aura SE égal à

\frac{σ^{2}}{n}

$\frac{\sigma^2}{n}$

\bar{y}

$\bar{y}$

x = \bar{x}

$x=\bar{x}$

\bar{y}

$\bar{y}$

n

$n$

\frac{σ^{2}}{n}

$\frac{\sigma^2}{n}$