Que se passe-t-il lorsque j'inclus une variable au carré dans ma régression?

Je commence par ma régression OLS: où D est une variable fictive, les estimations deviennent différentes de zéro avec une faible valeur de p. Je fais ensuite un test Ramsey RESET et constate que j'ai une mauvaise déformation de l'équation, j'inclus donc au carré x:

y = β_{0} + β_{1} x_{1} + β_{2} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2 D + \varepsilon$

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Qu'est-ce que le terme au carré explique? (Augmentation non linéaire de Y?)
En faisant cela, mon estimation D ne varie plus de zéro, avec une valeur p élevée. Comment interpréter le terme au carré dans mon équation (en général)?

Edit: Amélioration de la question.

— seini
source

doublon possible des raisons pour lesquelles les résultats ANOVA / régression changent lors du contrôle d'une autre variable

— Macro

Raison probable:

x_{1}^{2}

$x_{1}^2$ et

D

$D$ semblent expliquer la même variabilité en

y

$y$

— poisson régulier

Une chose qui pourrait aider est de centrer

x

$x$ avant de créer votre terme au carré (voir ici ). Quant à l'interprétation de votre terme au carré, je soutiens qu'il est préférable d'interpréter

β_{1} x_{1} + β_{2} x_{1}^{2}

$\beta_1x_1+\beta_2x_1^2$ dans son ensemble (voir ici ). Une autre chose est que vous pourriez avoir besoin d'une interaction, ce qui signifie ajouter

β_{4} x_{1} D + β_{5} x_{1}^{2} D

$\beta_4x_1D+\beta_5x_1^2D$ .

— gung - Réintégrer Monica

Je ne pense pas que ce soit vraiment un double de cette question; la solution est différente (le centrage des variables fonctionne ici, mais pas là, sauf erreur de ma part)

— Peter Flom - Reinstate Monica

@Peter, j'interprète cette question comme un sous-ensemble de "Pourquoi est-ce que lorsque j'ajoute une variable à mon modèle, l'estimation de l'effet / la valeur

p

$p$ pour certains autres changements de variable?", Qui est abordée dans l'autre question. Parmi les réponses à cette question sont colinéarité (qui Gung fait faire allusion dans sa réponse à cette question) / chevauchement contenu entre les prédicteurs (entre

D

$D$ et

(x_{1}, x_{1}^{2})

$(x_1,x_1^2)$ , que je soupçonne est le coupable dans ce cas). La même logique s'applique ici. Je ne sais pas quelle est la controverse, mais c'est bien si vous et d'autres n'êtes pas d'accord. À votre santé.

— Macro

Réponses:

Eh bien, tout d'abord, la variable fictive est interprétée comme un changement d'interception. Autrement dit, votre coefficient vous donne la différence dans l'ordonnée à l'origine lorsque , c'est-à-dire lorsque , l'ordonnée à l'origine est . Cette interprétation ne change pas lors de l'ajout du carré . $\beta_3$ $D=1$ $D=1$ $\beta_0 + \beta_3$ $x_1$

Maintenant, le point d'ajouter un carré à la série est que vous supposez que la relation se dissipe à un certain point. En regardant votre deuxième équation

y = β_{0} + β_{1} X_{1} + β_{2} X_{1}^{2} + β_{3} ré + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Prendre le dérivé par rapport aux rendements $x_1$

\frac{δ y}{δ X_{1}} = β_{1} + 2 β_{2} X_{1}

$\frac{\delta y}{\delta x_1} = \beta_1 + 2\beta_2 x_1$

La résolution de cette équation vous donne le tournant de la relation. Comme l'explique l'utilisateur 1493368, cela reflète en effet une forme en U inverse si et vice versa. Prenons l'exemple suivant: $\beta_1<0$

\hat{y} = 1,3 + 0,42 X_{1} - 0,32 X_{1}^{2} + 0,14 ré

$\hat{y} = 1.3 + 0.42 x_1 - 0.32 x_1^2 + 0.14D$

La dérivée wrt est $x_1$

\frac{δ y}{δ X_{1}} = 0,42 - 2 * 0,32 X_{1}

$\frac{\delta y}{\delta x_1} = 0.42 - 2*0.32 x_1$

La résolution de vous donne $x_1$

\frac{δ y}{δ X_{1}} = 0 ⟺ X_{1} \approx 0,66

$\frac{\delta y}{\delta x_1} = 0 \iff x_1 \approx 0.66$

C'est le point où la relation a son tournant. Vous pouvez jeter un œil à la sortie de Wolfram-Alpha pour la fonction ci-dessus, pour une visualisation de votre problème.

Rappelez-vous, lorsque vous interprétez l'effet ceteris paribus d'un changement de sur , vous devez regarder l'équation: $x_1$ $y$

Δ y = (β_{1} + 2 β_{2} X_{1}) Δ X

$\Delta y = (\beta_1 + 2\beta_2x_1)\Delta x$

Autrement dit, vous ne pouvez pas interpréter isolément, une fois que vous avez ajouté le régresseur carré ! $\beta_1$ $x_1^2$

En ce qui concerne votre insignifiant après avoir inclus le carré , il pointe vers un biais de mauvaise spécification. $D$ $x_1$

— altabq
source

Salut. Si vous aviez plusieurs prédicteurs, devriez-vous utiliser des dérivées partielles ou des dérivées totales (diférentielles)?

— skan

Une dérivée partielle est toujours la bonne voie à suivre ici. L'interprétation de tous les coefficients est ceteris paribus , c'est-à-dire que tout le reste est constant. C'est exactement ce que vous faites lorsque vous prenez une dérivée partielle.

— altabq

Voir cette page UCLA IDRE pour compléter la grande réponse de @ altabq.

— Cyrille

Un bon exemple d'inclusion d'un carré de variable provient de l'économie du travail. Si vous supposez en ytant que salaire (ou logarithme du salaire) et xen tant qu'âge, l'inclusion x^2signifie que vous testez la relation quadratique entre un âge et la rémunération. Le salaire augmente avec l'âge au fur et à mesure que les gens deviennent plus expérimentés, mais à un âge plus élevé, le salaire commence à augmenter à un rythme décroissant (les gens vieillissent et ils ne seront pas en aussi bonne santé pour travailler qu'auparavant) et à un moment donné, le salaire n'augmente pas ( atteint le niveau de salaire optimal) puis commence à baisser (ils prennent leur retraite et leurs gains commencent à diminuer). Ainsi, la relation entre le salaire et l'âge est en U inversé (effet du cycle de vie). En général, pour l'exemple mentionné ici, le coefficient sur agedevrait être positif et que surage^2Le point ici est qu'il devrait y avoir une base théorique / justification empirique pour l'inclusion du carré de la variable. La variable muette, ici, peut être considérée comme représentant le sexe du travailleur. Vous pouvez également inclure le terme d'interaction du sexe et de l'âge pour examiner si la différence de genre varie selon l'âge.

— Métrique
source