Que signifie linéaire dans la régression linéaire?

En R, si j'écris

lm(a ~ b + c + b*c) 

serait-ce encore une régression linéaire?

Comment faire d'autres types de régression en R? J'apprécierais toute recommandation de manuels ou de tutoriels?

Linéaire fait référence à la relation entre les paramètres que vous estimez (par exemple, ) et le résultat (par exemple, ). Par conséquent, est linéaire, mais ne l'est pas. Un modèle linéaire signifie que votre estimation de votre vecteur de paramètres peut être écrite , où les sont des poids déterminés par votre procédure d'estimation. Les modèles linéaires peuvent être résolus algébriquement sous forme fermée, tandis que de nombreux modèles non linéaires doivent être résolus par maximisation numérique à l'aide d'un ordinateur.y i y = e x β + ε y = e β x + ε β = Σ i w i y i { w i$\beta$$y_i$$y=e^x\beta+\epsilon$$y=e^\beta x + \epsilon$$\hat{\beta} = \sum_i{w_iy_i}$$\{w_i\}$

Ce message sur minitab.com fournit une explication très claire:

• Un modèle est linéaire lorsqu'il peut être écrit dans ce format:
  • Response = constant + parameter * predictor + ... + parameter * predictor
    • Autrement dit, lorsque chaque terme (dans le modèle) est soit une constante, soit le produit d'un paramètre et d'une variable prédictive.
  • Ainsi , les deux d' entre eux sont des modèles linéaires:
    • $Y = B_0 + B_1X_1$ (Ceci est une ligne droite)
    • $Y = B_0 + B_1X_1^2$ (Ceci est une courbe)
• Si le modèle ne peut pas être exprimé en utilisant le format ci-dessus, il est non linéaire.
  • Exemples de modèles non linéaires:
    • X B 1$Y = B_0 +$$X_1^{B_1}$
    • $Y = B_0 \centerdot \cos (B_1 \centerdot X_1)$

Je serais prudent en posant cela comme une question de "régression linéaire R" par rapport à une question de "régression linéaire". Les formules dans R ont des règles que vous ne connaissez peut-être pas. Par exemple:

http://wiener.math.csi.cuny.edu/st/stRmanual/ModelFormula.html

En supposant que vous demandez si l'équation suivante est linéaire:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * (b*c))

La réponse est oui, si vous assemblez une nouvelle variable indépendante telle que:

newv = b * c

La substitution de l'équation newv ci-dessus dans l'équation d'origine ressemble probablement à ce que vous attendez d'une équation linéaire:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * newv)

En ce qui concerne les références, Google "r régression", ou tout ce que vous pensez pourrait fonctionner pour vous.

Vous pouvez écrire la régression linéaire sous la forme d'une équation matricielle (linéaire).

$\left[ \matrix{a_1 \\a_2 \\a_3 \\a_4 \\a_5 \\ ... \\ a_n} \right] = \left[ \matrix{b_1 & c_1 & b_1*c_1 \\ b_2 & c_2 & b_2*c_2 \\b_3 & c_3 & b_3*c_3 \\b_4 & c_4 & b_4*c_4 \\b_5 & c_5 & b_5*c_5 \\ &...& \\ b_n & c_n & b_n*c_n } \right] \times \left[\matrix{\alpha_b & \alpha_c & \alpha_{b*c}} \right] + \left[ \matrix{\epsilon_1 \\\epsilon_2 \\\epsilon_3 \\\epsilon_4 \\\epsilon_5 \\ ... \\ \epsilon_n} \right]$

ou si vous l'effondrez:

$\mathbf{a} = \alpha_b \mathbf{b} + \alpha_c \mathbf{c} + \alpha_{b*c} \mathbf{b*c} + \mathbf{\epsilon}$

Cette régression linéaire équivaut à trouver la combinaison linéaire des vecteurs , et plus proche du vecteur .c b ∗ c $\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$$\mathbf{a}$

(Ceci a également une interprétation géométrique comme trouvant la projection de sur la portée des vecteurs , et . Pour un problème avec deux vecteurs de colonne avec trois mesures, cela peut toujours être dessiné comme une figure, par exemple, comme indiqué ici: http://www.math.brown.edu/~banchoff/gc/linalg/linalg.html )b c b ∗ $\mathbf{a}$$\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$

La compréhension de ce concept est également importante dans la régression non linéaire. Par exemple, il est beaucoup plus facile de résoudre que car le premier paramétrage permet de résoudre les et des coefficients avec les techniques de régression linéaire. y = u ( e c ( t - v ) + e d ( t - v ) ) a $y=a e^{ct} + b e^{dt}$$y=u(e^{c(t-v)}+e^{d(t-v)})$$a$$b$