R régression polynomiale au carré et d'ordre supérieur

Le graphique ci-dessous montre la saturation d'une route par rapport à l'impact sur le temps de trajet (normalisé en temps de trajet en flux libre).

La courbe bleue (fonction BPR) présente un modèle standardisé utilisé sur le terrain pour relier le temps de trajet et la saturation.

Pour les données empiriques que j'ai recueillies, j'ai tracé un ajustement polynomial du troisième ordre, montré en rouge. Afin d'évaluer cet ajustement, j'ai trouvé le pour cet ajustement de troisième ordre. Cela a été donné comme 0,72. $R^2$

J'ai parlé à un collègue de et il m'a signalé cet article. Pourquoi n'y a-t-il pas de R au carré pour la régression non linéaire? $R^2$

J'ai trouvé de nombreux articles où est utilisé pour évaluer l'ajustement d'un polynôme d'ordre supérieur et je suis maintenant plutôt confus. $R^2$

Est inappropriée dans ce cas? Que dois-je utiliser à la place? $R^2$

regression chi-squared r-squared

— Apprendre lentement
source

La régression polynomiale est linéaire - ce sont les coefficients qui déterminent la linéarité du modèle, pas la matrice du modèle. En fait, consultez ce poste fantastique . Je pense donc que vous êtes sur la bonne voie.

— Antoni Parellada

Merci @AntoniParellada. Cela a permis une excellente lecture. Je suis aussi égoïstement content car je n'ai pas besoin de refaire quelques analyses;)

— LearningSlowly

Considérons un polynôme:

β_{0} + β_{1} x + β_{2} x^{2} + \dots + β_{k} x^{k}

$\beta_0 + \beta_1 x + \beta_2 x^2 + \ldots + \beta_k x^k$

Observez que le polynôme est non linéaire en mais qu'il est linéaire en . Si nous essayons d'estimer , il s'agit d'une régression linéaire! Linéarité dans est ce que importe. Lors de l'estimation de l'équation ci-dessus par les moindres carrés, tous les résultats de la régression linéaire sont valables. $x$ $\boldsymbol{\beta}$ $\boldsymbol{\beta}$

y_{i} = β_{0} + β_{1} x_{i} + β_{2} x_{i}^{2} + \dots + β_{k} x_{i}^{k} + ϵ_{i}

$y_i = \beta_0 + \beta_1 x_i + \beta_2 x_i^2 + \ldots + \beta_k x_i^k + \epsilon_i$

β = (β_{0}, β_{1}, \dots, β_{k})

$\boldsymbol{\beta} = (\beta_0, \beta_1, \ldots, \beta_k)$

Soit la somme totale des carrés, la somme expliquée des carrés et la somme résiduelle des carrés. Le coefficient de détermination est défini comme: $\mathit{SST}$ $\mathit{SSE}$ $\mathit{SSR}$ $R^2$

R^{2} = 1 - \frac{S S R}{S S T}

$R^2 = 1 - \frac{\mathit{SSR}}{\mathit{SST}}$

Et le résultat de la régression linéaire que donne à son interprétation familière comme la fraction de variance expliquée par le modèle. $\mathit{SST} = \mathit{SSE} + \mathit{SSR}$ $R^2$

SST = SSE + SSR: quand est-ce vrai et quand n'est-ce pas vrai?

Soit la valeur prévisionnelle de et soit le résiduel. De plus, définissons la valeur de prévision dégradée comme . $\hat{y}_i$ $y_i$ $e_i = y_i - \hat{y}_i$ $f_i = \hat{y}_i - \bar{y}$

Soit désigne un produit intérieur . Trivialement, nous avons: Observez que est un produit interne valide. Ensuite nous avons: $\langle ., . \rangle$

\begin{aligned} ⟨ f + e, f + e ⟩ & = ⟨ f, f ⟩ + 2 ⟨ f, e ⟩ + ⟨ e, e ⟩ \\ = ⟨ f, f ⟩ + ⟨ e, e ⟩ if f and e orthogonal, i.e. their inner product is 0 \end{aligned}

$\begin{align*} \langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle &= \langle \mathbf{f}, \mathbf{f} \rangle + 2\langle \mathbf{f}, \mathbf{e} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \\ &= \langle \mathbf{f}, \mathbf{f} \rangle + \langle \mathbf{e}, \mathbf{e} \rangle \quad \quad\text{if $\mathbf{f}$ and $\mathbf{e}$ orthogonal, i.e. their inner product is 0} \end{align*}$

⟨ a, b ⟩ = \sum_{i} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \sum_i a_i b_i$

$\langle \mathbf{f} + \mathbf{e}, \mathbf{f} + \mathbf{e} \rangle = \sum_i \left(y_i - \bar{y} \right)^2$ est la somme totale de carrés (SST).
$\langle \mathbf{f}, \mathbf{f} \rangle = \sum_i \left(\hat{y}_i - \bar{y} \right)^2$ est la somme expliquée des carrés (SSE).
$\langle \mathbf{e}, \mathbf{e} \rangle = \sum_i \left(y_i - \hat{y}_i \right)^2$ est la somme résiduelle des carrés (SSR).

Ainsi, est vrai si la prévision dégradée est orthogonale au résiduel . Cela est vrai dans la régression linéaire des moindres carrés ordinaires chaque fois qu'une constante est incluse dans la régression. Une autre interprétation des moindres carrés ordinaires est que vous projetiez sur la durée linéaire de variables explicatives, d' où le résidu est orthogonale à cet espace par la construction. L'orthogonalité des variables et des résidus de droite n'est généralement pas vraie pour les prévisions obtenues par d'autres moyens. $SST = SSE + SSR$ $\mathbf{f}$ $\mathbf{e}$ $\mathbf{y}$ $\hat{y}_i$

— Matthew Gunn
source