Quelle est la différence entre «coefficient de détermination» et «erreur quadratique moyenne»?

Pour le problème de régression, j'ai vu des gens utiliser le «coefficient de détermination» (alias R au carré) pour effectuer la sélection du modèle, par exemple pour trouver le coefficient de pénalité approprié pour la régularisation.

Cependant, il est également courant d'utiliser "l'erreur quadratique moyenne" ou "l'erreur quadratique moyenne" comme mesure de la précision de la régression.

Quelle est donc la principale différence entre ces deux? Pourraient-ils être utilisés de manière interchangeable pour les tâches de «régularisation» et de «régression»? Et quelle est la principale utilisation de chacun dans la pratique, comme dans l'apprentissage automatique, les tâches d'exploration de données?

regression r-squared

— dolaameng
source

, oùest la somme des erreurs au carré (résidus ou écarts par rapport à la droite de régression) etest la somme des écarts au carré de lamoyennede la personne à charge. $R^2=1-\frac{SSE}{SST}$ $SSE$ $SST$ $Y$

, oùest la taille de l'échantillon etest le nombre de paramètres dans le modèle (y compris l'interception, le cas échéant). $MSE=\frac{SSE}{n-m}$ $n$ $m$

est une mesure normalisée du degré de prévisibilité, ou de l'ajustement, dans l'échantillon. est l'estimation de la variance des résidus, ou non-ajustement, dans la population. Les deux mesures sont clairement liées, comme le montre la formule la plus courante pourle ajusté(l'estimation du pour la population): $R^2$ $MSE$ $R^2$ $R^2$

$R_{adj}^2=1-(1-R^2)\frac{n-1}{n-m}=1-\frac{SSE/(n-m)}{SST/(n-1)}=1-\frac{MSE}{\sigma_y^2}$

— tnphns
source

Je pensais que MSE est la moyenne des erreurs, ce qui signifie MSE = SSE / n, à quelles occasions utilisons-nous MSE = SSE / (nm)? S'il vous plaît, expliquez. Merci

— Sincole Brans

@SincoleBrans Veuillez consulter en.wikipedia.org/wiki/Mean_squared_error , section "Regression".

— ttnphns

Je suis un peu confus. Les résultats dans martin-thoma.com/regression montrent qu'un modèle peut être bon (par rapport à certains autres modèles) avec R ^ 2, mais en même temps mauvais avec MSE. Pourriez-vous expliquer cela?

— Martin Thoma