Coefficient de détermination (

Je veux saisir pleinement la notion de décrivant la quantité de variation entre les variables. Chaque explication Web est un peu mécanique et obtuse. Je veux "comprendre" le concept, pas seulement utiliser mécaniquement les chiffres.$r^2$

Par exemple: heures étudiées vs score au test

$r$ = 0,8

$r^2$ = 0,64

• Qu'est-ce que cela signifie?
• 64% de la variabilité des résultats des tests peut s'expliquer par les heures?
• Comment savons-nous cela simplement en quadrature?

Commencez avec l'idée de base de la variation. Votre modèle de départ est la somme des écarts au carré de la moyenne. La valeur R ^ 2 est la proportion de cette variation qui est prise en compte en utilisant un modèle alternatif. Par exemple, le R au carré vous indique la part de la variation de Y dont vous pouvez vous débarrasser en additionnant les distances au carré d'une ligne de régression, plutôt que la moyenne.

Je pense que cela est parfaitement clair si nous pensons au problème de régression simple tracé. Considérons un nuage de points typique où vous avez un prédicteur X le long de l'axe horizontal et une réponse Y le long de l'axe vertical.

La moyenne est une ligne horizontale sur le graphique où Y est constant. La variation totale de Y est la somme des différences au carré entre la moyenne de Y et chaque point de données individuel. C'est la distance entre la ligne moyenne et chaque point individuel au carré et additionné.

Vous pouvez également calculer une autre mesure de variabilité après avoir obtenu la ligne de régression du modèle. Il s'agit de la différence entre chaque point Y et la droite de régression. Plutôt que chaque (Y - la moyenne) au carré, nous obtenons (Y - le point sur la droite de régression) au carré.

Si la ligne de régression est tout sauf horizontale, nous obtiendrons moins de distance totale lorsque nous utiliserons cette ligne de régression ajustée plutôt que la moyenne - c'est-à-dire qu'il y a moins de variation inexpliquée. Le rapport entre la variation supplémentaire expliquée et la variation d'origine est votre R ^ 2. C'est la proportion de la variation d'origine de votre réponse qui s'explique par l'ajustement de cette droite de régression.

Voici un code R pour un graphique avec la moyenne, la ligne de régression et les segments de la ligne de régression à chaque point pour aider à visualiser:

library(ggplot2)
data(faithful)

plotdata <- aggregate( eruptions ~ waiting , data = faithful, FUN = mean) 

linefit1 <- lm(eruptions ~ waiting, data = plotdata)

plotdata$expected <- predict(linefit1)
plotdata$sign <- residuals(linefit1) > 0

p <- ggplot(plotdata, aes(y=eruptions, x=waiting, xend=waiting, yend=expected) )  

p  + geom_point(shape = 1, size = 3) +
     geom_smooth(method=lm, se=FALSE) + 
     geom_segment(aes(y=eruptions, x=waiting, xend=waiting, yend=expected, colour = sign),  
                  data = plotdata) +
     theme(legend.position="none")  +
     geom_hline(yintercept = mean(plotdata$eruptions), size = 1)

Une démonstration mathématique de la relation entre les deux est ici: corrélation de Pearson et analyse de régression des moindres carrés .

Je ne sais pas s'il existe une intuition géométrique ou toute autre intuition qui peut être proposée en dehors des mathématiques, mais si je peux en penser une, je mettrai à jour cette réponse.

Mise à jour: Intuition géométrique

$x$$y$$y$

$y = x\ \beta + \epsilon$

$y_1,y_2$$x_1,x_2$

texte alternatif http://a.imageshack.us/img202/669/linearregression1.png

$\beta$$x\ \beta$$y$$\beta$$x$$\hat{\beta}$$\beta$$y$$\hat{y} = x\ \hat{\beta}$

$y = \hat{y} + \hat{\epsilon}$

$y$$\hat{y}$$\hat{\epsilon}$$\hat{\beta}$

$\beta$$x\ \beta$$\hat{\epsilon}$

$y$$y$$x$$y$$y_1^2+y_2^2$$y$$\hat{y}$$\hat{y}$

Par le théorème de Pythagore, nous avons:

$y^2 = \hat{y}^2 + \hat{\epsilon}^2$

$x$$\frac{\hat{y}^2}{y^2}$$cos(\theta) = \frac{\hat{y}}{y}$

Par conséquent, nous avons la relation requise:

$y$$x$

J'espère que cela pourra aider.

L' applet Regression By Eye pourrait être utile si vous essayez de développer une certaine intuition.

Il vous permet de générer des données, puis de deviner une valeur pour R , que vous pouvez ensuite comparer avec la valeur réelle.