Relation entre

Disons que j'ai deux tableaux à dimension, un $a_1$ et . Chacun contient 100 points de données. correspond aux données réelles et la prédiction du modèle. Dans ce cas, la valeur de serait: Entre-temps, cela serait égal à la valeur carrée du coefficient de corrélation, Maintenant, si j'échange les deux: a_2 correspond aux données réelles et a_1 correspond à la prédiction du modèle. À partir de l'équation (2)$a_2$$a_1$$a_2$$R^2$

$$R^2 = 1 - \frac{SS_{res}}{SS_{tot}} \quad\quad\quad\quad\quad\ \ \quad\quad(1).$$ $$R^2 = (\text{Correlation Coefficient})^2 \quad (2).$$ $a_2$$a_1$$(2)$, parce que le coefficient de corrélation importe peu ce qui vient en premier, la valeur $R^2$ serait la même. Cependant, d'après l'équation $(1)$ , $SS_{tot}=\sum_i(y_i - \bar y )^2$ , la valeur $R^2$ changera, car $SS_{tot}$ a changé si nous passons $y$ de $a_1$ à $a_2$ ; pendant ce temps, $SS_{res}=\sum_i(f_i-\bar y)^2$ ne change pas.

Ma question est la suivante: comment peuvent-ils se contredire?

Modifier :

1. Je me demandais cela, sera la relation dans Eq. (2) tient toujours, s'il ne s'agit pas d'une simple régression linéaire, c'est-à-dire que la relation entre IV et DV n'est pas linéaire (pourrait être exponentielle / log)?

2. Cette relation sera-t-elle toujours valide si la somme des erreurs de prédiction n'est pas égale à zéro?

Cela est vrai que changera ... mais vous avez oublié le fait que la somme de régression des carrés changera aussi. Considérons donc le modèle de régression simple et désignons le coefficient de corrélation par r 2 x y = S 2 x $SS_{tot}$ , où j'ai utilisé le sous-indicexypour souligner le fait quexest la variable indépendante etyla variable dépendante. Évidemment,r2 x y est inchangé si vous échangezxavecy. On peut facilement montrer queSSRxy=Syy(R2 x y ), oùSSRxyest la somme de régression des carrés et $r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$ est la somme totale des carrés où x est indépendant et y est une variable dépendante. Donc: R 2 x y = S S R x $S_{yy}$$x$$y$oùSSExyest la somme résiduelle de carrés correspondant oùxest indépendant etyest variable dépendante. Notez que dans ce cas, nous avonsSSExy=b2 x y Sxxavecb=Sx

$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}=\dfrac{S_{yy}-SSE_{xy}}{S_{yy}},$$ $SSE_{xy}$$x$$y$$SSE_{xy}=b^2_{xy}S_{xx}$ (Voir, par exemple, l'équation (34) - (41)ici.) Par conséquent:R2 x y =Syy- S 2 x $b=\dfrac{S_{xy}}{S_{xx}}$Clairement, l'équation ci-dessus est symétrique par rapport àxety. En d'autres termes:R2 x y =R2 y x . En résumé, lorsque vous modifiezxavecydans le modèle de régression simple, le numérateur et le dénominateur deR2 x y =SSRx $$R_{xy}^2=\dfrac{S_{yy}-\dfrac{S^2_{xy}}{S^2_{xx}}.S_{xx}}{S_{yy}}=\dfrac{S_{yy}S_{xx}-S^2_{xy}}{S_{xx}.S_{yy}}.$$ $x$$y$ $$R_{xy}^2=R_{yx}^2.$$ $x$$y$ changera de manière à ce queR2 x y =R2 y x$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}$$R_{xy}^2=R_{yx}^2.$

Une façon d'interpréter le coefficient de détermination est de regarder comme le coefficient de corrélation Pearson au carré entre les valeurs observées y i et les valeurs ajustées y i .$R^{2}$$y_{i}$$\hat{y}_{i}$

La preuve complète permettant de déduire le coefficient de détermination R2 du coefficient de corrélation de Squared Pearson entre les valeurs observées yi et les valeurs ajustées y ^ i est disponible sous le lien suivant:

http://economictheoryblog.wordpress.com/2014/11/05/proof/

In my eyes it should be pretty easy to understand, just follow the single steps. I guess looking at it is essential to understand how the realtionship between the two key figures actually works.

In case of simple linear regression with only one predictor $R^2 = r^2 = Corr(x,y)^2$. But in multiple linear regression with more than one predictors the concept of correlation between the predictors and the response does not extend automatically. The formula gets:

$$R^2 = Corr(y_{estimated},y_{observed})^2$$

The square of the correlation between the response and the fitted linear model.

@Stat has provided a detailed answer. In my short answer I'll show briefly in somewhat different way what is the similarity and difference between $r$ and $r^2$.

$r$ is the standardized regression coefficient beta of $Y$ by $X$ or of $X$ by $Y$ and as such, it is a measure of the (mutual) effect size. Which is most clearly seen when the variables are dichotomous. Then $r$, for example, $.30$ means that 30% of cases will change its value to opposite in one variable when the other variable changes its value to the opposite.

$r^2$, on the other hand, is the expression of the proportion of co-variability in the total variability: $r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$. Note that this is a product of two proportions, or, more precise to say, two ratios (a ratio can be >1). If loosely imply any proportion or ratio to be a quasi-probability or propensity, then $r^2$ expresses "joint probability (propensity)". Another and as valid expression for the joint product of two proportions (or ratios) would be their geometric mean, $\sqrt{prop*prop}$, which is very $r$.

(The two ratios are multiplicative, not additive, to stress the idea that they collaborate and cannot compensate for each other, in their teamwork. They have to be multiplicative because the magnitude of $cov$ is dependent on both magnitudes $\sigma_x^2$ and $\sigma_y^2$ and, conformably, $cov$ has to be divided two times in once - in order to convert itself to a proper "proportion of the shared variance". But $cov$, the "cross-variance", shares the same measurement units with both $\sigma_x^2$ and $\sigma_y^2$, the "self-variances", and not with $\sigma_x \sigma_y$, the "hybrid variance"; that is why $r^2$, not $r$, is more adequate as the "proportion of shared variance".)

So, you see that meaning of $r$ and $r^2$ as a measure of the quantity of the association is different (both meanings valid), but still these coefficients in no way contradict each other. And both are the same whether you predict $Y\text~X$ or $X\text~Y$.

I think you might be mistaken. If $R^2=r^2$, I assume you have a bivariate model: one DV, one IV. I don't think $R^2$ will change if you swap these, nor if you replace the IV with the predictions of the DV that are based on the IV. Here's code for a demonstration in R:

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

If you aren't working with a bivariate model, your choice of DV will affect $R^2$...unless your variables are all identically correlated, I suppose, but this isn't much of an exception. If all the variables have identical strengths of correlation and also share the same portions of the DV's variance (e.g. [or maybe "i.e."], if some of the variables are completely identical), you could just reduce this to a bivariate model without losing any information. Whether you do or don't, $R^2$ still wouldn't change.

In all other cases I can think of with more than two variables, $R^2\ne r^2$ where $R^2$ is the coefficient of determination and $r$ is a bivariate correlation coefficient of any kind (not necessarily Pearson's; e.g., possibly also a Spearman's $\rho$).