Base du coefficient de corrélation de Pearson

Le coefficient de corrélation de Pearson est calculé à l'aide de la formule $r = \frac{cov(X,Y)}{\sqrt{var(X)} \sqrt{var(Y)}}$. Comment cette formule contient-elle les informations selon lesquelles les deux variables et sont corrélées ou non? Ou, comment obtenir cette formule pour le coefficient de corrélation?$X$$Y$

Ce qui est important $cov(X,Y)$. Dénominateur$\sqrt{var(X)var(Y)}$ est pour se débarrasser des unités de mesure (si disons $X$ est mesurée en mètres et $Y$ en kilogrammes alors $cov(X,Y)$ est mesurée en mètres-kilogrammes, ce qui est difficile à comprendre) et pour la normalisation ($cor(X,Y)$ se situe entre -1 et 1 quelles que soient les valeurs de variable que vous avez).

Revenons maintenant à $cov(X,Y)$. Cela montre comment les variables varient ensemble sur leurs moyennes, d'où la co-variance . Prenons un exemple.

Les lignes sont tracées aux moyennes des échantillons $\bar X$ et $\bar Y$. Les points dans le coin supérieur droit sont où les deux$X_i$ et $Y_i$ sont au-dessus de leurs moyens et donc à la fois $(X_i-\bar X)$ et $(Y_i-\bar Y)$sont positifs. Les points dans le coin inférieur gauche sont en dessous de leurs moyennes. Dans les deux cas, le produit$(X_i-\bar X)(Y_i-\bar Y)$est positif. Au contraire en haut à gauche et en bas à droite sont des zones où ce produit est négatif.

Maintenant, lors du calcul de la covariance $cov(X,Y)=\frac1{n-1}\sum_{i=1}^n(X_i-\bar X)(Y_i-\bar Y)$ dans cet exemple des points qui donnent des produits positifs $(X_i-\bar X)(Y_i-\bar Y)$dominent, ce qui entraîne une covariance positive. Cette covariance est plus grande lorsque les points sont alignés plus près d'une ligne imaginable traversant le point$(\bar X,\bar Y)$.

Enfin, la covariance ne montre que la force d'une relation linéaire . Si la relation n'est pas linéaire, la covariance n'est pas en mesure de la détecter.

Si, dans la formule que vous affichez, vous supprimez la `` division '' des trois termes, cov (X, Y) , var (X) et var (Y) par n-1 , vous obtenez une formule encore plus basique pour r :$\frac{SCP(X,Y)}{\sqrt{SS(X)} \sqrt{SS(Y)}}$, où SCP est "somme des produits croisés" et SS est "somme des carrés". Généralement, c'est la formule du cosinus . Mais comme X et Y sont centrés ("somme des produits croisés des écarts" et "somme des carrés des écarts"), cela devient la formule pour r , - r est le cosinus entre les variables centrées.

Maintenant, le cosinus est la mesure de proportionnalité ; cos (X, Y) = 1 lorsque et seulement lorsque Xi = kYi , c'est-à-dire lorsque tous les points ( i ) se trouvent sur une ligne droite provenant de l'origine du système de coordonnées X vs Y. Si la ligne ne passe pas par l'origine ou si les points s'écartent de la ligne droite, cos deviendra plus petit. Parce que Pearson r est le cos du nuage qui a été centré sur les axes X et Y , la ligne passe inévitablement par l'origine; et donc seul le départ des points de la position sur la droite peut diminuer r : r est la mesure delinéarité .

Si r = 1, il y a une corrélation linéaire parfaite, si r = -1 il y a une corrélation linéaire négative parfaite, si r = 0, il n'y a pas de corrélation linéaire. La raison pour laquelle nous divisons par les écarts-types de X et Y est d'obtenir une mesure qui ne dépend pas de l'échelle.

Voir ce fil pour des réponses plus détaillées.