Ensemble de variables non corrélées mais linéairement dépendantes

9

Est-il possible d'avoir un ensemble de variables non corrélées mais linéairement dépendantes? $K$

c'est-à-dire et $cor(x_i, x_j)=0$ $\sum_{i=1}^K a_ix_i=0$

Si oui, pouvez-vous écrire un exemple?

EDIT: Des réponses, il s'ensuit que ce n'est pas possible.

Serait-il au moins possible que où est le coefficient de corrélation estimé estimé à partir de échantillons des variables et est une variable non corrélée avec . $\mathbb{P}(|\hat \rho_{x_i, x_j}-\hat \rho_{x_i, v}|<\epsilon)$ $\hat\rho$ $n$ $v$ $x_i$

Je pense à quelque chose comme $x_K=\dfrac{1}{K} \sum_{i=1}^{K-1} x_i$ $K>>0$

correlation mathematical-statistics multicollinearity

— Donbeo
source

11

Comme le montre la réponse de @ RUser4512, les variables aléatoires non corrélées ne peuvent pas être linéairement dépendantes. Mais, des variables aléatoires presque non corrélées peuvent être linéairement dépendantes, et un exemple de celles-ci est cher au statisticien.

Supposons que est un ensemble de variables aléatoires de variance unitaire non corrélées avec une moyenne commune . Définissez où . Ensuite, les sont des variables aléatoires à moyenne nulle telles que , c'est-à-dire qu'elles sont linéairement dépendantes. Maintenant, sorte que while montrant que le $\{X_i\}_{i=1}^K$ $K$ $\mu$ $Y_i = X_i - \bar{X}$ $\bar{X} = \frac 1K \sum_{i=1}^K X_i$ $Y_i$ $\sum_{i=1}^K Y_i = 0$

Y_{i} = \frac{K - 1}{K} X_{i} - \frac{1}{K} \sum_{j \neq i} X_{j}

$Y_i = \frac{K-1}{K} X_i - \frac 1K\sum_{j \neq i}X_j$

var (Y_{i}) = {(\frac{K - 1}{K})}^{2} + \frac{K - 1}{K^{2}} = \frac{K - 1}{K}

$\operatorname{var}(Y_i) = \left(\frac{K-1}{K}\right)^2+\frac{K-1}{K^2} = \frac{K-1}{K}$

cov (Y_{i}, Y_{j}) = - 2 (\frac{K - 1}{K}) \frac{1}{K} + \frac{K - 2}{K^{2}} = \frac{- 1}{K}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{K-1}{K}\right)\frac 1K + \frac{K-2}{K^2}= \frac{-1}{K}$

Y_{i}

$Y_i$ sont des variables aléatoires presque non corrélées avec un coefficient de corrélation .

- \frac{1}{K - 1}

$\displaystyle -\frac{1}{K-1}$

Voir aussi ma réponse précédente .

— Dilip Sarwate
source

1

Ceci est un très bel exemple!

— RUser4512

9

Non.

Supposons que l'un des soit non nul. Sans perte de généralité, supposons . $a_i$ $a_1=1$

Pour , cela implique et . Mais cette corrélation est nulle. doit également être nul, ce qui contredit l'existence d'une relation linéaire. $K=2$ $x_1=-a_2x_2$ $cor(x_1,x_2)=-1$ $a_1$

Pour tout , et . Mais, selon votre hypothèse, . Les sont nuls (pour ) et doivent donc être . $K$ $x_1=-\sum_{i>1}a_ix_i$ $cor(x_1,x_k)=-1$ $cor(x_1,x_k)=0$ $a_i$ $i>1$ $a_1$

— RUser4512
source

Dans le cas des vecteurs gaussiens, vous avez même une preuve sur une ligne (que je préfère garder en commentaire). La corrélation égale à 0 implique l'indépendance. implique et vous avez terminé.

\sum_{i} a_{i} x_{i} = 0

$\sum_i a_ix_i =0$

\sum_{i} a_{i}^{2} = 0

$\sum_i a_i^2 =0$

— RUser4512

Très bonne réponse. Ce serait bien si vous pouviez également répondre à la question modifiée.

— Donbeo du

La question éditée est beaucoup plus difficile;) Je suppose que et font référence à la même chose? Je ne vois pas l'intérêt du facteur 1 / K, si vous recherchez une corrélation, cela ne changera rien au résultat final

v

$v$

x_{K}

$x_K$

— RUser4512

1 / K a été nécessaire pour faire .

c o r (x_{K}, x_{i}) = 1 / K

$cor(x_K, x_i)=1/K$

— Donbeo

4

Cela peut tricher un peu, mais si nous définissons «non corrélé» comme ayant une covariance de 0, la réponse est oui . Soit et tous deux nuls avec la probabilité 1. Alors $X$ $Y$

$\mathop{\mathrm{Cov}}(X,Y)= \mathop{\mathrm{E}}(XY)-\mathop{\mathrm{E}}(X)\mathop{\mathrm{E}}(Y)=0-0=0$

tandis que , donc et sont linéairement dépendants (selon votre définition). $X+Y=0$ $X$ $Y$

Bien que si vous exigez que la corrélation soit définie, c'est-à-dire que les variances de et soient strictement positives, il n'est pas possible de trouver des variables répondant à vos critères (voir les autres réponses). $X$ $Y$

— Karl Ove Hufthammer
source