Quelle est l'intuition derrière l'indépendance de et , ?

18

J'espérais que quelqu'un pourrait proposer un argument expliquant pourquoi les variables aléatoires et , ayant la distribution normale standard, sont statistiquement indépendantes. La preuve de ce fait découle facilement de la technique MGF, mais je la trouve extrêmement contre-intuitive. $Y_1=X_2-X_1$ $Y_2=X_1+X_2$ $X_i$

J'apprécierais donc l'intuition ici, le cas échéant.

Merci d'avance.

EDIT : Les indices n'indiquent pas les statistiques de commande mais les observations IID de la distribution normale standard.

probability self-study mathematical-statistics

— JohnK
source

Qu'est-ce que la "technique MGF"?

— amibe dit Réintégrer Monica

@amoeba C'est l'utilisation de fonctions génératrices de moments pour déterminer la distribution d'une variable aléatoire. Dans mon cas, je me réfère au théorème que et sont indépendants si et seulement si , étant égal à . Choisissez n'importe quelle autre technique et je suis convaincu que vous arriverez au même résultat.

Y_{1}

$Y_1$

Y_{2}

$Y_2$

M (t_{1}, t_{2}) = M (t_{1}, 0) \times M (0, t_{2})

$M(t_1,t_2)=M(t_1,0) \times M(0,t_2)$

M (t_{1}, t_{2})

$M(t_1,t_2)$

E (e^{t_{1} Y_{1} + t_{2} Y_{2}})

$E(e^{t_1Y_1+t_2Y_2})$

— JohnK

1

Vous pouvez trouver des informations dans le fil de discussion étroitement lié à stats.stackexchange.com/questions/71260 .

— whuber

Vous pouvez obtenir une certaine intuition en considérant ce qui arrive à chacun d' entre eux si vous ajoutez une constante, par exemple , à chaque . Et que se passe-t-il si vous multipliez chaque par une constante, par exemple

μ

$\mu$

X

$X$

X

$X$

σ

$\sigma$

— rvl

1

Étroitement liés: la référence pour la somme et la différence des variables hautement corrélées étant presque non corrélée .

— gung - Réintègre Monica

22

Il s'agit de données distribuées normales standard: nuage de points dans le premier système de coordonnées notez que la distribution est symétrique circulaire.

Lorsque vous passez à et , vous faites pivoter et mettre à l'échelle efficacement l'axe, comme ceci: ce nouveau système de coordonnées a la même origine que l'original et l'axe est orthogonal. En raison de la symétrie circulaire, les variables sont toujours indépendantes dans le nouveau système de coordonnées. $Y_1 = X_2 - X_1$ $Y_2 = X_1 + X_2$ nuage de points avec système de coordonnées pivoté

— dobiwan
source

4

Le résultat s'applique même lorsque et sont corrélés avec les marges normales d'unité. Votre explication ne couvre donc qu'un sous-cas du résultat d'origine. Cependant, l'idée de base ici est saine.

X_{1}

$X_1$

X_{2}

$X_2$

— Glen_b -Reinstate Monica

1

@Glen_b, oui, vous avez raison. Je voulais me concentrer sur un cas simple, car JohnK semble déjà savoir comment prouver le cas général, mais il manque la compréhension intuitive.

— dobiwan

7

Le résultat fonctionne pour conjointement normal (ie avec corrélation, ), avec commun . $(X_1,X_2)$ $-1<\rho<1$ $\sigma$

Si vous connaissez quelques résultats de base, c'est à peu près tout ce dont vous avez besoin:

$\quad\quad\quad$ entrez la description de l'image ici

L'approche de dobiwan est essentiellement bonne - c'est juste que le résultat est plus général que le cas traité ici.

— Glen_b -Reinstate Monica
source

3

+1 pour dépouiller le résultat souhaité à l'essentiel. J'ajouterai que pour le cas plus général de normalité conjointe à variances inégales, une rotation des axes de au lieu de implicite dans produit un aléatoire normal indépendant variables.

θ = \frac{1}{2} \arctan (\frac{2 ρ \cdot σ_{1} σ_{2}}{σ_{1}^{2} - σ_{2}^{2}})

$\theta = \frac{1}{2}\arctan\left ( \frac{2\rho\cdot\sigma_1\sigma_2}{\sigma_1^2 - \sigma_2^2}\right )$

\pm \frac{π}{4}

$\pm \frac{\pi}{4}$

(X_{1}, X_{2}) \to (X_{1} + X_{2} . X_{1} - X_{2})

$(X_1,X_2) \to (X_1+X_2. X_1-X_2)$

— Dilip Sarwate

6

Le résultat que vous prétendez être vrai n'est pas vrai en général, pas même dans le cas où tout ce que l'on sait est que et sont des variables aléatoires normales avec une variance identique, mais le résultat est valable pour l' interprétation habituelle de la condition que vous avez indiquée. plus tard: $X_1$ $X_2$

Les indices n'indiquent pas des statistiques d'ordre mais des observations de la distribution normale standard.

L'interprétation habituelle des derniers mots de cette déclaration est, bien sûr, que et sont des variables aléatoires indépendantes (normales), et donc des variables aléatoires conjointement normales. $X_1$ $X_2$

Pour les variables aléatoires conjointement normales avec une variance identique, il est vrai que et sont des variables aléatoires indépendantes (normales) (avec, en général, des variances inégales), et l'explication intuitive de cela est mieux donnée dans la réponse de Glen_b. Pour votre cas particulier où et sont également indépendants, la réponse de dobiwan, que vous avez acceptée, est la plus simple, et révèle en effet que toute rotation des axes, pas seulement par le implicite dans la transformation , produira des variables aléatoires indépendantes. $X_1+X_2$ $X_1-X_2$ $X_1$ $X_2$ $\pm \frac{\pi}{4}$ $(X_1,X_2)\to (X_1+X_2, X_1-X_2)$

Que peut-on dire en général? Dans tout ce que je dis ci-dessous, gardez à l'esprit que et ont la même variance , quelles que soient les autres propriétés qui pourraient leur être attribuées. $X$ $Y$

Si et sont des variables aléatoires (note: pas nécessairement normale) avec la variance identique, alors et sont décorrélés des variables aléatoires (qui est, ils ont zéro covariance). En effet, la fonction de covariance est bilinéaire : Ici, nous avons utilisé le fait que n'est que la variance $X$ $Y$ $X+Y$ $X-Y$

\begin{aligned} cov (X + Y, X - Y) & = cov (X, X) - cov (X, Y) + cov (Y, X) - cov (Y, Y) \\ = var (X) - cov (X, Y) + cov (X, Y) - var (Y) \\ = 0. \end{aligned}

$\begin{align} \operatorname{cov}(X+Y, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) + \operatorname{cov}(Y,X) - \operatorname{cov}(Y,Y)\\ &= \operatorname{var}(X) - \operatorname{cov}(X,Y) + \operatorname{cov}(X,Y) - \operatorname{var}(Y)\\ &= 0. \end{align}$

cov (X, X)

$\operatorname{cov}(X,X)$

var (X)

$\operatorname{var}(X)$ de (et de même pour ) et, bien sûr, . Notez que ce résultat est valable lorsque et sont des variables aléatoires normales (marginalement) mais pas nécessairement des variables aléatoires conjointement normales. (Si vous n'êtes pas familier avec cette notion de normalité marginale qui n'est pas la même que la normalité conjointe, voyez cette excellente réponse du cardinal). Dans le cas particulier où et sont des variables aléatoires normales conjointement normales (mais pas nécessairement indépendantes),

et

X

$X$

Y

$Y$

cov (Y, X) = cov (X, Y)

$\operatorname{cov}(Y,X) = \operatorname{cov}(X,Y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X + Y

$X+Y$

conjointement normaux, et puisque leur covariance est

,

et

sont des variables aléatoires indépendantes.

X - Y

$X-Y$

0

$0$

X + Y

$X+Y$

X - Y

$X-Y$

— Dilip Sarwate
source

2

$X_1,X_2$ $Y_1$ $Y_2$ $0$ $Y_1,Y_2$

La moyenne conditionnelle

$X_1+X_2=y$ $X_1=x, X_2 = y-x$ $X_1 = y-x, X_2=x$

$X_1$ $X_2$ $X_1+X_2$ $X_1 \mid Y_2 = y$ $X_2 \mid Y_2 = y$

E (Y_{1} ∣ Y_{2} = y) = E (X_{1} - X_{2} ∣ X_{1} + X_{2} = y) = E (X_{1} ∣ X_{1} + X_{2} = y) - E (X_{2} ∣ X_{1} + X_{2} = y) = 0.

$\begin{equation} \mathbb{E}(Y_1 \mid Y_2 = y) = \mathbb{E}(X_1 - X_2 \mid X_1+X_2 = y) \\ = \mathbb{E}(X_1 \mid X_1+X_2 = y) - \mathbb{E}(X_2 \mid X_1+X_2 = y)= 0. \end{equation}$

(Mise en garde: je n'ai pas envisagé la possibilité que la moyenne conditionnelle n'existe pas.)

La moyenne conditionnelle constante implique une corrélation / covariance nulle

$Y_1$ $Y_2$ $Y_2$ $Y_1$ $Y_1$ $Y_2$

C o v (Y_{1}, Y_{2}) = E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2}))]

$\begin{equation} Cov(Y_1,Y_2) = \mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right)\right] \end{equation}$

Y_{2}

$Y_2$

= E [E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2})) ∣ Y_{2}]] = E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1}) ∣ Y_{2}]] .

$\begin{equation} = \mathbb{E}\left[\mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right) \mid Y_2\right]\right] = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1 - \mathbb{E}(Y_1) \mid Y_2\right] \right]. \end{equation}$

Y_{2}

$Y_2$

= E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1})]]

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1-\mathbb{E}(Y_1)\right]\right] \end{equation}$

0

$0$

= E [(Y_{2} - E (Y_{2})) \times 0] = 0.

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\times0\right] = 0. \end{equation}$

Indépendance

$X_1,X_2$ $Y_1$ $Y_2$ $X_1,X_2$ $Y_1,Y_2$

— Juho Kokkala
source