Variance des combinaisons linéaires de variables aléatoires corrélées

10

Je comprends la preuve que mais je ne comprends pas comment prouver la généralisation à des combinaisons linéaires arbitraires.

V a r (a X + b Y) = a^{2} V a r (X) + b^{2} V a r (Y) + 2 a b C o v (X, Y),

$Var(aX+bY) = a^2Var(X) +b^2Var(Y) + 2abCov(X,Y),$

Soit scalaires pour donc nous avons un vecteur , et un vecteur de variables aléatoires corrélées. Alors Comment prouvons-nous cela? J'imagine qu'il y a des preuves dans la notation de sommation et dans la notation vectorielle? $a_i$ $i\in {1,\dots ,n}$ $\underline a$ $\underline X = X_i,\dots ,X_n$

V a r (a_{1} X_{1} + \dots a_{n} X_{n}) = \sum_{i = 1}^{n} a_{i}^{2} σ_{i}^{2} + 2 \sum_{i = 1}^{n} \sum_{j > i}^{n} a_{i} a_{j} Cov (X_{i}, X_{j})

$Var(a_1X_1 + \dots a_nX_n) = \sum_{i=1}^n a_i^2 \sigma_i^2 + 2 \sum_{i=1}^n \sum_{j>i}^n a_i a_j \text{ Cov}(X_i,X_j)$

mathematical-statistics variance

— Hatchepsout
source

18

Il s'agit simplement d'un exercice d'application des propriétés de base des sommes, de la linéarité des attentes et des définitions de la variance et de la covariance

\begin{aligned} var (\sum_{i = 1}^{n} a_{i} X_{i}) & = E [{(\sum_{i = 1}^{n} a_{i} X_{i})}^{2}] - {(E [\sum_{i = 1}^{n} a_{i} X_{i}])}^{2} & one definition of variance \\ = E [\sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} X_{i} X_{j}] - {(E [\sum_{i = 1}^{n} a_{i} X_{i}])}^{2} & basic properties of sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i} X_{j}] - {(\sum_{i = 1}^{n} a_{i} E [X_{i}])}^{2} & linearity of expectation \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i} X_{j}] - \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i}] E [X_{j}] & basic properties of sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} (E [X_{i} X_{j}] - E [X_{i}] E [X_{j}]) & combine the sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} cov (X_{i}, X_{j}) & apply a definition of covariance \\ = \sum_{i = 1}^{n} a_{i}^{2} var (X_{i}) + 2 \sum_{i = 1}^{n} \sum_{j : j > i}^{n} a_{i} a_{j} cov (X_{i}, X_{j}) & re-arrange sum \end{aligned}

$\begin{align} \operatorname{var}\left(\sum_{i=1}^n a_i X_i\right) &= E\left[\left(\sum_{i=1}^n a_i X_i\right)^2\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{one definition of variance}}\\ &= E\left[\sum_{i=1}^n\sum_{j=1}^n a_i a_j X_iX_j\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \left(\sum_{i=1}^n a_i E[X_i]\right)^2 &\scriptstyle{\text{linearity of expectation}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \sum_{i=1}^n \sum_{j=1}^n a_ia_j E[X_i]E[X_j] &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j \left(E[X_iX_j] - E[X_i]E[X_j]\right)&\scriptstyle{\text{combine the sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{apply a definition of covariance}}\\ &= \sum_{i=1}^n a_i^2\operatorname{var}(X_i) + 2\sum_{i=1}^n \sum_{j\colon j > i}^n a_ia_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{re-arrange sum}}\\ \end{align}$ Notez que dans cette dernière étape, nous avons également identifié comme la variance .

cov (X_{i}, X_{i})

$\operatorname{cov}(X_i,X_i)$

var (X_{i})

$\operatorname{var}(X_i)$

— Dilip Sarwate
source

6

Vous pouvez réellement le faire par récursivité sans utiliser de matrices:

Prenez le résultat pour et laissez . $\text{Var}(a_1X_1+Y_1)$ $Y_1=a_2X_2+Y_2$

$\text{Var}(a_1X_1+Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,Y_1)+\text{Var}(Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,a_2X_2+Y_2)+\text{Var}(a_2X_2+Y_2)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1a_2\text{Cov}(X_1,X_2)+2a_1\text{Cov}(X_1,Y_2)+\text{Var}(a_2X_2+Y_2)$

Continuez ensuite à remplacer et en utilisant les mêmes résultats de base, puis à la dernière étape, utilisez $Y_{i-1}=a_iX_i+Y_i$ $Y_{n-1}=a_nX_n$

Avec des vecteurs (donc le résultat doit être scalaire):

$\text{Var}(a'\,X)=a'\,\text{Var}(X)\,a$

Ou avec une matrice (le résultat sera une matrice variance-covariance):

$\text{Var}(A\,X)=A\,\text{Var}(X)\,A'$

Ceci a l'avantage de donner des covariances des différentes combinaisons linéaires dont les coefficients sont les rangées de sur les éléments hors diagonales du résultat. $A$

Même si vous ne connaissez que les résultats univariés, vous pouvez les confirmer en vérifiant élément par élément.

— Glen_b -Reinstate Monica
source

2

Fondamentalement, la preuve est la même que la première formule. Je vais prouver qu'il utilise une méthode très brutale.

$Var(a_1X_1+...+a_nX_n)=E[(a_1X_1+..a_nX_n)^2]-[E(a_1X_1+...+a_nXn)]^2 =E[(a_1X_1)^2+...+(a_nX_n)^2+2a_1a_2X_1X_2+2a_1a_3X_1X_3+...+2a_1a_nX_1X_n+...+2a_{n-1}a_nX_{n-1}X_n]-[a_1E(X1)+...a_nE(X_n)]^2$

$=a_1^2E(X_1^2)+...+a_n^2E(X_n^2)+2a_1a_2E(X_1X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-a_1^2[E(X_1)]^2-...-a_n^2[E(X_n)]^2-2a_1a_2E(X_1)E(X_2)-...-2a_{n-1}a_nE(X_{n-1})E(X_n)$

$=a_1^2E(X_1^2)-a_1^2[E(X_1)]^2+...+a_n^2E(X_n^2)-a_n^2[E(Xn)]^2+2a_1a_2E(X_1X_2)-2a_1a_2E(X_1)E(X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)$

Ensuite, notez simplement:

$a_n^2E(X_n^2)-a_n^2[E(X_n)]^2=a_n\sigma_n^2$

et

$2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)=2a_{n-1}a_nCov(X_{n-1},Xn)$

— Deep North
source

2

Juste pour le plaisir, preuve par induction!

Soit la déclaration que $P(k)$ $Var[\sum_{i=1}^k a_iX_i] = \sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]$

Alors est (trivialement) vrai (vous avez dit que vous en étiez satisfait dans la question). $P(2)$

Supposons que P (k) soit vrai. Donc,

$Var[\sum_{i=1}^{k+1} a_iX_i] = Var[\sum_{i=1}^{k} a_iX_i + a_{k+1}X_{k+1}]$

$=Var[\sum_{i=1}^{k} a_iX_i] + Var[a_{k+1}X_{k+1}] + 2 Cov[\sum_{i=1}^{k} a_iX_i,a_{k+1}X_{k+1}]$

$=\sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]+ a_{k+1}^2\sigma_{k+1}^2 + 2Cov[\sum_{i=1}^{k} a_iX_i, a_{k+1}X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j] + 2\sum_{i=1}^ka_ia_{k+1}Cov[X_i, X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^{k+1} \sum _{j>i}^{k+1} a_ia_jCov[X_i, X_j]$

Ainsi, est vrai. $P(k+1)$

Donc, par induction,

$Var[\sum_{i=1}^n a_iX_i] = \sum_{i=1}^n a_i^2\sigma_i^2 + 2\sum_{i=1}^n \sum _{j>i}^n a_ia_jCov[X_i, X_j]$ pour tout entier . $n \geq 2$

— Jonathan
source