Intuition (géométrique ou autre) de

18

Considérons l'identité élémentaire de la variance:

\begin{array}{rcl} V a r (X) & = & E [(X - E [X])^{2}] \\ = & . . . \\ = & E [X^{2}] - (E [X])^{2} \end{array}

$\begin{eqnarray} Var(X) &=& E[(X - E[X])^2]\\ &=& ...\\ &=& E[X^2] - (E[X])^2 \end{eqnarray}$

Il s'agit d'une simple manipulation algébrique de la définition d'un moment central en moments non centraux.

Il permet une manipulation pratique de dans d'autres contextes. Il permet également de calculer la variance via un seul passage sur les données plutôt que deux passages, d'abord pour calculer la moyenne, puis pour calculer la variance. $Var(X)$

Mais qu'est-ce que cela signifie ? Pour moi, il n'y a pas d'intuition géométrique immédiate qui relie la propagation autour de la moyenne à la propagation autour de 0. Comme est un ensemble sur une seule dimension, comment voyez-vous la propagation autour d'une moyenne comme la différence entre la propagation autour de l'origine et le carré du signifier? $X$

Existe-t-il de bonnes interprétations d'algèbre linéaire ou des interprétations physiques ou autres qui donneraient un aperçu de cette identité?

variance descriptive-statistics intuition

— Mitch
source

7

Astuce: c'est le théorème de Pythagore.

— whuber

1

@Matthew Je me demande ce que " " veut dire. Je soupçonne que ce n'est pas une attente, mais simplement un raccourci pour la moyenne arithmétique. Sinon, les équations seraient incorrectes (et presque dénuées de sens, car elles associeraient alors des variables aléatoires à des nombres).

E

$E$

— whuber

2

@whuber Étant donné que les produits internes introduisent l'idée de distances et d'angles, et que le produit interne de l'espace vectoriel des variables aléatoires à valeur réelle est défini comme (?), je me demande si une intuition géométrique pourrait être donnée via l'inégalité du triangle. Je ne sais pas comment procéder, mais je me demandais si cela avait un sens.

E [X Y]

$\mathbb E[XY]$

— Antoni Parellada

1

@Antoni L'inégalité du triangle est trop générale. Un produit intérieur est un objet beaucoup plus spécial. Heureusement, l'intuition géométrique appropriée est précisément celle de la géométrie euclidienne. De plus, même dans le cas de variables aléatoires et , la géométrie nécessaire peut être confinée à l'espace vectoriel réel bidimensionnel généré par et : c'est-à-dire au plan euclidien lui-même. Dans le cas présent, ne semble pas être un RV: c'est juste un vecteur. Ici, l'espace couvert par et est le plan euclidien dans lequel se produit toute la géométrie.

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X

$X$

n

$n$

X

$X$

(1, 1, \dots, 1)

$(1,1,\ldots, 1)$

— whuber

3

Réglage dans la réponse que je lié à, et en divisant tous les termes par (si vous le souhaitez) vous donnera la solution algébrique complète de la variance: il n'y a aucune raison de le copier tout recommencer. C'est parce que est la moyenne arithmétique de , d'où est juste fois la variance telle que vous l'avez définie ici, est fois la moyenne arithmétique au carré, et est fois la moyenne arithmétique des valeurs au carré.

{\hat{β}}_{1} = 0

$\hat\beta_1=0$

n

$n$

{\hat{β}}_{0}

$\hat\beta_0$

y

$y$

| | y - \hat{y} | |^{2}

$||y-\hat y||^2$

n

$n$

| | \hat{y} | |^{2}

$||\hat y||^2$

n

$n$

| | y | |^{2}

$||y||^2$

n

$n$

— whuber

21

En développant le point de @ whuber dans les commentaires, si et sont orthogonaux, vous avez le théorème de Pythagore : $Y$ $Z$

‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2}

$\|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2$

Observez que est un produit interne valide et que est la norme induite par ce produit intérieur . $\langle Y, Z \rangle \equiv \mathrm{E}[YZ]$ $\|Y\| = \sqrt{\mathrm{E}[Y^2]}$

Soit une variable aléatoire. Soit , Soit . Si et sont orthogonaux: $X$ $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $Y$ $Z$

\begin{aligned} ‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2} \\ \Leftrightarrow & E [E [X]^{2}] + E [(X - E [X])^{2}] = E [X^{2}] \\ \Leftrightarrow & {E [X]}^{2} + V a r [X] = E [X^{2}] \end{aligned}

$\begin{align*} & \|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2 \\ \Leftrightarrow \quad&\mathrm{E}[\mathrm{E}[X]^2] + \mathrm{E}[(X - \mathrm{E}[X])^2] = \mathrm{E}[X^2] \\ \Leftrightarrow \quad & \mathrm{E[X]}^2 + \mathrm{Var}[X]= \mathrm{E}[X^2] \end{align*}$

Et il est facile de montrer que et sont orthogonaux sous ce produit intérieur: $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$

⟨ Y, Z ⟩ = E [E [X] (X - E [X])] = E [X]^{2} - E [X]^{2} = 0

$\langle Y, Z \rangle = \mathrm{E}[\mathrm{E}[X]\left(X - \mathrm{E}[X] \right)] = \mathrm{E}[X]^2 - \mathrm{E}[X]^2 = 0$

L' une des jambes du triangle est , l'autre jambe est , et l'hypoténuse est . Et le théorème de Pythagore peut être appliqué car une variable aléatoire dégradée est orthogonale à sa moyenne. $X - \mathrm{E}[X]$ $\mathrm{E}[X]$ $X$

Remarque technique:

$Y$ dans cet exemple devrait vraiment être le vecteur , c'est-à-dire le scalaire fois le vecteur constant (par exemple dans le cas de résultats finis discrets). est la projection vectorielle de sur le vecteur constant . $Y = \mathrm{E}[X] \mathbf{1}$ $\mathrm{E}[X]$ $\mathbf{1}$ $\mathbf{1} = [1, 1, 1, \ldots, 1]'$ $Y$ $X$ $\mathbf{1}$

Exemple simple

Considérons le cas où est une variable aléatoire de Bernoulli où . Nous avons: $X$ $p = .2$

X = [\begin{matrix} 1 \\ 0 \end{matrix}] P = [\begin{matrix} .2 \\ .8 \end{matrix}] E [X] = \sum_{i} P_{i} X_{i} = .2

$X = \begin{bmatrix} 1 \\ 0 \end{bmatrix} \quad P = \begin{bmatrix} .2 \\ .8 \end{bmatrix} \quad \mathrm{E}[X] = \sum_i P_iX_i = .2$

Y = E [X] 1 = [\begin{matrix} .2 \\ .2 \end{matrix}] Z = X - E [X] = [\begin{matrix} .8 \\ - .2 \end{matrix}]

$Y = \mathrm{E}[X]\mathbf{1} = \begin{bmatrix} .2 \\ .2 \end{bmatrix} \quad Z = X - \mathrm{E}[X] = \begin{bmatrix} .8 \\ -.2 \end{bmatrix}$

Et l'image est:

La magnitude au carré du vecteur rouge est la variance de , la magnitude au carré du vecteur bleu est , et la magnitude au carré du vecteur jaune est . $X$ $\mathrm{E}[X]^2$ $\mathrm{E}[X^2]$

RAPPELEZ - VOUS bien que ces grandeurs, l'orthogonalité etc ... ne sont pas en ce qui concerne le produit scalaire usuel mais le produit intérieur . La magnitude du vecteur jaune n'est pas 1, elle est de 0,2. $\sum_i Y_iZ_i$ $\sum_i P_iY_iZ_i$

Le vecteur rouge et le vecteur bleu sont perpendiculaires sous le produit intérieur mais ils ne sont pas perpendiculaires dans l'intro, sens de la géométrie au lycée. N'oubliez pas que nous n'utilisons pas le produit scalaire habituel comme produit interne! $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $\sum_i P_i Y_i Z_i$ $\sum_i Y_i Z_i$

— Matthew Gunn
source

C'est vraiment bien!

— Antoni Parellada

1

Bonne réponse (+1), mais il manque un chiffre, et cela pourrait aussi être un peu déroutant pour OP parce que votre Z est leur X ...

— amibe dit Reinstate Monica

@MatthewGunn, excellente réponse. vous pouvez vérifier ma réponse ci-dessous pour une représentation où l'orthogonalité est au sens euclidien.

— YBE

Je déteste être obtus, mais j'ai du mal à garder , et la direction de la logique droite («parce que» vient à des endroits qui n'ont pas de sens pour moi). Il semble que de nombreux faits (bien étayés) soient énoncés au hasard. Dans quel espace se trouve le produit intérieur? Pourquoi 1 ?

Z

$Z$

V a r (X)

$Var(X)$

— Mitch

@Mitch L'ordre logique est le suivant: (1) Observez qu'un espace de probabilité définit un espace vectoriel; nous pouvons traiter des variables aléatoires comme des vecteurs. (2) Définissez le produit interne des variables aléatoires et comme . Dans un espace de produit interne, les vecteurs et sont définis comme orthogonaux si leur produit interne est nul. (3a) Soit une variable aléatoire. (3b) Soit et . (4) Observez que et définis sont orthogonaux. (5) Puisque et

Y

$Y$

Z

$Z$

E [Y Z]

$E[YZ]$

Y

$Y$

Z

$Z$

X

$X$

Y = E [X]

$Y = E[X]$

Z = X - E [X]

$Z = X - E[X]$

Y

$Y$

Z

$Z$

Y

$Y$

Z

$Z$ sont orthogonaux, le théorème de Pythagore s'applique (6) Par algèbre simple, le théorème de Pythagore est équivalent à l'identité.

— Matthew Gunn

7

Je vais opter pour une approche purement géométrique pour un scénario très spécifique. Considérons une variable aléatoire à valeurs discrètes prenant des valeurs avec des probabilités . Nous supposerons en outre que cette variable aléatoire peut être représentée dans comme un vecteur, . $X$ $\{x_1,x_2\}$ $(p_1,p_2)$ $\mathbb{R}^2$ $\mathbf{X} = \left(x_1\sqrt{p_1},x_2\sqrt{p_2} \right)$

Notez que le carré de longueur de est qui est égal à . Ainsi, . $\mathbf{X}$ $x_1^2p_1+x_2^2p_2$ $E[X^2]$ $\left\| \mathbf{X} \right\| = \sqrt{E[X^2]}$

Puisque , la pointe du vecteur trace en fait une ellipse. Cela devient plus facile de voir si l'on reparamétrise et en et . Par conséquent, nous avons et . $p_1+p_2=1$ $\mathbf{X}$ $p_1$ $p_2$ $\cos^2(\theta)$ $\sin^2(\theta)$ $\sqrt{p_1} =\cos(\theta)$ $\sqrt{p_2} = \sin(\theta)$

Une façon de dessiner des ellipses est via un mécanisme appelé Trammel d'Archimède . Comme décrit dans le wiki: il se compose de deux navettes qui sont confinées ("trammélisées") à des canaux ou rails perpendiculaires, et une tige qui est attachée aux navettes par des pivots à des positions fixes le long de la tige. Lorsque les navettes se déplacent d'avant en arrière, chacune le long de son canal, l'extrémité de la tige se déplace sur un trajet elliptique. Ce principe est illustré dans la figure ci-dessous.

Analysons maintenant géométriquement une instance de ce trémail lorsque la navette verticale est en et la navette horizontale en formant un angle de . En raison de la construction, et , (ici est supposé wlog). $A$ $B$ $\theta$ $\left|BX\right| = x_2$ $\left| AB \right| = x_1-x_2$ $\forall \theta$ $x_1\geq x_2$

Trouvons une ligne d'origine, , perpendiculaire à la tige. On peut montrer que . Pour cette variable aléatoire spécifique Par conséquent, la distance perpendiculairede l'origine à la tige est en fait égal à l'écart type, . $OC$ $\left| OC \right|=(x_1-x_2) \sin(\theta) \cos(\theta)$

\begin{array}{rcl} V a r (X) & = & (x_{1}^{2} p_{1} + x_{2}^{2} p_{2}) - (x_{1} p_{1} + x_{2} p_{2})^{2} \\ = & x_{1}^{2} p_{1} + x_{2}^{2} p_{2} - x_{1}^{2} p_{1}^{2} - x_{2}^{2} p_{2}^{2} - 2 x_{1} x_{2} p_{1} p_{2} \\ = & x_{1}^{2} (p_{1} - p_{1}^{2}) + x_{2}^{2} (p_{2} - p_{2}^{2}) - 2 x_{1} x_{2} p_{1} p_{2} \\ = & p_{1} p_{2} (x_{1}^{2} - 2 x_{1} x_{2} + x_{2}^{2}) \\ = & {[(x_{1} - x_{2}) \sqrt{p_{1}} \sqrt{p_{2}}]}^{2} = {| O C |}^{2} \end{array}

$\begin{eqnarray} Var(X) &=& (x_1^2p_1 +x_2^2p_2) - (x_1p_1+x_2p_2)^2 \\ &=& x_1^2p_1 +x_2^2p_2 - x_1^2p_1^2 - x_2^2p_2^2 - 2x_1x_2p_1p_2 \\ &=& x_1^2(p_1-p_1^2) + x_2^2(p_2-p_2^2) - 2x_1x_2p_1p_2 \\ &=& p_1p_2(x_1^2- 2x_1x_2 + x_2^2) \\ &=& \left[(x_1-x_2)\sqrt{p_1}\sqrt{p_2}\right]^2 = \left|OC \right|^2 \end{eqnarray}$

| O C |

$\left|OC \right|$

σ

$\sigma$

Si nous calculons la longueur du segment de à : $C$ $X$

\begin{array}{rcl} | C X | & = & x_{2} + (x_{1} - x_{2}) \cos^{2} (θ) \\ = & x_{1} \cos^{2} (θ) + x_{2} \sin^{2} (θ) \\ = & x_{1} p_{1} + x_{2} p_{2} = E [X] \end{array}

$\begin{eqnarray} \left|CX\right| &=& x_2 + (x_1-x_2)\cos^2(\theta) \\ &=& x_1\cos^2(\theta) +x_2\sin^2(\theta) \\ &=& x_1p_1 + x_2p_2 = E[X] \end{eqnarray}$

En appliquant le théorème de Pythagore dans le triangle OCX, nous nous retrouvons avec

E [X^{2}] = V a r (X) + E [X]^{2} .

$\begin{equation} E[X^2] = Var(X) + E[X]^2. \end{equation}$

Pour résumer , pour un trémail qui décrit toutes les variables aléatoires à valeurs discrètes possibles prenant des valeurs , est la distance de l'origine à la pointe du mécanisme et l'écart type est la distance perpendiculaire à la tige. $\{x_1,x_2\}$ $\sqrt{E[X^2]}$ $\sigma$

Remarque : Notez que lorsque vaut ou , est complètement déterministe. Lorsque est nous nous retrouvons avec une variance maximale. $\theta$ $0$ $\pi/2$ $X$ $\theta$ $\pi/4$

— YBE
source

1

+1 Belle réponse. Et multiplier les vecteurs par le carré des probabilités est une astuce cool / utile pour rendre la notion probabiliste habituelle d'orthogonalité orthogonale!

— Matthew Gunn

Grands graphismes. Les symboles ont tous un sens (le trémail décrivant une ellipse puis le Thème de Pythagore s'applique) mais d'une manière ou d'une autre, je ne comprends pas intuitivement comment il donne une idée de la façon dont 'magiquement' il relie les moments (la propagation et le centre.

— Mitch

considérer le trémail comme un processus qui définit toutes les variables aléatoires possibles . Lorsque la tige est horizontale ou verticale, vous avez un RV déterministe. Au milieu, il y a de l'aléatoire et il s'avère que dans mon cadre géométrique proposé, la façon dont un RV (son std) est mesuré exactement par la distance de la tige à l'origine. Il pourrait y avoir une relation plus profonde ici, car les courbes elliptiques connectent divers objets en mathématiques, mais je ne suis pas mathématicien, je ne peux donc pas vraiment voir cette connexion.

(x_{1}, x_{2})

$(x_1,x_2)$

— YBE

3

Vous pouvez réorganiser comme suit:

\begin{array}{rcl} V a r (X) & = & E [X^{2}] - (E [X])^{2} \\ E [X^{2}] & = & (E [X])^{2} + V a r (X) \end{array}

$\begin{eqnarray} Var(X) &=& E[X^2] - (E[X])^2\\ E[X^2] &=& (E[X])^2 + Var(X) \end{eqnarray}$

Ensuite, interprétez comme suit: le carré attendu d'une variable aléatoire est égal au carré de sa moyenne plus l'écart carré attendu de sa moyenne.

— Lam
source

Oh. Huh. Facile. Mais les carrés semblent encore peu interprétés. Je veux dire que cela a du sens (en quelque sorte, extrêmement lâche) sans les carrés.

— Mitch

3

Je ne suis pas vendu là-dessus.

— Michael R. Chernick

1

Si le théorème de Pythagore s'applique, quel est le triangle avec quels côtés et comment les deux jambes sont-elles perpendiculaires?

— Mitch

1

Désolé de ne pas avoir les compétences pour élaborer et fournir une réponse correcte, mais je pense que la réponse réside dans le concept de mécanique physique classique des moments, en particulier la conversion entre 0 moments "bruts" centrés et les moments centraux centrés moyens. Gardez à l'esprit que la variance est le moment central du deuxième ordre d'une variable aléatoire.

— S. Diaxo
source

1

L'intuition générale est que vous pouvez relier ces moments en utilisant le théorème de Pythagore (PT) dans un espace vectoriel convenablement défini, en montrant que deux des moments sont perpendiculaires et le troisième est l'hypoténuse. La seule algèbre nécessaire est de montrer que les deux jambes sont bien orthogonales.

Pour les raisons suivantes, je suppose que vous vouliez dire des moyennes et des variances d'échantillon à des fins de calcul plutôt que des moments pour des distributions complètes. C'est:

\begin{array}{rcll} E [X] & = & \frac{1}{n} \sum x_{i}, & m e a n, f i r s t c e n t r a l s a m p l e m o m e n t \\ E [X^{2}] & = & \frac{1}{n} \sum x_{i}^{2}, & s e c o n d s a m p l e m o m e n t (n o n - c e n t r a l) \\ V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2}, & v a r i a n c e, s e c o n d c e n t r a l s a m p l e m o m e n t \end{array}

$\begin{array}{rcll} E[X] &=& \frac{1}{n}\sum x_i,& \rm{mean, first\ central\ sample\ moment}\\ E[X^2] &=& \frac{1}{n}\sum x^2_i,& \rm{second\ sample\ moment\ (non-central)}\\ Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2,& \rm{variance, second\ central\ sample\ moment} \end{array}$

(où toutes les sommes sont supérieures à éléments). $n$

Pour référence, la preuve élémentaire de est juste une poussée de symbole: $Var(X) = E[X^2] - E[X]^2$

\begin{array}{rcl} V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2} \\ = & \frac{1}{n} \sum (x_{i}^{2} - 2 E [X] x_{i} + E [X]^{2}) \\ = & \frac{1}{n} \sum x_{i}^{2} - \frac{2}{n} E [X] \sum x_{i} + \frac{1}{n} \sum E [X]^{2} \\ = & E [X^{2}] - 2 E [X]^{2} + \frac{1}{n} n E [X]^{2} \\ = & E [X^{2}] - E [X]^{2} \end{array}

$\begin{eqnarray} Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2\\ &=& \frac{1}{n}\sum (x^2_i - 2 E[X]x_i + E[X]^2)\\ &=& \frac{1}{n}\sum x^2_i - \frac{2}{n} E[X] \sum x_i + \frac{1}{n}\sum E[X]^2\\ &=& E[X^2] - 2 E[X]^2 + \frac{1}{n} n E[X]^2\\ &=& E[X^2] - E[X]^2\\ \end{eqnarray}$

Il y a peu de sens ici, juste une manipulation élémentaire de l'algèbre. On peut remarquer que est une constante à l'intérieur de la sommation, mais c'est à peu près tout. $E[X]$

Maintenant, dans l'espace vectoriel / interprétation géométrique / intuition, ce que nous allons montrer est l'équation légèrement réarrangée qui correspond à PT, qui

\begin{array}{rcl} V a r (X) + E [X]^{2} & = & E [X^{2}] \end{array}

$\begin{eqnarray} Var(X) + E[X]^2 &=& E[X^2] \end{eqnarray}$

Considérez donc , l'échantillon de éléments, comme un vecteur dans . Et créons deux vecteurs et . $X$ $n$ $\mathbb{R}^n$ $E[X]{\bf 1}$ $X-E[X]{\bf 1}$

Le vecteur a la moyenne de l'échantillon comme chacune de ses coordonnées. $E[X]{\bf 1}$

Le vecteur est . $X-E[X]{\bf 1}$ $\langle x_1-E[X], \dots, x_n-E[X]\rangle$

Ces deux vecteurs sont perpendiculaires car le produit scalaire des deux vecteurs s'avère être 0:

\begin{array}{rcl} E [X] 1 \cdot (X - E [X] 1) & = & \sum E [X] (x_{i} - E [X]) \\ = & \sum (E [X] x_{i} - E [X]^{2}) \\ = & E [X] \sum x_{i} - \sum E [X]^{2} \\ = & n E [X] E [X] - n E [X]^{2} \\ = & 0 \end{array}

$\begin{eqnarray} E[X]{\bf 1}\cdot(X-E[X]{\bf 1}) &=& \sum E[X](x_i-E[X])\\ &=& \sum (E[X]x_i-E[X]^2)\\ &=& E[X]\sum x_i - \sum E[X]^2\\ &=& n E[X]E[X] - n E[X]^2\\ &=& 0\\ \end{eqnarray}$

Les deux vecteurs sont donc perpendiculaires, ce qui signifie qu'ils sont les deux jambes d'un triangle rectangle.

Puis par PT (qui tient dans ), la somme des carrés des longueurs des deux jambes est égale au carré de l'hypoténuse. $\mathbb{R}^n$

Par la même algèbre utilisée dans la preuve algébrique ennuyeuse au sommet, nous avons montré que nous obtenons que est le carré du vecteur hypoténuse: $E[X^2]$

où la quadrature est le produit scalaire (et c'est vraiment et est . $(X-E[X])^2 + E[X]^2 = ... = E[X^2]$ $E[x]{\bf 1}$ $(X-E[X])^2$ $Var(X)$

La partie intéressante de cette interprétation est la conversion d'un échantillon de éléments d'une distribution univariée en un espace vectoriel de dimensions. Ceci est similaire à échantillons bivariés interprétés comme réellement deux échantillons dans variables. $n$ $n$ $n$ $n$

Dans un sens, cela suffit, le triangle rectangle des vecteurs et apparaît comme l'hypotnénuse. Nous avons donné une interprétation (vecteurs) pour ces valeurs et montrons qu'elles correspondent. C'est assez cool, mais peu éclairant statistiquement ou géométriquement. Cela ne dirait pas vraiment pourquoi et ce serait beaucoup de machines conceptuelles supplémentaires pour, finalement, reproduire la preuve purement algébrique que nous avions déjà au début. $E[X^2]$

Une autre partie intéressante est que la moyenne et la variance, bien qu'elles mesurent intuitivement le centre et la dispersion dans une dimension, sont orthogonales dans dimensions. Qu'est-ce que cela signifie, qu'ils sont orthogonaux? Je ne sais pas! Y a-t-il d'autres moments orthogonaux? Existe-t-il un système de relations plus large qui inclut cette orthogonalité? moments centraux vs moments non centraux? Je ne sais pas! $n$

— Mitch
source

Je m'intéresse également à une interprétation / intuition derrière l'équation de compromis de variance de biais superficiellement similaire. Quelqu'un a-t-il des indices là-bas?

— Mitch

Soit

la probabilité que l'état

se produise. Si

p_{i}

$p_i$

i

$i$

alors

p_{i} = \frac{1}{n}

$p_i = \frac{1}{n}$

, c'est-à-dire que

est simplement le produit scalaire entre

et

divisé par

. Si

\sum_{i} p_{i} X_{i} Y_{i} = \frac{1}{n} \sum_{i} X_{i} Y_{i}

$\sum_i p_i X_i Y_i = \frac{1}{n} \sum_i X_i Y_i$

E [X Y]

$E[XY]$

X

$X$

Y

$Y$

n

$n$

, ce que j'ai utilisé comme produit intérieur (

) est fondamentalement le produit scalaire divisé par

. Toute cette interprétation pythagoricienne doit encore utiliser le produit interne particulier

(bien qu'il soit algébriquement proche du produit scalaire classique pour une mesure de probabilité

telle que

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

E [X Y] = \sum_{i} p_{i} X_{i} Y_{i}

$E[XY] = \sum_i p_i X_i Y_i$

n

$n$

E [X Y]

$E[XY]$

P

$P$

).

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

— Matthew Gunn

\hat{x}

$\hat{x}$

\hat{y}

$\hat{y}$

{\hat{x}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{x}_i = x_i \sqrt{p_i}$

{\hat{y}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{y}_i = x_i \sqrt{p_i}$

\hat{x} \cdot \hat{y} = \sum_{i} x_{i} \sqrt{p_{i}} y_{i} \sqrt{p_{i}} = \sum_{i} p_{i} x_{i} y_{i} = E [x y]

$\hat{x} \cdot \hat{y} = \sum_i x_i \sqrt{p_i} y_i \sqrt{p_i} = \sum_i p_i x_i y_i = E[xy]$ .The dot product of

\hat{x}

$\hat{x}$ and

\hat{y}

$\hat{y}$ corresponds to

E [x y]

$E[xy]$ (which is what I used as an inner product).

— Matthew Gunn