Propagation d'erreur à l'aide de séries Taylor de second ordre

Je lis un texte, "Statistiques mathématiques et analyse des données" de John Rice. Nous sommes préoccupés par l' approximation de la valeur attendue et la variance de la variable aléatoire . Nous sommes capables de calculer la valeur et la variance attendues de la variable aléatoire et nous connaissons la relation . Il est donc possible d'approximer la valeur et la variance attendues de utilisant l'expansion de la série Taylor de about . $Y$ $X$ $Y = g(X)$ $Y$ $g$ $\mu_X$

À la page 162, il énumère 3 équations.

La valeur attendue de utilisant l'expansion de la série Taylor du 1er ordre. Il s'agit de: . Ceci est appelé plus tard dans ma question . $Y$ $\mu_Y \approx g(\mu_X)$ $E(Y_1)$
La variance de utilisant l'expansion de la série Taylor de 1er ordre. C'est: . Ceci est appelé plus tard dans ma question . $Y$ $\sigma_Y^2 \approx \sigma_X^2 (g'(\mu_X))^2$ $Var(Y_1)$
La valeur attendue de utilisant l'expansion de la série Taylor de second ordre. Il s'agit de . Ceci est appelé plus tard dans ma question . $Y$ $\mu_Y \approx g(\mu_X) + \frac12 \sigma_X^2 g''(\mu_X)$ $E(Y_2)$

Notez qu'il existe deux expressions différentes pour $Y$ car nous utilisons deux ordres différents dans l'expansion de la série Taylor. Les équations 1 et 2 font référence à $Y_1 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X)$ . L'équation 3 fait référence à $Y_2 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac12 (X-\mu_X)^2 g''(\mu_X)$ .

Notez que spécifiquement l'équation pour $Var(Y_2)$ n'est pas donnée. Plus tard, l'auteur semble utiliser l'équation pour la variance de $Y_1$ (équation 2), alors qu'en fait il se réfère à la valeur attendue de $Y_2$ (équation 3). Cela semble impliquer $Var(Y_2) = Var(Y_1)$ .

J'ai essayé de calculer manuellement , et une expression quelque peu compliquée. Voici mon travail (je me suis arrêté car à la fin termes dans l'attente): $Var(Y_2)$ $X^3$

\begin{aligned} V a r (Y_{2}) & = E [(g (μ_{X}) + (X - μ_{X}) a + \frac{1}{2} (X - μ_{X})^{2} b - g (μ_{X}) - \frac{1}{2} σ_{X}^{2} b)^{2}] \\ = E [((X - μ_{X}) a + {(\frac{1}{2} (X - μ_{X})^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [(c a + {(\frac{1}{2} c^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [c^{2} a^{2} + c a (c^{2} - σ_{X}^{2}) b + \frac{1}{4} (c^{2} - σ_{X}^{2})^{2} b^{2}] \\ = E [(X^{2} - 2 X μ_{X} + μ_{X}^{2}) a^{2} + (X - μ_{X}) a ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2}) b \\ + \frac{1}{4} ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2})^{2} b^{2}] \end{aligned}

$\begin{aligned} Var(Y_2) &= E[( g(\mu_X) + (X-\mu_X)a + \frac12 (X-\mu_X)^2 b - g(\mu_X) - \frac12 \sigma_X^2 b )^2] \\ &= E\left[((X-\mu_X)a + \left(\frac12 (X-\mu_X)^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ &= E\left[(ca + \left(\frac12 c^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ & = E[c^2 a^2 + ca(c^2 - \sigma_X^2)b + \frac14(c^2-\sigma_X^2)^2 b^2] \\ & = E[(X^2 - 2X \mu_X + \mu_X^2)a^2 + (X-\mu_X)a((X^2 - 2X\mu_X + \mu_X^2) - \sigma_X^2)b \\ & + \frac14((X^2 - 2X\mu_X + \mu_X^2)-\sigma_X^2)^2 b^2] \end{aligned}$

Notez que dans les équations ci-dessus, , et . Qu'est-ce que le ? $a = g'(\mu_X)$ $b = g''(\mu_X)$ $c = X-\mu_X$ $Var(Y_2)$

Merci.

self-study mathematical-statistics error

— jrand
source

Pourquoi vous êtes-vous arrêté à ? Parce que l'approximation du second ordre est une fonction quadratique de , sa variance impliquera généralement des moments de jusqu'à . Le troisième moment peut être nul, mais le quatrième moment va certainement apparaître et ne pas être annulé par quoi que ce soit.

X^{3}

$X^3$

X

$X$

X

$X$

2 \cdot 2 = 4

$2 \cdot 2 = 4$

— whuber

En supposant que , nous pouvons dériver la variance approximative de utilisant l'expansion de Taylor de second ordre de sur comme suit: $Y=g(X)$ $Y$ $g(X)$ $\mu_X=\mathbf{E}[X]$

\begin{array}{rcl} V a r [Y] & = & V a r [g (X)] \\ \approx & V a r [g (μ_{X}) + g^{'} (μ_{X}) (X - μ_{X}) + \frac{1}{2} g^{″} (μ_{X}) (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} V a r [(X - μ_{X})^{2}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) C o v [X - μ_{X}, (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} E [(X - μ_{X})^{4} - σ_{X}^{4}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} \\ + \frac{1}{4} (g^{″} (μ_{X}))^{2} (E [X^{4}] - 4 μ_{X} E [X^{3}] + 6 μ_{X}^{2} (σ_{X}^{2} + μ_{X}^{2}) - 3 μ_{X}^{4} - σ_{X}^{4}) \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \end{array}

$\begin{eqnarray*} \mathbf{Var}[Y] &=& \mathbf{Var}[g(X)]\\ &\approx& \mathbf{Var}[g(\mu_X)+g'(\mu_X)(X-\mu_X)+\frac{1}{2}g''(\mu_X)(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{Var}[(X-\mu_X)^2]\\ & & +g'(\mu_X)g''(\mu_X)\mathbf{Cov}[X-\mu_X,(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{E}[(X-\mu_X)^4-\sigma_{X}^{4}]\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}\\ & & +\frac{1}{4}(g''(\mu_X))^2\left(\mathbf{E}[X^4]-4\mu_X\mathbf{E}[X^3]+6\mu_{X}^{2}(\sigma_{X}^{2}+\mu_{X}^{2})-3\mu_{X}^{4}-\sigma_{X}^{4}\right)\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ \end{eqnarray*}$

Comme @whuber a souligné dans les commentaires, cela peut être nettoyé un peu en utilisant les troisième et quatrième moments centraux de . Un moment central est défini comme . Notez que . En utilisant cette nouvelle notation, nous avons que $X$ $\mu_k=\mathbf{E}[(X-\mu_X)^k]$ $\sigma_{X}^{2}=\mu_2$

V a r [Y] \approx (g^{'} (μ_{X}))^{2} σ_{X}^{2} + g^{'} (μ_{X}) g^{″} (μ_{X}) μ_{3} + \frac{1}{4} (g^{″} (μ_{X}))^{2} (μ_{4} - σ_{X}^{4})

$\mathbf{Var}[Y]\approx(g'(\mu_X))^2\sigma_{X}^{2}+g'(\mu_X)g''(\mu_X)\mu_3+\frac{1}{4}(g''(\mu_X))^2(\mu_4-\sigma_{X}^{4})$

— supposé normal
source

C'est la bonne approche, mais n'avez-vous pas oublié d'inclure la covariance entre et ?

X - μ_{X}

$X-\mu_X$

(X - μ_{X})^{2}

$(X-\mu_X)^2$

— whuber

@whuber Oui, je l'ai fait. Merci d'avoir fait remarquer cela. Je vais modifier cela bientôt.

— supposé normal

Vous pouvez vous éviter des ennuis en écrivant la réponse en termes de deuxième, troisième et quatrième moments centraux , , et . Vous devez obtenir .

σ^{2}

$\sigma^2$

μ_{3}

$\mu_3$

μ_{4}

$\mu_4$

σ^{2} g^{'} (μ)^{2} + μ_{3} g^{'} (μ) g^{″} (μ) + \frac{1}{4} (μ_{4} - σ^{4}) g^{″} (μ)^{2}

$\sigma^2 g'(\mu )^2 + \mu_3 g'(\mu ) g''(\mu )+\frac{1}{4} \left(\mu_4-\sigma ^4\right) g''(\mu )^2$

— whuber

@jrand - Mes excuses. Je ne savais pas que vous l'aviez dans votre message d'origine. Je ne supprime pas mon message, car il a fallu un certain temps pour composer.

— supposé normal

@Max, whuber: Merci pour la réponse et l'explication.

— jrand