Valeur attendue d'un logarithme naturel


22

Je sais que avec constantes, donc étant donné , c'est facile à résoudre. Je sais aussi que vous ne pouvez pas l'appliquer quand c'est une fonction non linéaire, comme dans ce cas , et pour résoudre cela, je dois faire une approximation avec Taylor. Donc ma question est de savoir comment résoudre ?? puis-je aussi me rapprocher de Taylor?a , b E ( X ) E ( 1 / X ) 1 / E ( X ) E ( ln ( 1 + X ) )E(uneX+b)=uneE(X)+bune,bE(X)E(1/X)1/E(X)E(ln(1+X))


4
Oui, vous pouvez appliquer la méthode delta dans ce cas.
Michael R. Chernick

5
Vous devriez également vous pencher sur l'inégalité de Jensen.
kjetil b halvorsen

Réponses:


27

Dans le journal

YW Teh, D. Newman et M. Welling (2006), A Collapsed Variational Bayesian Inference Algorithm for Latent Dirichlet Allocation , NIPS 2006 , 1353–1360.

une expansion de Taylor de second ordre autour de est utilisée pour approximer :E [ log ( x ) ]X0=E[X]E[bûche(X)]

E[bûche(X)]bûche(E[X])-V[X]2E[X]2.

Cette approximation semble fonctionner assez bien pour leur application.

Le modifier légèrement pour l'adapter à la question présente donne, par linéarité de l'espérance,

E[bûche(1+X)]bûche(1+E[X])-V[X]2(1+E[X])2.

Cependant, il peut arriver que le côté gauche ou le côté droit n'existe pas tandis que l'autre existe, et donc une certaine prudence doit être prise lors de l'utilisation de cette approximation.


3
Fait intéressant, cela peut être utilisé pour obtenir une approximation de la fonction digamma.
probabilityislogic

6

De plus, si vous n'avez pas besoin d'une expression exacte pour , la limite donnée par l'inégalité de Jensen est souvent assez bonne: log [ E ( X ) + 1 ] E [ log ( X + 1 ) ]E[bûche(X+1)]

bûche[E(X)+1]E[bûche(X+1)]

X

bûche

5

XFXg

E[g(X)]=g(X)P=-g(X)FX(X)X,

1
g(X)=X2

E[|g(X)|]<

2
g(X)=X

2
@prob: Non, vous n'avez pas besoin de cette condition dans votre premier commentaire, et même dans une situation qui peut être très pertinente pour cette question! (+1 à votre deuxième commentaire, cependant, ce que je voulais également commenter.)
Cardinal

2
@prob: C'est suffisant , mais si vous comparez votre premier commentaire à votre second, vous verrez pourquoi ce n'est pas nécessaire ! :-)
Cardinal

4

Il existe deux approches habituelles:

  1. Xln(1+X)ln(1+X)FX(X)X

  2. Comme vous le suggérez, si vous connaissez les premiers instants, vous pouvez calculer une approximation de Taylor.

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.