Preuve que les fonctions de génération de moment déterminent de manière unique les distributions de probabilité

Le texte de Wackerly et al énonce ce théorème "Soit et les fonctions génératrices de moments des variables aléatoires X et Y, respectivement. Si les deux fonctions génératrices de moments existent et pour toutes les valeurs de t, alors X et Y ont la même distribution de probabilité. " sans preuve disant que cela dépasse la portée du texte. Scheaffer Young a également le même théorème sans preuve. Je n'ai pas de copie de Casella, mais la recherche de livres Google n'a pas semblé y trouver le théorème. $m_x(t)$ $m_y(t)$ $m_x(t) = m_y(t)$

Le texte de Gut semble avoir un aperçu d'une preuve , mais ne fait pas référence aux "résultats bien connus" et nécessite également de connaître un autre résultat dont la preuve n'est pas non plus fournie.

Est-ce que quelqu'un sait qui a initialement prouvé cela et si la preuve est disponible en ligne n'importe où? Sinon, comment remplir les détails de cette preuve?

Au cas où on me demanderait non, ce n'est pas une question de devoirs, mais je pourrais imaginer que cela pourrait être les devoirs de quelqu'un. J'ai suivi une séquence de cours basée sur le texte de Wackerly et je m'interroge sur cette preuve depuis un certain temps. J'ai donc pensé qu'il était juste temps de demander.

— Chris Simokat
source

Connexes : (i) Inversion de mgfs et (ii) Existence de la fonction de génération de moment et de la variance

— cardinal

Si vous avez accès au texte de probabilité et de mesure de Billingsley , cela est discuté dans une section intitulée, je crois, "La méthode des moments". (Je m'excuse pour le flou, car je ne l'ai pas actuellement à portée de main.) Si je me souviens bien, la preuve qu'il utilise repose sur les résultats correspondants pour les fonctions caractéristiques, cependant, qui peuvent ne pas être complètement satisfaisantes. Ceci est certainement (bien) hors de la portée du contexte attendu du texte de Wackerly.

— cardinal

Wow @cardinal vos réponses à ces questions ont été supérieures et très utiles merci et merci pour la recommandation de texte que je devrais obtenir une copie.

— Chris Simokat

@cardinal J'ai accédé à Billigsley avant d'avoir vu votre note et j'ai ajouté une description de la preuve à ma réponse précédente.

— Michael R. Chernick

En ce qui concerne l'histoire ("qui l'a prouvé à l'origine?"), Il semble que Laplace utilisait la fonction caractéristique pour ce type de travail en 1785 et avait développé la formule d'inversion générale (qui est la clé de la preuve) en 1810. Voir Anders Hald , Une histoire des statistiques mathématiques de 1750 à 1930 , chapitre 17.

— whuber

Réponses:

La preuve générale de cela se trouve dans Feller (An Introduction to Probability Theory and Its Applications, Vol. 2) . Il s'agit d'un problème d'inversion impliquant la théorie de la transformée de Laplace. Avez-vous remarqué que le mgf a une ressemblance frappante avec la transformation de Laplace?. Pour l'utilisation de Laplace Transformation, vous pouvez voir Widder (Calcus Vol I) .

Preuve d'un cas particulier:

Supposons que X et Y sont des variables aléatoires qui ne prennent toutes deux que des valeurs possibles dans { }. Supposons en outre que X et Y aient le même mgf pour tout t: Pour simplifier, nous laisserons et nous pour . $0, 1, 2,\dots, n$

\sum_{x = 0}^{n} e^{t x} f_{X} (x) = \sum_{y = 0}^{n} e^{t y} f_{Y} (y)

$\sum_{x=0}^ne^{tx}f_X(x)=\sum_{y=0}^ne^{ty}f_Y(y)$

s = e^{t}

$s = e^t$

c_{i} = f_{X} (i) - f_{Y} (i)

$c_i = f_X(i) − f_Y (i)$

i = 0, 1, \dots, n

$i = 0, 1,\dots,n$

Maintenant Ce qui précède est simplement un polynôme en s avec des coe ﬃ . La seule façon dont il peut être nul pour toutes les valeurs de s est si Donc, nous avons que pour .

\sum_{x = 0}^{n} e^{t x} f_{X} (x) - \sum_{y = 0}^{n} e^{t y} f_{Y} (y) = 0

$\sum_{x=0}^ne^{tx}f_X(x)-\sum_{y=0}^ne^{ty}f_Y(y)=0$

\Rightarrow \sum_{x = 0}^{n} s^{x} f_{X} (x) - \sum_{y = 0}^{n} s^{y} f_{Y} (y) = 0

$\Rightarrow \sum_{x=0}^ns^xf_X(x)-\sum_{y=0}^ns^yf_Y(y)=0$

\Rightarrow \sum_{x = 0}^{n} s^{x} f_{X} (x) - \sum_{x = 0}^{n} s^{x} f_{Y} (x) = 0

$\Rightarrow \sum_{x=0}^ns^xf_X(x)-\sum_{x=0}^ns^xf_Y(x)=0$

\Rightarrow \sum_{x = 0}^{n} s^{x} [f_{X} (x) - f_{Y} (x)] = 0

$\Rightarrow\sum_{x=0}^ns^x[f_X(x)-f_Y(x)]=0$

\Rightarrow \sum_{x = 0}^{n} s^{x} c_{x} = 0 \forall s > 0

$\Rightarrow \sum_{x=0}^ns^xc_x=0~∀s>0$

c_{0}, c_{1}, \dots, c_{n}

$c_0, c_1,\dots,c_n$

c_{0} = c_{1} = \dots = c_{n} = 0

$c_0=c_1=\cdots= c_n=0$

0 = c_{i} = f_{X} (i) - f_{Y} (i)

$0=c_i=f_X(i)−f_Y(i)$

i = 0, 1, \dots, n

$i=0, 1,\dots,n$

Par conséquent, pour . $f_X(i)=f_Y(i)$ $i=0,1,\dots,n$

En d'autres termes, les fonctions de densité pour et sont exactement les mêmes. En d'autres termes, et ont les mêmes distributions. $X$ $Y$ $X$ $Y$

— Argha
source

La fonction de génération de moment détermine principalement la distribution.

— Argha

Le théorème dont vous discutez est un résultat de base de la théorie des probabilités / mesures. Les preuves se trouveraient plus probablement dans des livres sur la probabilité ou la théorie statistique. J'ai trouvé le résultat analogue pour les fonctions caractéristiques donné dans Hoel Port and Stone pp 205-208

Tucker pp 51-53

et Chung pp 151-155 Ceci est la troisième édition. J'ai la deuxième édition et je fais référence aux numéros de page de la deuxième édition publiée en 1974.

La preuve du mgf que j'ai trouvée plus difficile à trouver, mais vous pouvez la trouver dans le livre de Billingley "Probability and Measure" pp. 342-345. À la page 342 Le théorème 30.1 fournit le théorème qui répond au problème du moment. À la page 345, Billingsley indique le résultat que si une mesure de probabilité a une fonction de génération de moment M (s) définie sur un intervalle entourant 0, l'hypothèse pour le théorème 30.1 est satisfaite et, par conséquent, la mesure est déterminée par ses moments. Mais ces moments s sont déterminés par M (s). Par conséquent, la mesure est déterminée par sa fonction de génération de moment si M (s) existe dans un voisinage de 0. Cette logique ainsi que la preuve qu'il donne pour le théorème 30.1 prouve le résultat. Billingsley commente également que la solution à l'exercice 26.

— Michael R. Chernick
source

Où est-ce à Chung? Voulez-vous dire les pages 161-165, par hasard? Néanmoins, cela concerne les fonctions caractéristiques , et non les fonctions génératrices de moments , comme demandé par l'OP.

— cardinal

@cardinal Oui je sais. J'ai mentionné le résultat pour les fonctions caractéristiques parce que c'est ce que j'ai trouvé jusqu'à présent. Comme je l'ai dit, les numéros de page à Chung sont basés sur la deuxième édition que j'ai. Je ne sais pas où il apparaît dans la troisième édition. Je pense qu'il devrait y avoir des sources qui auront le résultat pour mgfs.

— Michael R. Chernick

J'ai voté positivement, car j'apprécie aussi votre réponse, alors merci d'avoir pris le temps.

— Chris Simokat

Notons la fonction de génération de moment de $X$ par . $M_X(t)=Ee^{tX}$

Théorème de l'unicité. S'il existe tel que pour tout , alors pour tout . $\delta>0$ $M_X(t) = M_Y(t) < \infty$ $t \in (-\delta,\delta)$ $F_X(t) = F_Y(t)$ $t \in \mathbb{R}$

Pour prouver que la fonction de génération de moment détermine la distribution, il existe au moins deux approches:

Pour montrer que la finitude de sur implique que les moments n'augmentent pas trop rapidement, de sorte que est déterminé par , qui sont à leur tour déterminés par . Cette preuve se trouve à la section 30 de Billingsley, P. Probability and Measure . $M_X$ $(-\delta,\delta)$ $X$ $F_X$ $(EX^k)_{k\in\mathbb{N}}$ $M_X$
Pour montrer que est analytique et peut être étendu à , de sorte que , donc dans notamment pour tous les , puis utilisez le fait que détermine . Pour cette approche, voir Curtiss, JH Ann. Math. Statistiques 13: 430-433 et leurs références. $M_X$ $(-\delta,\delta)\times i\mathbb{R} \subseteq \mathbb{C}$ $M_X(z)=Ee^{zX}$ $M_X(it)=\varphi_X(t)$ $t\in\mathbb{R}$ $\varphi_X$ $F_X$

Au niveau du premier cycle, presque tous les manuels fonctionnent avec la fonction de génération de moment et énoncent le théorème ci-dessus sans le prouver. Cela a du sens, car la preuve nécessite des mathématiques beaucoup plus avancées que ne le permet le premier cycle.

Au moment où les élèves ont tous les outils nécessaires dans la preuve, ils ont aussi la maturité pour travailler avec la fonction caractéristique place. Presque tous les manuels des diplômés empruntent ce chemin, ils prouvent que la fonction caractéristique détermine la distribution et ignorent fondamentalement les fonctions génératrices de moments. $\varphi_X(t)=Ee^{itX}$

— user334639
source

Aujourd'hui, les mgfs ne doivent pas être ignorés car ils sont beaucoup plus utiles numériquement que la fonction caractéristique

— kjetil b halvorsen

En effet! Et pourtant, je n'ai jamais vu un manuel qui met l'accent sur les méthodes numériques mais a suffisamment de mathématiques pour donner une preuve du théorème de l'unicité.

— user334639