Fonction de vraisemblance des données tronquées

J'ai un peu de mal à comprendre le concept et la dérivation de la probabilité de données tronquées.

Par exemple, si je veux trouver la fonction de vraisemblance basée sur un échantillon d'une distribution, mais en prenant un échantillon de la distribution, j'observe les valeurs tronquées (où il y a un seuil de , c'est-à-dire tout est enregistré comme ):$M$$x_{i}>M$$M$

$x_{1}, x_{2}, M, x_{3}, M, x_{4}, x_{5}, ..., x_{10}$

où le nombre de valeurs est . Ensuite, la probabilité est supposée être donnée par:$M$$m$

$L(x;\theta) = \prod_{i=1}^{10}f(x_{i};\theta)*[P(X>M)]^{m}$

J'apprécierais beaucoup une explication / preuve de la raison pour laquelle il en est ainsi, surtout pourquoi le deuxième facteur est tel qu'il est. Intuitivement et mathématiquement si possible. Merci d'avance.

Ce que vous décrivez nécessite un traitement spécial, ce n'est pas ce que nous entendons habituellement par "variables aléatoires tronquées" - et ce que nous entendons généralement est que la variable aléatoire ne se situe pas en dehors du support tronqué, ce qui signifie qu'il n'y a pas de concentration de masse de probabilité à le point de troncature. Pour contraster les cas:

A) Signification "habituelle" d'un rv tronqué
Pour toute distribution que nous tronquons son support, nous devons "corriger" sa densité afin qu'elle s'intègre à l'unité lorsqu'elle est intégrée sur le support tronqué. Si la variable est prise en charge dans , , alors (pdf , cdf )$[a,b]$$-\infty < a < b < \infty$$f$$F$

$$\int_a^bf_X(x)dx = \int_a^Mf_X(x)dx+\int_M^bf_X(x)dx = \int_a^Mf_X(x)dx + \left[1-F_X(M)\right]=1$$

$$\Rightarrow \int_a^Mf_X(x)dx = F_X(M)$$

Puisque le LHS est l'intégrale sur le support tronqué, nous voyons que la densité du rv tronqué, appelons-le , doit être$\tilde X$

$$f_{\tilde X}(\tilde x) = f_{X}(x\mid X\le M)=f_X(x)dx\cdot \left[F_X(M)\right]^{-1}$$ afin que il s'intègre à l'unité sur . Le terme moyen dans l'expression ci-dessus nous fait penser (à juste titre) à cette situation comme une forme de conditionnement - mais pas sur une autre variable aléatoire, mais sur les valeurs possibles que le RV lui-même peut prendre. Ici, une fonction conjointe densité / vraisemblance d'une collection de iid rv tronqués serait fois la densité ci-dessus, comme d'habitude.$[a, M]$$n$$n$

B) Probabilité de concentration massique
Ici, c'est ce que vous décrivez dans la question, les choses sont différentes. Le point concentre toute la masse de probabilité qui correspond à l'appui de la variable supérieure à . Cela crée un point de discontinuité dans la densité et lui donne deux branches$M$ $M$

$$\begin{align} f_{X^*}(x^*) &= f_X(x^*) \qquad x^*<M\\ f_{X^*}(x^*) &= P(X^* \ge M) \qquad x^*\ge M\\ \end{align}$$

Informellement, le second est "comme un RV discret" où chaque point de la fonction de masse de probabilité représente les probabilités réelles. Supposons maintenant que nous ayons telles variables aléatoires iid, et nous voulons former leur fonction conjointe densité / vraisemblance. Avant de regarder l'échantillon réel, quelle branche choisir? Nous ne pouvons pas prendre cette décision, nous devons donc en quelque sorte inclure les deux. Pour ce faire, nous devons utiliser des fonctions d'indicateur: notons la fonction d'indicateur qui prend la valeur lorsque et sinon. La densité d'un tel VR peut s'écrire$n$$I\{x^*\ge M\}\equiv I_{\ge M}(x^*)$$1$$x^*\ge M$$0$

$$f_{X^*}(x^*) = f_X(x^*)\cdot \left[1-I_{\ge M}(x^*)\right]+P(X^* \ge M)\cdot I_{\ge M}(x^*)$$ et donc la fonction de densité conjointe de telles variables iid est$n$

$$f_{X^*}(\mathbf X^*\mid \theta) = \prod_{i=1}^n\Big[f_X(x^*_i)\cdot \left[1-I_{\ge M}(x^*_i)\right]+P(X^*_i \ge M)\cdot I_{\ge M}(x^*_i)\Big]$$

Maintenant, ce qui précède vu comme une fonction de vraisemblance, l'échantillon réel constitué de réalisations de ces variables aléatoires entre en jeu. Et dans cet échantillon, certaines réalisations observées seront inférieures au seuil , certaines égales. Notons le nombre de réalisations dans l'échantillon égal à , et tout le reste, . Il est immédiat que pour les réalisations, la partie correspondante de la densité qui restera vraisemblablement sera la partie , tandis que pour les réalisations, l'autre partie. alors$n$$M$$m$$M$$v$$m+v=n$$m$$P(X^*_i \ge M)$$v$

$$\begin{align} L(\theta\mid \{x_i^*;\,i=1,...n\})&= \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \prod_{j=1}^m\Big[P(X^*_j \ge M)\Big] \\& = \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \Big[P(X^* \ge M)\Big]^m\\ \end{align}$$

La théorie de la vraisemblance est un cadre assez général. La plupart des manuels donnent des résultats pour les cas séparés de r.vs continus et pour ceux de r.vs. discrets Cependant, des cas mixtes se produisent dans la pratique, comme c'est le cas ici.

Pour un RV discret , la probabilité d'une observation est définie comme la probabilité d'obtenir la valeur observée , disons . Pour un rv continu, la probabilité est généralement définie comme la densité en , disons . Cependant, dans la pratique, on sait seulement que - en raison d'une précision de mesure limitée, et doit être utilisé comme vraisemblance. En prenant , avec$A$$a$$a$$p_A(a)$$L$$x$$f_X(x)$$x_{\textrm{L}} < X < x_{\textrm{U}}$$\Pr\left\{x_{\textrm{L}} < X < x_{\textrm{U}}\right\}$$x_{\textrm{L}}:= x - \textrm{d}x/2$$x_{\textrm{U}}:= x + \textrm{d}x/2$$\mathrm{d}x$petit, on obtient jusqu'à un multiplicatif qui n'a pas d'importance. La définition habituelle peut donc être considérée comme supposant implicitement une précision infinie sur l'observation.$f_X(x)$$\mathrm{d}x$

Pour un couple de r.vs et avec un type mixte mixte discret / continu, la probabilité sera la distribution conjointe, qui est généralement exprimée en utilisant des distributions conditionnelles, par exemple Ainsi, pour un intervalle de petite longueur , est fois la densité de conditionnelle à , disons$A$$X$

$$L := \textrm{Pr}\left\{ A = a, \, x_{\textrm{L}} < X < x_{\textrm{U}} \right\} = \textrm{Pr}\left\{ A = a \right\} \times \textrm{Pr} \left\{x_{\textrm{L}} < X < x_{\textrm{U}} \, \vert\, A = a\right\}.$$ $(x_{\textrm{L}},\, x_{\textrm{U}})$$\textrm{d}x$$L$$p_A(a)$$X$$\{A=a\}$$f_{X \vert A}(x \,\vert \,a)$. Encore une fois, nous omettons le terme .$\mathrm{d}x$

Revenons maintenant à votre exemple et considérons une seule observation. Alors est un RV de Bernoulli avec une probabilité de succès . Selon ou non, que ce soit vous observez que ou vous observez les deux et la valeur de . Dans les deux cas, vous utilisez la formule ci-dessus, mais est pris soit comme soit comme un intervalle de petite longueur contenant . En effet, cela donne $A = 1_{\{X > M\}}$$\Pr\{X > M\}$$X > M$$A = 1$$A = 0$$x$$X$$(x_{\textrm{L}},\, x_{\textrm{U}})$$(M,\,\infty)$$\textrm{d}x$$x$

$$L = \begin{cases} \textrm{Pr} \left\{X > M \right\} \times 1 & \textrm{if } X > M \textrm{ i.e. } A =1,\\ \textrm{Pr} \left\{X \leq M\right\} \times f_{X \vert A}(x \,\vert \,a)\,\textrm{d}x & \textrm{if } X \leq M \textrm{ i.e. } A = 0. \end{cases}$$ Puisque , la vraisemblance est simplement dans le second cas et nous obtenons la vraisemblance revendiquée, jusqu'au terme pour une observation avec une précision infinie. Lorsque des observations indépendantes et sont faites, la vraisemblance est obtenue comme le produit des vraisemblances marginales conduisant à l'expression dans la question.$f_{X \vert A}(x \,\vert \,0) = f_X(x) / \textrm{Pr} \left\{ X \leq M \right\}$$f_X(x)\,\textrm{d}x$$\mathrm{d}x$$A_i$$X_i$