Trouvez UMVUE sur

Laissez $X_1, X_2, . . . , X_n$ be iid variables aléatoires ayant pdf

$f_{X} (x ∣ θ) = θ (1 + x)^{- (1 + θ)} I_{(0, \infty)} (x)$ $f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x)$

où $\theta >0$ . Donnez l'UMVUE de $\frac{1}{\theta}$ et calculer sa variance

J'ai appris deux de ces méthodes pour obtenir des UMVUE:

Limite inférieure de Cramer-Rao (CRLB)
Lehmann-Scheffe Thereom

Je vais tenter cela en utilisant l'ancien des deux. Je dois admettre que je ne comprends pas complètement ce qui se passe ici et je fonde ma tentative de solution sur un exemple de problème. J'ai que $f_X(x\mid\theta)$ est une famille exponentielle à un paramètre complet avec

$h(x)=I_{(0,\infty)}$ , $c(\theta)=\theta$ , $w(\theta)=-(1+\theta)$ , $t(x)=\text{log}(1+x)$

Puisque $w'(\theta)=1$ n'est pas nul sur $\Theta$ , le résultat CRLB s'applique. On a

log f_{X} (x ∣ θ) = log (θ) - (1 + θ) \cdot log (1 + x)

$\text{log }f_X(x\mid\theta)=\text{log}(\theta)-(1+\theta)\cdot\text{log}(1+x)$

\frac{\partial}{\partial θ} log f_{X} (x ∣ θ) = \frac{1}{θ} - log (1 + x)

$\frac{\partial}{\partial \theta}\text{log }f_X(x\mid\theta)=\frac{1}{\theta}-\text{log}(1+x)$

\frac{\partial^{2}}{\partial θ^{2}} log f_{X} (x ∣ θ) = - \frac{1}{θ^{2}}

$\frac{\partial^2}{\partial \theta^2}\text{log }f_X(x\mid\theta)=-\frac{1}{\theta^2}$

donc

I_{1} (θ) = - E (- \frac{1}{θ^{2}}) = \frac{1}{θ^{2}}

$I_1(\theta)=-\mathsf E\left(-\frac{1}{\theta^2}\right)=\frac{1}{\theta^2}$

et le CRLB pour les estimateurs sans biais de $\tau(\theta)$ est

\frac{[τ^{'} (θ)]^{2}}{n \cdot I_{1} (θ)} = \frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{[\tau'(\theta)]^2}{n\cdot I _1(\theta)} = \frac{\theta^2}{n}[\tau'(\theta)]^2$

Puisque

\sum_{i = 1}^{n} t (X_{i}) = \sum_{i = 1}^{n} log (1 + X_{i})

$\sum_{i=1}^n t(X_i)=\sum_{i=1}^n \text{log}(1+X_i)$

alors toute fonction linéaire de $\sum_{i=1}^n \text{log}(1+X_i)$ , ou de manière équivalente, toute fonction linéaire de $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$ , atteindra le CRLB de son attente, et sera donc une UMVUE de son attente. Puisque $\mathsf E(\text{log}(1+X))=\frac{1}{\theta}$ nous avons que l'UMVUE de $\frac{1}{\theta}$ est $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$

Pour une paramétrisation naturelle on peut laisser $\eta=-(1+\theta)\Rightarrow \theta=-(\eta+1)$

alors

V a r (log (1 + X)) = \frac{d}{d η} (- \frac{1}{η + 1}) = \frac{1}{(η + 1)^{2}} = \frac{1}{θ^{2}}

$\mathsf{Var}(\text{log}(1+X))=\frac{d}{d\eta}\left(-\frac{1}{\eta+1}\right)=\frac{1}{(\eta+1)^2}=\frac{1}{\theta^2}$

Est-ce une solution valable? Existe-t-il une approche plus simple? Cette méthode fonctionne-t-elle uniquement lorsque le $\mathsf E(t(x))$ est égal à ce que vous essayez d'estimer?

— Rémy
source

Au moment où vous avez montré que le pdf est un membre de la famille exponentielle à un paramètre, il est immédiatement clair qu'une statistique complète suffisante pour la famille est

Puisque, comme vous le dites,

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln (1 + X_{i})

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln(1+X_i)$

est l'UMVUE de

par le théorème de Lehmann-Scheffe.

E (T / n) = \frac{1}{θ}

$E(T/n)=\frac{1}{\theta}$

T / n

$T/n$

1 / θ

$1/\theta$

— StubbornAtom

Donc la partie où j'ai "Puisque

est non nulle .....

w^{'} (θ) = 1

$w'(\theta)=1$

"est hors de propos?

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{\theta^2}{n}[\tau'(\theta)]^2$

— Remy

Pas vraiment; la variance de

est plus facile à trouver en utilisant le CRLB. Donc, pour résoudre les deux questions à la fois, votre argument est suffisant.

T

$T$

— StubbornAtom

Pour trouver la variance de cette façon, devrais-je prendre

? Par conséquent, je l'ai mal fait précédemment?

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2} = \frac{θ^{2}}{n} {(- \frac{1}{θ^{2}})}^{2} = \frac{1}{n θ^{2}}

$\frac{\theta^2}{n}[\tau'(\theta)]^2=\frac{\theta^2}{n}\left(-\frac{1}{\theta^2}\right)^2=\frac{1}{n\theta^2}$

— Remy

Oui, c'est la variance de

. Précisément.

T

$T$

— StubbornAtom

Votre raisonnement est généralement correct.

La densité conjointe de l'échantillon $(X_1,X_2,\ldots,X_n)$ est

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{θ^{n}}{{(\prod_{i = 1}^{n} (1 + x_{i}))}^{1 + θ}} 1_{x_{1}, x_{2}, \dots, x_{n} > 0}, θ > 0 \\ ⟹ \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = n \ln (θ) - (1 + θ) \sum_{i = 1}^{n} \ln (1 + x_{i}) + \ln (1_{min_{1 \leq i \leq n} x_{i} > 0}) \\ ⟹ \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{n}{θ} - \sum_{i = 1}^{n} \ln (1 + x_{i}) \\ = - n (\frac{\sum_{i = 1}^{n} \ln (1 + x_{i})}{n} - \frac{1}{θ}) \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{\theta^n}{\left(\prod_{i=1}^n (1+x_i)\right)^{1+\theta}}\mathbf1_{x_1,x_2,\ldots,x_n>0}\qquad,\,\theta>0 \\\\\implies \ln f_{\theta}(x_1,x_2,\ldots,x_n)&=n\ln(\theta)-(1+\theta)\sum_{i=1}^n\ln(1+x_i)+\ln(\mathbf1_{\min_{1\le i\le n} x_i>0}) \\\\\implies\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{n}{\theta}-\sum_{i=1}^n\ln(1+x_i) \\\\&=-n\left(\frac{\sum_{i=1}^n\ln(1+x_i)}{n}-\frac{1}{\theta}\right) \end{align}$

Ainsi, nous avons exprimé la fonction de score sous la forme

\begin{matrix} (1) & \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) = k (θ) (T (x_{1}, x_{2}, \dots, x_{n}) - \frac{1}{θ}) \end{matrix}

$\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)=k(\theta)\left(T(x_1,x_2,\ldots,x_n)-\frac{1}{\theta}\right)\tag{1}$

, qui est la condition d'égalité dans l'inégalité de Cramér-Rao.

Il n'est pas difficile de vérifier que

\begin{matrix} (2) & E (T) = \frac{1}{n} \sum_{i = 1}^{n} \underset{= 1 / θ}{\underset{⏟}{E (\ln (1 + X_{i}))}} = \frac{1}{θ} \end{matrix}

$E(T)=\frac{1}{n}\sum_{i=1}^n\underbrace{E(\ln(1+X_i))}_{=1/\theta}=\frac{1}{\theta}\tag{2}$

De $(1)$ et $(2)$ nous pouvons conclure que

La statistique $T(X_1,X_2,\ldots,X_n)$ est un estimateur non biaisé de $1/\theta$ .
$T$ satisfait la condition d'égalité de l'inégalité de Cramér-Rao.

Ces deux faits ensemble impliquent que $T$ est l'UMVUE de $1/\theta$ .

La deuxième puce nous dit en fait que la variance de $T$ atteint la borne inférieure de Cramér-Rao pour $1/\theta$ .

En effet, comme vous l'avez montré,

E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = - \frac{1}{θ^{2}}

$E_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=-\frac{1}{\theta^2}$

Cela implique que la fonction d'information pour tout l'échantillon est

I (θ) = - n E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = \frac{n}{θ^{2}}

$I(\theta)=-nE_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=\frac{n}{\theta^2}$

Ainsi, la borne inférieure de Cramér-Rao pour $1/\theta$ et donc la variance de l'UMVUE est

Var (T) = \frac{{[\frac{d}{d θ} (\frac{1}{θ})]}^{2}}{I (θ)} = \frac{1}{n θ^{2}}

$\operatorname{Var}(T)=\frac{\left[\frac{d}{d\theta}\left(\frac{1}{\theta}\right)\right]^2}{I(\theta)}=\frac{1}{n\theta^2}$

Ici, nous avons exploité un corollaire de l'inégalité de Cramér-Rao, qui dit que pour une famille de distributions $f$ paramétrée par $\theta$ (en supposant que les conditions de régularité de l'inégalité CR soient vérifiées ), si une statistique $T$ est sans biais pour $g(\theta)$ pour une fonction $g$ et s'il satisfait à la condition d'égalité dans l'inégalité CR, à savoir

\frac{\partial}{\partial θ} \ln f_{θ} (x) = k (θ) (T (x) - g (θ))

$\frac{\partial}{\partial\theta}\ln f_{\theta}(x)=k(\theta)\left(T(x)-g(\theta)\right)$ , alors

T

$T$ doit être l'UMVUE de

g (θ)

$g(\theta)$ . Cet argument ne fonctionne donc pas dans tous les problèmes.

Alternativement, en utilisant le théorème de Lehmann-Scheffe, vous pourriez dire que $T=\frac{1}{n}\sum_{i=1}^{n} \ln(1+X_i)$ est l'UMVUE de $1/\theta$ car il est sans biais pour $1/\theta$ et est une statistique complète suffisante pour la famille de distributions. Le fait que $T$ soit suffisamment compétitif ressort clairement de la structure de la densité conjointe de l'échantillon en termes de famille exponentielle à un paramètre. Mais la variance de $T$ pourrait être un peu difficile à trouver directement.

— TêtuAtom
source

On pourrait également utiliser la distribution de

pour trouver sa variance moyenne.

T

$T$

— StubbornAtom