Calcul de la fonction de lien canonique dans GLM

Je pensais que la fonction de lien canonique venait du paramètre naturel de la famille exponentielle. Disons, considérons la famille puis est la fonction de lien canonique. Prenons la distribution de Bernoulli comme exemple, nous avons Ainsi, la fonction de lien canonique $g(\cdot)$

f (y, θ, ψ) = \exp {\frac{y θ - b (θ)}{a (ψ)} - c (y, ψ)}

$f(y,\theta,\psi)=\exp\left\{\frac{y\theta-b(\theta)}{a(\psi)}-c(y,\psi)\right\}$

θ = θ (μ)

$\theta=\theta(\mu)$

P (Y = y) = μ^{y} (1 - μ)^{1 - y} = \exp {y \log \frac{μ}{1 - μ} + \log (1 - μ)}

$P(Y=y)=\mu^{y}(1-\mu)^{1-y}=\exp\left\{y\log\frac{\mu}{1-\mu}+\log{(1-\mu)}\right\}$

g (μ) = \log \frac{μ}{1 - μ}

$g(\mu)=\log\frac{\mu}{1-\mu}$

Mais quand je vois cette diapositive , il prétend que Bien qu'il puisse être facilement vérifié pour cette distribution particulière (et certaines autres distributions, comme la distribution de Poisson), Je ne vois pas l'équivalence pour le cas général. Quelqu'un peut-il donner des indices? Merci ~

g^{'} (μ) = \frac{1}{V (μ)}

$g'(\mu)=\frac{1}{V(\mu)}$

generalized-linear-model link-function

— ziyuang
source

La fonction de variance pour la variable de Bernoulli est . On vérifie facilement qu'avec le lien canonique puis $V(\mu) = \mu(1-\mu)$ $g(\mu) = \log \frac{\mu}{1-\mu} = \log \mu - \log(1-\mu)$

g^{'} (μ) = \frac{1}{μ} + \frac{1}{1 - μ} = \frac{1 - μ + μ}{μ (1 - μ)} = \frac{1}{μ (1 - μ)} = \frac{1}{V (μ)} .

$g'(\mu) = \frac{1}{\mu} + \frac{1}{1-\mu} = \frac{1 - \mu + \mu}{\mu(1-\mu)} = \frac{1}{\mu(1-\mu)} = \frac{1}{V(\mu)}.$

Pour le cas général, on dérive de la définition que voir par exemple page 28-29 dans McCullagh et Nelder . Avec le lien canonique, nous avons , et la fonction de variance est définie comme , qui en termes de devient Par différenciation de l'identité on obtient

E (Y) = μ = b^{'} (θ) and Var (Y) = b^{″} (θ) a (ψ),

$E(Y) = \mu = b'(\theta) \quad \text{ and } \quad \text{Var}(Y) = b''(\theta) a(\psi),$

g

$g$

θ = g (μ) = g (b^{'} (θ))

$\theta = g(\mu) = g(b'(\theta))$

b^{″} (θ)

$b''(\theta)$

μ

$\mu$

V (μ) = b^{″} (g (μ)) .

$V(\mu) = b''(g(\mu)).$

θ = g (b^{'} (θ))

$\theta = g(b'(\theta))$

1 = g^{'} (b^{'} (θ)) b^{″} (θ) = g^{'} (μ) V (μ),

$1 = g'(b'(\theta)) b''(\theta) = g'(\mu) V(\mu),$

Dans la construction des fonctions quasi-vraisemblance il est naturel de commencer par la relation entre la moyenne et la variance, donnée en termes de la fonction de la variance . Dans ce contexte, l'anti-dérivé de peut être interprété comme une généralisation de la fonction de lien, voir par exemple la définition de la quasi-vraisemblance (log) à la page 325 (formule 9.3 ) dans McCullagh et Nelder . $V$ $V(\mu)^{-1}$

— NRH
source

Merci @NRH. En fait, je connais l'équivalence de la distribution de Bernoulli. Je me demande le cas général. Et merci pour votre référence, je vais le vérifier :)

— ziyuang

@ziyuang, le cas général est maintenant inclus.

— NRH

@NRH - juste pour ajouter à cette réponse, les formules de moyenne et de variance peuvent être dérivées en différenciant l'équation deux côtés par rapport à (ou de manière équivalente ). La première dérivée vous donne la moyenne, la seconde vous donne la variance.

\int f (y, θ, ψ) d y = 1

$\int f(y,\theta,\psi)dy=1$

θ

$\theta$

μ

$\mu$

— probabilitéislogic

Je vous remercie. Et j'ai trouvé un autre lien de référence: fedc.wiwi.hu-berlin.de/xplore/ebooks/html/spm/…

— ziyuang