Test du rapport de vraisemblance dans R

Supposons que je vais faire une régression logistique univariée sur plusieurs variables indépendantes, comme ceci:

mod.a <- glm(x ~ a, data=z, family=binominal("logistic"))
mod.b <- glm(x ~ b, data=z, family=binominal("logistic"))

J'ai fait une comparaison de modèle (test de rapport de vraisemblance) pour voir si le modèle est meilleur que le modèle nul par cette commande

1-pchisq(mod.a$null.deviance-mod.a$deviance, mod.a$df.null-mod.a$df.residual)

Ensuite, j'ai construit un autre modèle avec toutes les variables

mod.c <- glm(x ~ a+b, data=z, family=binomial("logistic"))

Afin de voir si la variable est statistiquement significative dans le modèle multivarié, j'ai utilisé la lrtestcommande deepicalc

lrtest(mod.c,mod.a) ### see if variable b is statistically significant after adjustment of a
lrtest(mod.c,mod.b) ### see if variable a is statistically significant after adjustment of b

Je me demande si la pchisqméthode et la lrtestméthode sont équivalentes pour faire un test de loglikelihood? Comme je ne sais pas comment utiliser lrtestpour le modèle logistique univate.

Fondamentalement, oui, à condition d'utiliser la bonne différence de log-vraisemblance:

> library(epicalc)
> model0 <- glm(case ~ induced + spontaneous, family=binomial, data=infert)
> model1 <- glm(case ~ induced, family=binomial, data=infert)
> lrtest (model0, model1)
Likelihood ratio test for MLE method 
Chi-squared 1 d.f. =  36.48675 , P value =  0 
> model1$deviance-model0$deviance
[1] 36.48675

et non la déviance pour le modèle nul qui est le même dans les deux cas. Le nombre de df est le nombre de paramètres qui diffèrent entre les deux modèles imbriqués, ici df = 1. BTW, vous pouvez regarder le code source lrtest()en tapant simplement

> lrtest

à l'invite R.

Une alternative est le lmtestpackage, qui a une lrtest()fonction qui accepte un seul modèle. Voici l'exemple de ?lrtestdans le lmtestpackage, qui est pour un LM mais il existe des méthodes qui fonctionnent avec les GLM:

> require(lmtest)
Loading required package: lmtest
Loading required package: zoo
> ## with data from Greene (1993):
> ## load data and compute lags
> data("USDistLag")
> usdl <- na.contiguous(cbind(USDistLag, lag(USDistLag, k = -1)))
> colnames(usdl) <- c("con", "gnp", "con1", "gnp1")
> fm1 <- lm(con ~ gnp + gnp1, data = usdl)
> fm2 <- lm(con ~ gnp + con1 + gnp1, data = usdl)
> ## various equivalent specifications of the LR test
>
> ## Compare two nested models
> lrtest(fm2, fm1)
Likelihood ratio test

Model 1: con ~ gnp + con1 + gnp1
Model 2: con ~ gnp + gnp1
  #Df  LogLik Df  Chisq Pr(>Chisq)    
1   5 -56.069                         
2   4 -65.871 -1 19.605  9.524e-06 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 
>
> ## with just one model provided, compare this model to a null one
> lrtest(fm2)
Likelihood ratio test

Model 1: con ~ gnp + con1 + gnp1
Model 2: con ~ 1
  #Df   LogLik Df  Chisq Pr(>Chisq)    
1   5  -56.069                         
2   2 -119.091 -3 126.04  < 2.2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1