Interprétation des numéros AIC et BIC

23

Je recherche des exemples d'interprétation des estimations AIC (critère d'information Akaike) et BIC (critère d'information bayésien).

La différence négative entre les BIC peut-elle être interprétée comme la cote postérieure d'un modèle par rapport à l'autre? Comment puis-je mettre cela en mots? Par exemple, le BIC = -2 peut impliquer que les chances du meilleur modèle sur l'autre modèle sont approximativement ? $e^2= 7.4$

Tout conseil de base est apprécié par ce néophyte.

interpretation aic bic

— Juan
source

Jetez un œil au chapitre 2. La section 2.6 - qui est partiellement disponible sur Google Books - pourrait en particulier vous aider. books.google.se/… (Réf: Sélection de modèles et inférence multimodèle par Kenneth P. Burnham et David R. Anderson. Springer Verlag)

— boscovich

6

pour le modèle d'unensemble de modèles aprioripeut être recalculé enoù le meilleur modèle de l'ensemble de modèles aura. Nous pouvons utiliser lesvaleurspour estimer la force de la preuve () pour tous les modèles de l'ensemble de modèles où: Ceci est souvent appelé le «poids de la preuve» pour le modèleétant donné l'ensemble de modèles apriori. Lorsqueaugmente, $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$

w_{je} = \frac{e^{(- 0,5 Δ_{je})}}{\sum_{r = 1}^{R} e^{(- 0,5 Δ_{je})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$ diminue, ce qui suggère que le modèle est moins plausible. Ces valeurs

peuvent être interprétées comme la probabilité que le modèle soit le meilleur modèle étant donné l' ensemble de modèles a priori . Nous pourrions également calculer la probabilité relative du modèle par rapport au modèle comme . Par exemple, si et nous pourrions dire que le modèle est 8 fois plus probable que le modèle .

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

Remarque, lorsque le modèle 1 est le meilleur modèle (le plus petit ). Burnham et Anderson (2002) appellent cela le ratio de preuves. Ce tableau montre comment le rapport de preuves change par rapport au meilleur modèle. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Référence

Burnham, KP et DR Anderson. 2002. Sélection de modèles et inférence multimodèle: une approche pratique de la théorie de l'information. Deuxième édition. Springer, New York, États-Unis.

Anderson, DR 2008. Inférence basée sur un modèle dans les sciences de la vie: introduction aux preuves. Springer, New York, États-Unis.

— RioRaider
source

r

$r$

R

$R$

Il existe des modèles R dans le jeu de modèles.

— RioRaider

3

Je ne pense pas qu'il existe une interprétation simple de l'AIC ou du BIC. Ce sont deux quantités qui prennent la probabilité logarithmique et lui appliquent une pénalité pour le nombre de paramètres à estimer. Les pénalités spécifiques sont expliquées pour AIC par Akaike dans ses articles à partir de 1974. BIC a été sélectionné par Gideon Schwarz dans son article de 1978 et est motivé par un argument bayésien.

— Michael R. Chernick
source

2

La pénalité peut cependant être interprétée comme une préférence pour les modèles d'une taille particulière. S'il vous arrive d'adopter cet avant (qui a des justifications théoriques de l'information), alors vous pouvez calculer un rapport de cotes postérieur directement à partir des valeurs IC. En outre, @RioRaider mentionne les poids Akaike, qui vous donnent la probabilité qu'un modèle donné soit le meilleur modèle de l'ensemble en termes de divergence KL. ( réf - voir p. 800).

— David J. Harris

1

Vous utilisez probablement le BIC en raison de l'approximation du facteur Bayes. Par conséquent, vous ne considérez pas (plus ou moins) une distribution antérieure. Le BIC dans une étape de sélection de modèle est utile lorsque vous comparez les modèles. Pour bien comprendre le BIC, le facteur Bayes, je recommande fortement de lire un article (sec. 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf pour compléter les connaissances avec: http: // www .stat.washington.edu / raftery / Recherche / PDF / kass1995.pdf

— Robert
source