Sélection de modèles non imbriqués

13

Le test du rapport de vraisemblance et l'AIC sont tous deux des outils pour choisir entre deux modèles et les deux sont basés sur le log-vraisemblance.

Mais pourquoi le test du rapport de vraisemblance ne peut-il pas être utilisé pour choisir entre deux modèles non imbriqués alors que l'AIC le peut?

aic likelihood-ratio nested-models

— user7064
source

Akaike lui-même pensait que l'AIC était utile pour comparer des modèles non imbriqués. Voir sa citation à laquelle j'ai fait référence en réponse au message ici .

— JonesBC

19

$\chi^2$

AIC, d'autre part, n'est pas utilisé pour les tests formels. Il est utilisé pour des comparaisons informelles de modèles avec différents nombres de paramètres. Le terme de pénalité dans l'expression pour AIC est ce qui permet cette comparaison. Mais aucune hypothèse n'est formulée sur la forme fonctionnelle de la distribution asymptotique des différences entre l'AIC de deux modèles non imbriqués lors de la comparaison de modèles, et la différence entre deux AIC n'est pas traitée comme une statistique de test.

J'ajouterai qu'il y a un certain désaccord sur l'utilisation de l'AIC avec les modèles non imbriqués, car la théorie est élaborée pour les modèles imbriqués. D'où mon emphase sur "pas ... formelle" et "pas ... statistique de test". Je l'utilise pour les modèles non imbriqués, mais pas de manière stricte et rapide, plutôt comme une entrée importante, mais pas la seule, dans le processus de construction de modèle.

— jbowman
source

@Carl - l'élaboration est dans les deux commentaires juste avant le commentaire que vous citez. Je pense que vous devriez suivre les conseils de Gung - posez une question et répondez-y. C'est une chose juste à faire dans ces circonstances, et d'autres l'ont fait également pour les "questions de référence". Je viens de passer en revue votre réponse, je la voterais favorablement.

— jbowman

J'ai suivi les conseils et de nouvelles questions et réponses sont ici . BTW, j'ai voté pour votre question (et la réponse acceptée) parce qu'elle m'a fait réfléchir, et non parce que je suis entièrement d'accord avec elle. Mon problème est que l'hypothèse selon laquelle les modèles non imbriqués peuvent être comparés par AIC n'est vraie que lorsque de nombreuses autres conditions généralement ignorées sont remplies.

— Carl

9

La dérivation de l'AIC comme estimateur de la perte d'informations de Kullback-Leibler ne fait aucune hypothèse d'imbrication de modèles.

— David Anderson
source

2

Mais Akaike a fait l'hypothèse que les modèles étaient construits sur les mêmes données.

— DWin