Explication d'une phrase de l'AIC pour les types non techniques

J'ai besoin d'une explication d'une phrase de l'utilisation de l'AIC dans la construction de modèles. Jusqu'à présent, j'ai "En termes simples, l'AIC est une mesure relative de la quantité de variation observée représentée par différents modèles et permet de corriger la complexité du modèle."

Tout conseil très apprécié.

R

AIC est un nombre qui est utile pour comparer les modèles car il comprend des mesures de la façon dont le modèle s'adapte aux données et de la complexité du modèle.

La meilleure explication dépend de ce que l'on entend exactement par "types non techniques". J'aime les déclarations qui ont été faites jusqu'à présent, mais j'ai un petit problème: elles ont tendance à utiliser le terme "complexe", et ce que cela signifie précisément pourrait varier. Permettez-moi d'offrir cette variation:

L'AIC est une mesure de l'adéquation d' un modèle à un ensemble de données, tout en ajustant la capacité de ce modèle à s'adapter à n'importe quel ensemble de données, qu'il soit lié ou non.

Voici une définition qui situe AIC dans la ménagerie des techniques utilisées pour la sélection des modèles. L'AIC n'est qu'une des nombreuses façons raisonnables de saisir le compromis entre la qualité de l'ajustement (qui est amélioré en ajoutant la complexité du modèle sous la forme de variables explicatives supplémentaires, ou en ajoutant des mises en garde comme «mais seulement le jeudi, quand il pleut») et la parcimonie (plus simple == mieux) pour comparer les modèles non imbriqués. Voici les petits caractères:

1. Je crois que la définition du PO ne s'applique qu'aux modèles linéaires. Pour des choses comme les probits, l'AIC est généralement défini en termes de log-vraisemblance.
2. Certains autres critères sont ajustés (qui a le moins d'ajustement pour les variables explicatives supplémentaires), Kullback-Leibler IC, BIC / SC, et encore plus exotiques, comme le critère de prédiction d'Amemiya, rarement vu dans la nature du travail appliqué . Ces critères diffèrent selon la sévérité avec laquelle ils pénalisent la complexité du modèle. Certains ont fait valoir que l'AIC a tendance à sélectionner des modèles qui sont sur-paramétrisés, car la pénalité de taille du modèle est assez faible. Le BIC / SC augmente également la pénalité à mesure que la taille de l'échantillon augmente, ce qui semble être une fonctionnalité pratique.$R^{2}$
3. Une bonne façon de contourner la participation au Top Information Criterion américain est d'admettre que ces critères sont arbitraires et que des approximations considérables sont impliquées dans leur dérivation, en particulier dans le cas non linéaire. En pratique, le choix d'un modèle parmi un ensemble de modèles devrait probablement dépendre de l'utilisation prévue de ce modèle. Si le but est d'expliquer les principales caractéristiques d'un problème complexe, la parcimonie devrait valoir son pesant d'or. Si la prédiction est le nom du jeu, la parcimonie devrait être moins chère. Certains ajouteraient même que la connaissance de la théorie / du domaine devrait également jouer un rôle plus important. Dans tous les cas, ce que vous prévoyez de faire avec le modèle devrait déterminer le critère que vous pourriez utiliser.
4. Pour les modèles imbriqués , le test d'hypothèse standard limitant les paramètres à zéro devrait suffire.

Que diriez-vous:

L'AIC vous aide à trouver le modèle le mieux adapté qui utilise le moins de variables.

Si c'est trop loin dans le sens non technique, faites-le moi savoir dans les commentaires et j'en trouverai un autre.

AIC est une mesure de la façon dont les données sont expliquées par le modèle corrigé pour la complexité du modèle.

Le revers de l'excellente réponse de @ gung:

L'AIC est un nombre qui mesure l'adéquation d'un modèle avec un ensemble de données, sur une échelle mobile qui nécessite des modèles plus élaborés pour être significativement plus précis afin de donner une note plus élevée.

ÉDITER:

L'AIC est un nombre qui mesure l'adéquation d'un modèle à un ensemble de données, sur une échelle mobile qui nécessite des modèles beaucoup plus élaborés ou flexibles pour être également beaucoup plus précis.

Soit k le nombre de paramètres d'un modèle et MaxL la valeur de la fonction de vraisemblance à son maximum. Le critère d'information Akaike est alors défini comme$AIC=2k-2\ln\left(MaxL\right)$. Le but est de trouver un modèle qui minimise l'AIC.

Compte tenu de cette définition, l'AIC est un critère utilisé pour choisir le modèle qui donne le meilleur compromis entre la rareté du nombre de paramètres et la probabilité maximale d'estimation de ces paramètres.