Statistiques et Big Data model-selection

3

Justification empirique de la règle d'erreur standard unique lors de l'utilisation de la validation croisée

Existe-t-il des études empiriques justifiant l’utilisation de la règle de l’erreur standard unique en faveur de la parcimonie? Cela dépend évidemment du processus de génération des données, mais tout ce qui analyse un grand corpus de jeux de données serait une lecture très intéressante. La "règle d'erreur standard unique" est …

39 cross-validation model-selection regularization

5

Valeurs négatives pour AICc (critère d'information d'Akaike corrigé)

J'ai calculé AIC et AICc pour comparer deux modèles mixtes linéaires généraux; Les AIC sont positives, le modèle 1 ayant un AIC inférieur au modèle 2. Cependant, les valeurs pour AICc sont toutes les deux négatives (le modèle 1 est toujours <modèle 2). Est-il valide d'utiliser et de comparer des …

39 mixed-model model-selection aic

1

Quand la validation croisée imbriquée est-elle vraiment nécessaire et peut-elle faire la différence?

Lorsque vous utilisez la validation croisée pour sélectionner des modèles (par exemple, un réglage hyperparamètre) et pour évaluer les performances du meilleur modèle, vous devez utiliser une validation croisée imbriquée . La boucle externe sert à évaluer les performances du modèle et la boucle interne à sélectionner le meilleur modèle. …

36 cross-validation model-selection ridge-regression

7

Choix de variables à inclure dans un modèle de régression linéaire multiple

Je travaille actuellement à la construction d'un modèle utilisant une régression linéaire multiple. Après avoir manipulé mon modèle, je ne sais pas comment déterminer au mieux les variables à conserver et celles à supprimer. Mon modèle a commencé avec 10 prédicteurs pour le DV. Lors de l'utilisation des 10 prédicteurs, …

35 regression multiple-regression feature-selection modeling model-selection

3

Que signifie le score Akaike Information Criterion (AIC) d'un modèle?

J'ai vu quelques questions ici sur ce que cela signifie en termes simples, mais elles sont trop laïques pour mon objectif ici. J'essaie de comprendre mathématiquement la signification du score AIC. Mais en même temps, je ne veux pas d’une preuve rigoureuse qui me ferait perdre de vue les points …

34 self-study model-selection aic entropy information-theory

2

Sélection de modèle et validation croisée: la bonne manière

CrossValidated contient de nombreuses discussions sur la sélection de modèles et la validation croisée. Voici quelques-uns: Validation croisée interne et externe et sélection du modèle La réponse de @ DikranMarsupial à la sélection des fonctionnalités et à la validation croisée Cependant, les réponses à ces discussions sont assez génériques et …

34 cross-validation model-selection

3

Comment la validation croisée surmonte-t-elle le problème de surajustement?

Pourquoi une procédure de validation croisée résout-elle le problème de surapprentissage d'un modèle?

34 regression model-selection cross-validation

6

Data mining: Comment dois-je m'y prendre pour trouver la forme fonctionnelle?

Je suis curieux de savoir les procédures reproductibles qui peuvent être utilisées pour découvrir la forme fonctionnelle de la fonction y = f(A, B, C) + error_termoù mon entrée est seulement un ensemble d'observations ( y, A, Bet C). Veuillez noter que la forme fonctionnelle de fest inconnue. Considérez le …

34 regression machine-learning algorithms model-selection data-mining

1

Que sont les contrôles prédictifs postérieurs et qu'est-ce qui les rend utiles?

Je comprends ce qu'est la distribution prédictive postérieure , et j'ai lu sur les vérifications prédictives postérieures , bien que je ne sache pas encore ce qu'elle fait. Quelle est exactement la vérification prédictive postérieure? Pourquoi certains auteurs affirment que l'exécution de vérifications prédictives postérieures «utilise les données deux fois» …

33 bayesian model-selection posterior

5

Directives AIC dans la sélection du modèle

J'utilise généralement BIC, car je pense qu'il valorise la parcimonie plus fortement que l'AIC. Cependant, j’ai décidé d’utiliser maintenant une approche plus globale et j’aimerais aussi utiliser AIC. Je sais que Raftery (1995) a présenté de bonnes directives pour les différences BIC: 0-2 est faible, 2-4 est la preuve positive …

32 r model-selection references aic bic

6

La parcimonie devrait-elle vraiment rester l'étalon-or?

Juste une pensée: Les modèles parcimonieux ont toujours été la référence par défaut dans la sélection des modèles, mais dans quelle mesure cette approche est-elle dépassée? Je suis curieux de savoir à quel point notre tendance à la parcimonie est une relique d'une époque d'abaci et de règles de diapositives …

31 predictive-models model-selection model

1

Utilisation abusive de la validation croisée (rapport des performances pour la meilleure valeur d'hyperparamètre)

Récemment, je suis tombé sur un article qui propose d'utiliser un classificateur k-NN sur un ensemble de données spécifique. Les auteurs ont utilisé tous les échantillons de données disponibles pour effectuer une validation croisée k-fold pour différentes valeurs k et rapporter les résultats de la validation croisée de la meilleure …

31 cross-validation references model-selection model-evaluation

3

Est-il possible de calculer AIC et BIC pour les modèles de régression au lasso?

Est-il possible de calculer les valeurs AIC ou BIC pour les modèles de régression au lasso et d'autres modèles régularisés où les paramètres n'entrent que partiellement dans l'équation. Comment détermine-t-on les degrés de liberté? J'utilise R pour adapter les modèles de régression au lasso avec la glmnet()fonction du glmnetpackage, et …

31 r model-selection lasso aic bic

3

l'opportunité de remettre à l'échelle l'indicateur / les prédicteurs binaires / fictifs pour LASSO

Pour le LASSO (et d'autres procédures de sélection de modèle), il est crucial de redimensionner les prédicteurs. La recommandation générale que je suis consiste simplement à utiliser une normalisation de 0 moyenne, 1 écart-type pour les variables continues. Mais que faire avec les nuls? Par exemple, certains exemples appliqués de …

30 predictive-models model-selection lasso standardization multidimensional-scaling

5

Choisir le meilleur modèle parmi différents «meilleurs» modèles

Comment choisissez-vous un modèle parmi différents modèles choisis par différentes méthodes (par exemple sélection vers l'arrière ou vers l'avant)? Qu'est-ce qu'un modèle parcimonieux?

28 regression model-selection

Questions marquées «model-selection»