Statistiques et Big Data model-selection

1

Degrés de liberté résiduels appropriés après suppression des termes d'un modèle

Je réfléchis à la discussion autour de cette question et en particulier au commentaire de Frank Harrell selon lequel l'estimation de la variance dans un modèle réduit (c'est-à-dire à partir duquel un certain nombre de variables explicatives ont été testées et rejetées) devrait utiliser les degrés de liberté généralisés de …

27 r regression model-selection regression-strategies

3

L'AIC peut-il comparer différents types de modèles?

J'utilise AIC (Akaike's Information Criterion) pour comparer des modèles non linéaires dans R. Est-il valide de comparer les AIC de différents types de modèle? Plus précisément, je compare un modèle ajusté par glm avec un modèle avec un terme à effet aléatoire ajusté par glmer (lme4). Sinon, existe-t-il un moyen …

27 lme4-nlme model-selection aic

4

Comment mesurer / classer «l'importance variable» lors de l'utilisation de CART? (en utilisant spécifiquement {rpart} de R)

Lors de la construction d'un modèle CART (spécifiquement l'arbre de classification) à l'aide de rpart (dans R), il est souvent intéressant de savoir quelle est l'importance des différentes variables introduites dans le modèle. Ainsi, ma question est: Quelles sont les mesures communes existantes pour classer / mesurer l'importance des variables …

27 r classification model-selection cart rpart

3

Prérequis pour la comparaison de modèles AIC

Quelles sont exactement les conditions préalables qui doivent être remplies pour que la comparaison des modèles AIC fonctionne? Je viens de contourner cette question lorsque j'ai fait une comparaison comme celle-ci: > uu0 = lm(log(usili) ~ rok) > uu1 = lm(usili ~ rok) > AIC(uu0) [1] 3192.14 > AIC(uu1) [1] …

26 regression model-selection aic model-comparison nested-models

4

Aborder l'incertitude du modèle

Je me demandais comment les Bayésiens de la communauté CrossValidated perçoivent le problème de l' incertitude du modèle et comment ils préfèrent y faire face? Je vais essayer de poser ma question en deux parties: Dans quelle mesure (selon votre expérience / votre opinion) traite-t-on de l'incertitude du modèle? Je …

25 machine-learning bayesian model-selection

5

Quel est l'avantage de traiter un facteur comme aléatoire dans un modèle mixte?

J'ai un problème à accepter les avantages d'étiqueter un facteur de modèle comme aléatoire pour plusieurs raisons. Il me semble que dans presque tous les cas, la solution optimale consiste à traiter tous les facteurs comme fixes. Premièrement, la distinction entre fixe et aléatoire est assez arbitraire. L'explication standard est …

24 model-selection random-effects-model aic fixed-effects-model mixed-model

4

Avez-vous une vision globale de ces techniques d'analyse?

Je suis actuellement sur un projet où j'ai essentiellement besoin, comme nous tous, de comprendre comment la sortie est liée à l'entrée . La particularité ici est que les données me sont données une pièce à la fois, donc je veux mettre à jour mon analyse chaque fois que je …

24 modeling model-selection

2

Stabilité des sujets dans les modèles de sujets

Je travaille sur un projet où je souhaite extraire des informations sur le contenu d'une série d'essais ouverts. Dans ce projet particulier, 148 personnes ont écrit des essais sur une organisation étudiante hypothétique dans le cadre d'une expérience plus vaste. Bien que dans mon domaine (psychologie sociale), la façon typique …

23 machine-learning model-selection small-sample topic-models dirichlet-process

3

AIC versus validation croisée dans les séries chronologiques: le petit cas d'échantillon

Je suis intéressé par la sélection de modèles dans un cadre de séries chronologiques. Pour être concret, supposons que je veuille sélectionner un modèle ARMA à partir d'un pool de modèles ARMA avec différents ordres de décalage. L' intention ultime est la prévision . La sélection du modèle peut être …

23 time-series forecasting cross-validation model-selection aic

2

Pourquoi l'épreuve de Wilks de 1938 ne fonctionne-t-elle pas pour les modèles mal spécifiés?

Dans le célèbre article de 1938 (« La distribution à grand échantillon du rapport de vraisemblance pour tester les hypothèses composites », Annals of Mathematical Statistics, 9: 60-62), Samuel Wilks a dérivé la distribution asymptotique de 2×LLR2×LLR2 \times LLR (log log vraisemblance ratio ) pour les hypothèses imbriquées, sous l'hypothèse …

23 hypothesis-testing model-selection likelihood-ratio asymptotics misspecification

4

Quand les résultats de Shao sur la validation croisée avec abandon sont-ils applicables?

Dans son article Linear Model Selection by Cross-Validation , Jun Shao montre que pour le problème de la sélection des variables dans la régression linéaire multivariée, la méthode de validation croisée avec oubli (LOOCV) est `` asymptotiquement incohérente ''. En clair, il a tendance à sélectionner des modèles avec trop …

23 classification model-selection cross-validation

1

Choisir parmi les règles de notation appropriées

La plupart des ressources sur les règles de notation appropriées mentionnent un certain nombre de règles de notation différentes comme la perte de journal, le score de Brier ou la notation sphérique. Cependant, ils ne donnent souvent pas beaucoup d'indications sur les différences entre eux. (Pièce A: Wikipedia .) Choisir …

22 machine-learning classification model-selection theory scoring-rules

3

Stabilité du modèle face à un grand problème

Intro: J'ai un ensemble de données avec un problème classique "grand p, petit n". Le nombre d'échantillons disponibles n = 150 tandis que le nombre de prédicteurs possibles p = 400. Le résultat est une variable continue. Je veux trouver les descripteurs les plus "importants", c'est-à-dire ceux qui sont les …

22 regression cross-validation model-selection feature-selection elastic-net

2

Meilleure approche pour la sélection de modèles bayésienne ou validation croisée?

Lorsque vous essayez de sélectionner parmi différents modèles ou le nombre de fonctionnalités à inclure, disons la prédiction, je peux penser à deux approches. Divisez les données en ensembles de formation et de test. Mieux encore, utilisez le bootstrapping ou la validation croisée k-fold. Entraînez-vous à chaque fois sur l'ensemble …

22 bayesian model-selection cross-validation feature-selection

2

Quelle est la propriété oracle d'un estimateur?

Quelle est la propriété oracle d'un estimateur? Pour quels objectifs de modélisation la propriété oracle est-elle pertinente (prédictive, explicative, ...)? Des explications théoriquement rigoureuses et (surtout) intuitives sont les bienvenues.

22 feature-selection model-selection estimators oracle

Questions marquées «model-selection»