Statistiques et Big Data regression-strategies

8

Dans la régression linéaire, quand est-il approprié d'utiliser le journal d'une variable indépendante au lieu des valeurs réelles?

Est-ce que je cherche une distribution plus sage pour la variable indépendante en question, ou pour réduire l'effet des valeurs aberrantes, ou autre chose?

164 regression distributions data-transformation logarithm regression-strategies

7

Quel est l’avantage de briser une variable prédictive continue?

Je me demande quel est l'intérêt de prendre une variable prédictive continue et de la diviser (par exemple, en quintiles), avant de l'utiliser dans un modèle. Il me semble que, en regroupant la variable, nous perdons des informations. Est-ce simplement pour que nous puissions modéliser des effets non linéaires? Si …

78 regression modeling continuous-data binning regression-strategies

3

Une forêt aléatoire peut-elle être utilisée pour la sélection d’entités dans une régression linéaire multiple?

Puisque RF peut gérer la non-linéarité mais ne peut pas fournir de coefficients, serait-il sage d'utiliser une forêt aléatoire pour rassembler les caractéristiques les plus importantes, puis de les brancher dans un modèle de régression linéaire multiple afin d'obtenir leurs coefficients?

50 regression machine-learning feature-selection random-forest regression-strategies

5

Surajustement d'un modèle de régression logistique

Est-il possible d'ajuster un modèle de régression logistique? J'ai vu une vidéo disant que si ma zone sous la courbe ROC est supérieure à 95%, il est très probable qu'elle soit sur-ajustée, mais est-il possible de sur-adapter un modèle de régression logistique?

28 logistic overfitting regression-strategies

1

Degrés de liberté résiduels appropriés après suppression des termes d'un modèle

Je réfléchis à la discussion autour de cette question et en particulier au commentaire de Frank Harrell selon lequel l'estimation de la variance dans un modèle réduit (c'est-à-dire à partir duquel un certain nombre de variables explicatives ont été testées et rejetées) devrait utiliser les degrés de liberté généralisés de …

27 r regression model-selection regression-strategies

3

Évaluation de la régression logistique et de l'interprétation de la qualité de l'ajustement Hosmer-Lemeshow

Comme nous le savons tous, il existe 2 méthodes pour évaluer le modèle de régression logistique et elles testent des choses très différentes Puissance prédictive: Obtenez une statistique qui mesure dans quelle mesure vous pouvez prédire la variable dépendante en fonction des variables indépendantes. Les Pseudo R ^ 2 bien …

24 r logistic goodness-of-fit regression-strategies model-evaluation

2

Le modèle final (prêt pour la production) doit-il être formé sur des données complètes ou simplement sur un ensemble de formation?

Supposons que j'ai formé plusieurs modèles sur l'ensemble d'entraînement, choisissez le meilleur en utilisant l'ensemble de validation croisée et les performances mesurées sur l'ensemble d'essai. Alors maintenant, j'ai un dernier meilleur modèle. Dois-je le recycler sur toutes mes données disponibles ou sur la solution d'expédition formée uniquement sur le kit …

23 machine-learning validation regression-strategies

5

Quand la régression quantile est-elle pire que l'OLS?

Mis à part certaines circonstances uniques où nous devons absolument comprendre la relation moyenne conditionnelle, quelles sont les situations où un chercheur devrait choisir l'OLS plutôt que la régression quantile? Je ne veux pas que la réponse soit "s'il n'y a aucune utilité à comprendre les relations de queue", car …

22 least-squares econometrics regression-strategies quantile-regression semiparametric

2

Pensée bayésienne sur le sur-ajustement

J'ai consacré beaucoup de temps au développement de méthodes et de logiciels pour valider des modèles prédictifs dans le domaine statistique fréquentiste traditionnel. En mettant davantage d'idées bayésiennes en pratique et en enseignant, je vois certaines différences clés à adopter. Premièrement, la modélisation prédictive bayésienne demande à l'analyste de réfléchir …

20 bayesian cross-validation predictive-models validation regression-strategies

2

LASSO souffre-t-il des mêmes problèmes que la régression pas à pas?

Les méthodes algorithmiques de sélection des variables par étapes tendent à sélectionner des modèles qui biaisent plus ou moins toutes les estimations dans les modèles de régression ( ββ\beta s et leurs SE, valeurs p , statistiques F , etc.), et sont à peu près aussi susceptibles d'exclure les vrais …

18 regression feature-selection lasso regression-strategies stepwise-regression

1

Que signifie faire de la taille de l'échantillon une variable aléatoire?

Frank Harrell a lancé un blog ( Pensée statistique) . Dans son premier article , il énumère certaines caractéristiques clés de sa philosophie statistique. Entre autres éléments, il comprend: Faites de la taille de l'échantillon une variable aléatoire lorsque cela est possible Que signifie «faire de la taille de l'échantillon …

18 sample-size random-variable regression-strategies

3

Construction et sélection de modèles à l'aide de Hosmer et al. 2013. Régression logistique appliquée dans R

Ceci est mon premier article sur StackExchange, mais je l'utilise comme ressource depuis un bon moment, je ferai de mon mieux pour utiliser le format approprié et apporter les modifications appropriées. C'est également une question en plusieurs parties. Je ne savais pas si je devais diviser la question en plusieurs …

17 r logistic model-selection regression-strategies

5

Puis-je ignorer les coefficients des niveaux de facteurs non significatifs dans un modèle linéaire?

Après avoir demandé des éclaircissements sur les coefficients du modèle linéaire ici, j'ai une question de suivi concernant les coefficients de niveaux de facteur non significatifs (valeur p élevée). Exemple: si mon modèle linéaire comprend un facteur à 10 niveaux et que seulement 3 de ces niveaux ont des valeurs …

15 statistical-significance linear-model model-selection regression-coefficients regression-strategies

2

Peut-on utiliser une variable indépendante catégorielle dans une analyse discriminante?

Dans l'analyse discriminante, la variable dépendante est catégorielle, mais puis-je utiliser une variable catégorielle (par exemple, le statut résidentiel: rural, urbain) avec une autre variable continue comme variable indépendante dans l'analyse discriminante linéaire?

15 logistic categorical-data discriminant-analysis regression-strategies

4

Quelles variables expliquent quels composants de l'ACP et vice versa?

En utilisant ces données: head(USArrests) nrow(USArrests) Je peux faire un PCA ainsi: plot(USArrests) otherPCA <- princomp(USArrests) Je peux intégrer les nouveaux composants otherPCA$scores et la proportion de variance expliquée par les composantes avec summary(otherPCA) Mais que faire si je veux savoir quelles variables sont principalement expliquées par quels composants principaux? …

14 r pca dimensionality-reduction regression-strategies

Questions marquées «regression-strategies»