Statistiques et Big Data

2

Régression pas à pas dans R - Comment ça marche?

J'essaie de comprendre la différence de base entre la régression pas à pas et la régression vers l'arrière dans R en utilisant la fonction step. Pour la régression pas à pas, j'ai utilisé la commande suivante step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="both") J'ai obtenu la sortie ci-dessous pour le code ci-dessus. Pour la sélection des …

15 r regression

3

Faut-il vraiment inclure "tous les prédicteurs pertinents?"

Une hypothèse de base de l'utilisation de modèles de régression pour l'inférence est que «tous les prédicteurs pertinents» ont été inclus dans l'équation de prédiction. La justification est que le fait de ne pas inclure un facteur important du monde réel conduit à des coefficients biaisés et donc à des …

15 regression assumptions bias predictor confounding

3

Régression logistique: Scikit Learn vs glmnet

J'essaie de dupliquer les résultats de sklearnla bibliothèque de régression logistique en utilisant le glmnetpackage dans R. À partir de la documentation desklearn régression logistique , il essaie de minimiser la fonction de coût sous pénalité l2 min w , c 1minw , c12wTw + C∑i = 1NJournal( exp( - …

15 r logistic python scikit-learn glmnet

5

Problèmes de singularité dans le modèle de mélange gaussien

Dans le chapitre 9 du livre Reconnaissance de formes et apprentissage automatique, il y a cette partie sur le modèle de mélange gaussien: Pour être honnête, je ne comprends pas vraiment pourquoi cela créerait une singularité. Quelqu'un peut-il m'expliquer cela? Je suis désolé mais je suis juste un étudiant de …

15 gaussian-mixture

2

2 Échantillon Kolmogorov-Smirnov vs Anderson-Darling vs Cramer-von-Mises

Je me demandais quels sont les critères pour utiliser Kolmogorov-Smirnov, Cramer-von-Mises et Anderson-Darling lors de la comparaison de 2 ECDFS. Je connais les mathématiques de la différence, mais si j'ai des données ECDF, comment saurais-je quel test est approprié à utiliser?

15 kolmogorov-smirnov anderson-darling two-sample

3

Pour les classificateurs linéaires, des coefficients plus importants impliquent-ils des caractéristiques plus importantes?

Je suis un ingénieur logiciel travaillant sur l'apprentissage automatique. D'après ma compréhension, la régression linéaire (comme OLS) et la classification linéaire (comme la régression logistique et SVM) font une prédiction basée sur un produit interne entre les coefficients formés et les variables caractéristiques :w⃗ w→\vec{w}x⃗ x→\vec{x} y^=f(w⃗ ⋅x⃗ )=f(∑iwixi)y^=f(w→⋅x→)=f(∑iwixi) \hat{y} …

15 regression machine-learning classification feature-selection linear-model

1

Somme ou moyenne des gradients en (mini) gradient de lot décent?

Lorsque j'ai implémenté un mini-gradient décent, j'ai simplement fait la moyenne des gradients de tous les exemples du lot de formation. Cependant, j'ai remarqué que maintenant le taux d'apprentissage optimal est beaucoup plus élevé que pour un gradient décent en ligne. Mon intuition est que c'est parce que le gradient …

15 neural-networks gradient-descent backpropagation

2

Variation élevée de la validation croisée avec absence

J'ai lu maintes et maintes fois que la validation croisée "Leave-one-out" a une grande variance en raison du grand chevauchement des plis de formation. Cependant, je ne comprends pas pourquoi: les performances de la validation croisée ne devraient-elles pas être très stables (faible variance) exactement parce que les ensembles d'entraînement …

15 variance cross-validation bias

2

Comprendre les calculs de corrélation de distance

Pour autant que je sache, la corrélation de distance est un moyen robuste et universel de vérifier s'il existe une relation entre deux variables numériques. Par exemple, si nous avons un ensemble de paires de nombres: (x1, y1) (x2, y2) ... (xn, yn) nous pouvons utiliser la corrélation de distance …

15 correlation independence intuition distance-covariance

2

Quel est le lien entre la chaîne Markov et la chaîne Markov Monte Carlo

J'essaie de comprendre les chaînes de Markov en utilisant SAS. Je comprends qu'un processus de Markov est un processus dans lequel l'état futur dépend uniquement de l'état actuel et non de l'état passé et il existe une matrice de transition qui capture la probabilité de transition d'un état à un …

15 probability simulation mcmc monte-carlo markov-process

3

Un modèle de données non négatives avec agrégation de zéros (Tweedie GLM, zéro gonflé GLM, etc.) peut-il prédire des zéros exacts?

Une distribution de Tweedie peut modéliser des données asymétriques avec une masse ponctuelle à zéro lorsque le paramètre (exposant dans la relation moyenne-variance) est compris entre 1 et 2.ppp De même, un modèle gonflé à zéro (qu'il soit par ailleurs continu ou discret) peut avoir un grand nombre de zéros. …

15 r generalized-linear-model prediction zero-inflation tweedie-distribution

2

Quelle mesure d'erreur de formation signaler pour les forêts aléatoires?

Je prépare actuellement des forêts aléatoires pour un problème de classification en utilisant le randomForestpackage dans R, et je ne sais pas comment signaler une erreur de formation pour ces modèles. Mon erreur d'entraînement est proche de 0% lorsque je la calcule en utilisant les prédictions que j'obtiens avec la …

15 r machine-learning classification random-forest overfitting

5

Kernel SVM: Je veux une compréhension intuitive de la mise en correspondance avec un espace d'entités de dimension supérieure, et comment cela rend possible la séparation linéaire

J'essaie de comprendre l'intuition derrière les SVM du noyau. Maintenant, je comprends comment fonctionne le SVM linéaire, par lequel une ligne de décision est faite qui divise les données du mieux qu'elle peut. Je comprends également le principe derrière le portage de données vers un espace de dimension supérieure, et …

15 machine-learning svm kernel-trick

1

importance de la différence entre deux chefs d'accusation

Existe-t-il un moyen de déterminer si une différence entre un nombre d'accidents de la route au moment 1 est significativement différente d'un nombre au moment 2? J'ai trouvé différentes méthodes pour déterminer la différence entre des groupes d'observations à différents moments (par exemple en comparant les moyennes de poisson) mais …

15 statistical-significance count-data

1

J'ai une ligne de meilleur ajustement. J'ai besoin de points de données qui ne changeront pas ma ligne de meilleur ajustement

Je fais une présentation sur l'ajustement des lignes. J'ai une fonction linéaire simple, . J'essaie d'obtenir des points de données dispersées que je peux mettre dans un nuage de points qui maintiendra ma ligne de meilleur ajustement dans la même équation.y=1x+by=1x+by=1x+b Je serais ravi d'apprendre cette technique dans R ou …

15 r regression least-squares excel