Statistiques et Big Data

4

Pourquoi dit-on que la variable de résultat «est régressée sur» le ou les prédicteurs?

Y a-t-il une explication intuitive à cette terminologie? Pourquoi en est-il ainsi et non le ou les prédicteurs régressés sur le résultat? Idéalement, j'espère qu'une explication appropriée de la raison pour laquelle cette terminologie existe aidera les élèves à s'en souvenir et les empêchera de la dire dans le mauvais …

16 regression terminology teaching

2

Quelles sont les différences entre la fonction logistique et la fonction sigmoïde?

Fig 1. Fonction logistique Fig 2. Fonction sigmoïde est-ce plutôt une sorte de fonction sigmoïde généralisée où vous pourriez avoir une valeur maximale plus élevée?

16 logistic

1

Quel est le lien entre les moindres carrés partiels, la régression à rang réduit et la régression à composantes principales?

La régression à rang réduit et la régression à composantes principales ne sont-elles que des cas particuliers de moindres carrés partiels? Ce tutoriel (Page 6, "Comparaison des objectifs") indique que lorsque nous faisons des moindres carrés partiels sans projeter X ou Y (c'est-à-dire "non partiel"), cela devient une régression de …

16 regression pca dimensionality-reduction partial-least-squares reduced-rank-regression

3

Quand la probabilité maximale fonctionne-t-elle et quand elle ne fonctionne pas?

Je suis confus quant à la méthode du maximum de vraisemblance par rapport, par exemple, au calcul de la moyenne arithmétique. Quand et pourquoi la probabilité maximale produit-elle de "meilleures" estimations que, par exemple, la moyenne arithmétique? Comment est-ce vérifiable?

16 maximum-likelihood

1

Comment modéliser des données continues non négatives gonflées à zéro?

J'essaie actuellement d'appliquer un modèle linéaire ( family = gaussian) à un indicateur de biodiversité qui ne peut pas prendre des valeurs inférieures à zéro, est gonflé à zéro et est continu. Les valeurs vont de 0 à un peu plus de 0,25. En conséquence, il y a un schéma …

16 regression zero-inflation tobit-regression tweedie-distribution

3

Analyse discriminante vs régression logistique

J'ai trouvé des pros de l'analyse discriminante et j'ai des questions à leur sujet. Donc: Lorsque les classes sont bien séparées, les estimations des paramètres de régression logistique sont étonnamment instables. Les coefficients peuvent aller à l'infini. LDA ne souffre pas de ce problème. Si le nombre de caractéristiques est …

16 regression logistic multivariate-analysis discriminant-analysis

2

La linéarité de la variance

Je pense que les deux formules suivantes sont vraies: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) tandis que a est un nombre constant si , Y sont indépendantsVar(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) XXXYYY Cependant, je ne suis pas sûr de ce qui ne va pas avec ce qui suit: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + …

16 variance linearity fallacy

2

Quelle est la différence entre l'estimation de vraisemblance maximale et la descente de gradient?

Quels sont les avantages et les inconvénients des deux méthodes?

16 maximum-likelihood predictive-models optimization gradient-descent

1

Dans la théorie de l'apprentissage statistique, n'y a-t-il pas un problème de surapprentissage sur un ensemble de test?

Examinons le problème de la classification de l'ensemble de données MNIST. Selon la page Web MNIST de Yann LeCun , «Ciresan et al.» a obtenu un taux d'erreur de 0,23% sur l'ensemble de test MNIST en utilisant le réseau neuronal convolutionnel. Notons l'ensemble de formation MNIST comme DtrainDtrainD_{train} , l'ensemble …

16 machine-learning classification overfitting probability-inequalities

1

Forfait R pour la forêt aléatoire pondérée? option classwt?

J'essaie d'utiliser Random Forest pour prédire le résultat d'un ensemble de données extrêmement déséquilibré (le taux de classe minoritaire n'est que d'environ 1% ou même moins). Étant donné que l'algorithme traditionnel de la forêt aléatoire minimise le taux d'erreur global, plutôt que d'accorder une attention particulière aux classes minoritaires, il …

16 r random-forest

3

Qu'est-ce qu'une distribution exactement?

Je connais très peu de probabilités et de statistiques, et je souhaite apprendre. Je vois le mot «distribution» utilisé partout dans différents contextes. Par exemple, une variable aléatoire discrète a une «distribution de probabilité». Je sais ce que c'est. Une variable aléatoire continue a une fonction de densité de probabilité, …

16 distributions definition

2

Test post-hoc pour le test de qualité d'ajustement du chi carré

J'effectue un test de qualité d'ajustement chi carré (GOF) avec trois catégories et je veux spécifiquement tester la valeur nulle que les proportions de population dans chaque catégorie sont égales (c'est-à-dire que la proportion est de 1/3 dans chaque groupe): DONNÉES OBSERVÉES Groupe 1 Groupe 2 Groupe 3 Total 686928 …

16 hypothesis-testing chi-squared goodness-of-fit post-hoc

3

Pourquoi une statistique suffisante contient toutes les informations nécessaires pour calculer une estimation du paramètre?

Je viens de commencer à étudier les statistiques et je n'arrive pas à comprendre intuitivement la suffisance. Pour être plus précis, je ne comprends pas comment montrer que les deux paragraphes suivants sont équivalents: En gros, étant donné un ensemble X de données indépendantes distribuées de manière identique conditionnées sur …

16 sufficient-statistics

1

Pourquoi le «lasso détendu» est-il différent du lasso standard?

Si nous commençons avec un ensemble de données , y appliquons Lasso et obtenons une solution , nous pouvons appliquer à nouveau Lasso à l'ensemble de données , où S est l'ensemble des non index zéro de \ beta ^ L , pour obtenir une solution, \ beta ^ {RL} …

16 regression optimization lasso regularization shrinkage

2

Pourquoi le GLM est-il différent d'un LM avec une variable transformée

Comme expliqué dans ce document de cours (page 1) , un modèle linéaire peut être écrit sous la forme: y= β1X1+ ⋯ + βpXp+ εje,y=β1X1+⋯+βpXp+εje, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, où est la variable de réponse et est la i ^ {ème} variable explicative.yyyXjeXjex_{i}jet …

16 regression generalized-linear-model data-transformation linear-model