Statistiques et Big Data

Q & A pour les personnes intéressées par les statistiques, l'apprentissage automatique, l'analyse de données, l'exploration de données et la visualisation de données

Qu'est-ce que le normalisateur de gradient-log?

Dans le wiki, la fonction softmax est définie comme le normalisateur de gradient-log de la distribution de probabilité catégorielle . Une explication partielle du normalisateur de journal se trouve ici , mais que signifie normalisateur de journal de gradient ?

9 softmax

Effets d'échantillonnage sur les modèles de séries chronologiques

Je travaille beaucoup avec les modèles de séries temporelles financières, principalement AR (I) MA et Kalman. Un problème auquel je continue de faire face est la fréquence d'échantillonnage. Au départ, je pensais que si on m'offrait la possibilité d'échantillonner plus fréquemment à partir d'un processus sous-jacent, je devrais échantillonner aussi …

9 time-series sampling arima

adonis en végétalien: ordre des variables ou utilisation des strates

J'utilise la adonis()fonction du veganpackage pour déterminer 1) si les espèces hôtes cooccurrentes varient dans leur communauté microbienne sur plusieurs sites, et 2) si les sites sont différents. J'ai examiné tous les messages sur CV et SO, et il n'y a pas de réponse claire sur la façon de déterminer …

9 r permutation-test sums-of-squares blocking

Coefficient de corrélation de Matthews avec multi-classe

Le coefficient de corrélation de Matthews ( ) est une mesure pour mesurer la qualité d'une classification binaire ([Wikipedia] [1]). formulation est donnée pour la classification binaire utilisant les valeurs de vrais positifs ( ), de faux positifs ( ), de faux négatifs ( ) et de vrais négatifs ( …

9 machine-learning classification multi-class agreement-statistics

Quelle est la relation entre un SVM et la perte de charnière?

Mon collègue et moi essayons de comprendre la différence entre la régression logistique et un SVM. De toute évidence, ils optimisent différentes fonctions objectives. Un SVM est-il aussi simple que de dire qu'il s'agit d'un classificateur discriminant qui optimise simplement la perte de charnière? Ou est-ce plus complexe que ça? …

9 regression logistic svm max-margin

Statistiques bayésiennes antérieures d'uniforme binomial

Supposons d'avoir une distribution binomiale où la priorité du paramètre est uniforme. Comment obtenir la distribution postérieure du paramètre?

9 bayesian posterior

Pourquoi le lasso dans matlab est-il beaucoup plus lent que glmnet dans R (10 min contre ~ 1 s)?

J'ai observé que la fonction lasso dans MATLAB est relativement lente. Je gère de nombreux problèmes de régression, avec généralement 1 à 100 prédicteurs et 200 à 500 observations. Dans certains cas, le lasso s'est avéré extrêmement lent (pour résoudre un problème de régression, il a fallu plusieurs minutes). J'ai …

9 regression feature-selection regularization

Quelles sont les senones dans un réseau neuronal profond?

Je lis cet article: traducteur skype où ils utilisent des CD-DNN-HMM (réseaux neuronaux profonds dépendants du contexte avec des modèles de Markov cachés). Je peux comprendre l'idée du projet et l'architecture qu'ils ont conçue mais je ne comprends pas ce que sont les senones . Je cherchais une définition mais …

9 neural-networks deep-learning terminology natural-language hidden-markov-model

Formule AIC dans Introduction à l'apprentissage statistique

Je suis un peu perplexe par une formule présentée dans "Introduction à l'apprentissage statistique" de Hastie. Au chapitre 6, page 212 (sixième impression, disponible ici ), il est indiqué que: AIC=RSSnσ^2+2dnAIC=RSSnσ^2+2dnAIC = \frac{RSS}{n\hat\sigma^2} + \frac{2d}{n} Pour les modèles linéaires avec bruit gaussien, étant le nombre de prédicteurs et étant l'estimation …

9 regression machine-learning aic

Que signifie (intuitivement) le fait de maintenir les autres variables constantes dans la régression?

Je recherche une explication à la fois 1) mécanique et 2) intuitive de la façon dont les effets des variables individuelles sont déterminés en maintenant les autres variables constantes. Dans un exemple utilisant des données d'enquête, que signifie exactement: "en maintenant un âge, un sexe et un revenu constants, l'effet …

9 regression interpretation

Interprétation de la loi totale de covariance

soit des variables aléatoires définies sur le même espace de probabilité et que la covariance de et soit finie, alors la loi de la formule de décomposition de la covariance totale / covariance indique: Quelle est l'interprétation de et ?X, Y, ZX,Y,ZX,Y,ZXXXOuiYYCov ( X, Y) =E [ Cov(X, Y| Z) …

9 probability covariance variance-decomposition

Définition de la complexité d'un arbre dans xgboost

En faisant des recherches sur l'algorithme xgboost, j'ai parcouru la documentation . Dans cette approche, les arbres sont régularisés en utilisant la définition de la complexité Ω ( f) = γT+12λ∑j = 1Tw2jΩ(f)=γT+12λ∑j=1Twj2 \Omega(f) = \gamma T + \frac12 \lambda \sum_{j=1}^T w_j^2 où γγ\gamma et λλ\lambda sont des paramètres, TTT …

9 cart regularization boosting gradient-descent overfitting

Représentation vectorielle d'entrée vs représentation vectorielle de sortie dans word2vec

Dans les modèles CBOW et skip-gram de word2vec, comment le choix des vecteurs de mots de (matrice de mots d'entrée) par rapport au choix des vecteurs de mots de (matrice de mots de sortie) affecte-t-il la qualité des vecteurs de mots résultants?WWWW′W′W' CBOW: Skip-gram:

9 neural-networks natural-language word2vec word-embeddings

Quel est l'algorithme sous-jacent utilisé par le lm de R?

On m'a posé une question concernant un modèle linéaire fait avec des R lm: "La régression a-t-elle utilisé des moindres carrés itératifs linéaires ou non linéaires?" J'ai cherché un peu et [pense que je] comprends la différence entre les deux, mais je n'ai trouvé aucune preuve de l'utilisation par R …

9 r linear-model lm

Quelle est la définition mathématique des paramètres de localisation / échelle / forme?

J'essaie de comprendre la définition exacte des paramètres de localisation / échelle / forme (par exemple, est appelé paramètre de forme et est paramètre d'échelle dans Pareto Type I). Mais les livres auxquels j'ai fait référence ( The Cambridge Dictionary of Statistics , HMC's Introduction to Mathematical Statistics , Feller's …

9 mathematical-statistics nonparametric definition

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.

Licensed under cc by-sa 3.0 with attribution required.