Statistiques et Big Data

2

Estimateurs du maximum de vraisemblance - Gaussien multivarié

Le contexte Le gaussien multivarié apparaît fréquemment dans l'apprentissage automatique et les résultats suivants sont utilisés dans de nombreux livres et cours de ML sans les dérivations. Étant donné les données sous la forme d'une matrice de dimensions , si nous supposons que les données suivent une distribution gaussienne à …

20 normal-distribution maximum-likelihood estimators multivariate-normal

3

Arbres boostés par gradient XGBoost vs Python Sklearn

J'essaie de comprendre comment fonctionne XGBoost. Je comprends déjà comment les arbres boostés par le gradient fonctionnent sur Python sklearn. Ce qui n'est pas clair pour moi, c'est si XGBoost fonctionne de la même manière, mais plus rapidement, ou s'il existe des différences fondamentales entre celui-ci et l'implémentation de python. …

20 scikit-learn boosting gbm xgboost

5

Deep learning: comment savoir quelles variables sont importantes?

En termes de jargon de réseau de neurones (y = poids * x + biais), comment saurais-je quelles variables sont plus importantes que d'autres? J'ai un réseau neuronal avec 10 entrées, 1 couche cachée avec 20 nœuds et 1 couche de sortie qui a 1 nœud. Je ne sais pas …

20 machine-learning neural-networks bias tensorflow theano

3

Quand les algorithmes génétiques sont-ils un bon choix pour l'optimisation?

Les algorithmes génétiques sont une forme de méthode d'optimisation. Souvent, la descente de gradient stochastique et ses dérivés sont le meilleur choix pour l'optimisation des fonctions, mais des algorithmes génétiques sont encore parfois utilisés. Par exemple, l'antenne du vaisseau spatial ST5 de la NASA a été créée avec un algorithme …

20 machine-learning optimization gradient-descent genetic-algorithms

3

Pourquoi les poids des réseaux RNN / LSTM sont-ils partagés dans le temps?

Je me suis récemment intéressé aux LSTM et j'ai été surpris d'apprendre que les poids sont partagés dans le temps. Je sais que si vous partagez les pondérations dans le temps, vos séquences temporelles d'entrée peuvent être de longueur variable. Avec des poids partagés, vous avez beaucoup moins de paramètres …

20 machine-learning lstm rnn

3

Intuition pour l'attente conditionnelle de -algebra

Soit un espace de probabilité, étant donné une variable aléatoire et une -algebra nous pouvons construire une nouvelle variable aléatoire , qui est l'espérance conditionnelle.( Ω , F , μ ) (Ω,F,μ)(\Omega,\mathscr{F},\mu)ξ : Ω → Rξ:Ω→R\xi:\Omega \to \mathbb{R} σ σ\sigmaG ⊆ FG⊆F\mathscr{G}\subseteq \mathscr{F} E [ ξ |G ]E[ξ|G]E[\xi|\mathscr{G}] Quelle est …

20 probability conditional-probability conditional-expectation conditioning sigma-algebra

2

Quelle est la signification du super script 2 indice 2 dans le contexte des normes?

Je suis nouveau dans l'optimisation. Je continue de voir des équations qui ont un exposant 2 et un indice 2 sur le côté droit d'une norme. Par exemple, voici l'équation des moindres carrés min||Ax−b||22||Ax−b||22 ||Ax-b||^2_2 Je pense que je comprends l'exposant 2: cela signifie mettre au carré la valeur de …

20 regression optimization notation

3

Quelle est la différence entre les erreurs et les résidus?

Bien que ces deux termes omniprésents soient souvent utilisés comme synonymes, il semble parfois y avoir une distinction. Y a-t-il effectivement une différence, ou sont-ils exactement synonymes?

20 residuals error terminology

1

k-fold Validation croisée de l'apprentissage d'ensemble

Je suis confus sur la façon de partitionner les données pour la validation croisée k-fold de l'apprentissage d'ensemble. En supposant que j'ai un cadre d'apprentissage d'ensemble pour la classification. Ma première couche contient les modèles de classification, par exemple svm, les arbres de décision. Ma deuxième couche contient un modèle …

20 classification cross-validation ensemble

3

Erreur de prédiction attendue - dérivation

J'ai du mal à comprendre la dérivation de l'erreur de prédiction attendue ci-dessous (ESL), en particulier sur la dérivation de 2.11 et 2.12 (conditionnement, le pas vers le minimum point par point). Tous les pointeurs ou liens très appréciés. Ci-dessous, je rapporte l'extrait de ESL pg. 18. Les deux premières …

20 regression prediction error

1

Supervision à distance: supervisée, semi-supervisée ou les deux?

La «supervision distante» est un schéma d'apprentissage dans lequel un classificateur est appris en fonction d'un ensemble de formation faiblement étiqueté (les données de formation sont étiquetées automatiquement sur la base d'heuristiques / règles). Je pense que l'apprentissage supervisé et l'apprentissage semi-supervisé peuvent inclure une telle «supervision à distance» si …

20 machine-learning data-mining dataset references unsupervised-learning

1

Comparaison entre SHAP (explication additive de Shapley) et LIME (explications agnostiques du modèle interprétable local)

Je lis environ deux techniques d'interprétabilité de modèles post hoc populaires: LIME et SHAP J'ai du mal à comprendre la principale différence entre ces deux techniques. Pour citer Scott Lundberg , le cerveau derrière SHAP: Les valeurs SHAP viennent avec les avantages d'estimation locale de la boîte noire de LIME, …

20 model-interpretation shapley-value lime

4

Est-ce une bonne idée d'utiliser CNN pour classer le signal 1D?

Je travaille sur la classification des stades de sommeil. J'ai lu quelques articles de recherche sur ce sujet, beaucoup d'entre eux ont utilisé la méthode SVM ou d'ensemble. Est-ce une bonne idée d'utiliser un réseau neuronal convolutif pour classer le signal EEG unidimensionnel? Je suis nouveau dans ce genre de …

20 neural-networks svm conv-neural-network signal-processing

1

Quand utiliserait-on l'échantillonnage de Gibbs au lieu de Metropolis-Hastings?

Il existe différents types d'algorithmes MCMC: Metropolis-Hastings Gibbs Échantillonnage d'importance / rejet (lié). Pourquoi utiliser un échantillonnage de Gibbs au lieu de Metropolis-Hastings? Je soupçonne qu'il y a des cas où l'inférence est plus traitable avec l'échantillonnage de Gibbs qu'avec Metropolis-Hastings, mais je ne suis pas clair sur les détails.

20 bayesian simulation mcmc gibbs metropolis-hastings

1

Aidez-moi à comprendre le rapport de cotes ajusté dans la régression logistique

J'ai eu du mal à comprendre l'utilisation de la régression logistique dans un article. L'article disponible ici utilise la régression logistique pour prédire la probabilité de complications lors d'une chirurgie de la cataracte. Ce qui me déroute, c'est que le document présente un modèle qui attribue un rapport de cotes …

20 logistic odds-ratio