Statistiques et Big Data machine-learning

2

Application de l'inférence variationnelle stochastique au mélange bayésien de gaussien

J'essaie d'implémenter le modèle de mélange gaussien avec l'inférence variationnelle stochastique, à la suite de cet article . C'est le pgm du mélange gaussien. Selon l'article, l'algorithme complet d'inférence variationnelle stochastique est: Et je suis encore très confus de la méthode pour l'adapter à GMM. Tout d'abord, je pensais que …

9 machine-learning bayesian clustering gaussian-mixture variational-bayes

2

Est-il réellement correct d'effectuer une sélection de fonctionnalités non supervisée avant la validation croisée?

Dans The Elements of Statistical Learning , j'ai trouvé l'énoncé suivant: Il y a une qualification: les étapes initiales de dépistage non supervisé peuvent être effectuées avant de laisser des échantillons. Par exemple, nous pourrions sélectionner les 1000 prédicteurs présentant la variance la plus élevée parmi les 50 échantillons, avant …

9 machine-learning cross-validation feature-selection

2

Faut-il toujours faire du CV?

Ma question: dois-je faire du CV même pour un ensemble de données relativement volumineux? J'ai un ensemble de données relativement volumineux et j'appliquerai un algorithme d'apprentissage automatique à l'ensemble de données. Comme mon PC n'est pas rapide, le CV (et la recherche dans la grille) prend parfois trop de temps. …

9 machine-learning cross-validation

1

Quelqu'un peut-il expliquer que j'ai 5 ans à propos de ce problème dans le livre ESL de Hastie?

Je travaille sur le livre ESL de Hastie et j'ai du mal avec la question 2.3. La question est la suivante: Nous considérons une estimation du plus proche voisin à l'origine, et la distance médiane de l'origine au point de données le plus proche est donnée par cette équation. Je …

9 machine-learning computational-statistics

6

Je voudrais en savoir plus sur la théorie des probabilités, la théorie des mesures et enfin l'apprentissage automatique. Où est-ce que je commence? [fermé]

Fermé . Cette question doit être plus ciblée . Il n'accepte pas actuellement les réponses. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle se concentre sur un seul problème en modifiant ce post . Fermé il y a 3 ans . Je voudrais en savoir plus …

9 machine-learning probability references measure-theory

1

Comment fonctionne l'apprenant de base linéaire pour stimuler? Et comment ça marche dans la bibliothèque xgboost?

Je sais comment implémenter une fonction objectif linéaire et des boosts linéaires dans XGBoost. Ma question concrète est la suivante: lorsque l'algorithme correspond au résiduel (ou au gradient négatif), utilise-t-il une caractéristique à chaque étape (c.-à-d. Modèle univarié) ou toutes les caractéristiques (modèle multivarié)? Toute référence à la documentation sur …

9 regression machine-learning boosting xgboost

1

Quelle est l'efficacité de Q-learning avec les réseaux de neurones quand il y a une unité de sortie par action?

Contexte: J'utilise l'approximation de la valeur Q du réseau neuronal dans ma tâche d'apprentissage par renforcement. L'approche est exactement la même que celle décrite dans cette question , mais la question elle-même est différente. Dans cette approche, le nombre de sorties est le nombre d'actions que nous pouvons entreprendre. Et …

9 machine-learning neural-networks reinforcement-learning q-learning

1

Combien de données pour le deep learning?

J'apprends l'apprentissage en profondeur (en particulier les CNN) et comment cela nécessite généralement énormément de données pour éviter le surapprentissage. Cependant, on m'a également dit que plus la capacité / le nombre de paramètres d'un modèle est élevé, plus il faut de données pour éviter le sur-ajustement. Par conséquent, ma …

9 machine-learning neural-networks deep-learning conv-neural-network

2

Prédire la confiance d'un réseau de neurones

Supposons que je veuille former un réseau neuronal profond pour effectuer une classification ou une régression, mais je veux savoir dans quelle mesure la prédiction sera sûre. Comment pourrais-je y parvenir? Mon idée est de calculer l'entropie croisée pour chaque donnée d'entraînement, sur la base de ses performances de prédiction …

9 machine-learning neural-networks

1

Normalisation d'entrée pour les neurones ReLU

Selon "Efficient Backprop" de LeCun et al (1998), il est de bonne pratique de normaliser toutes les entrées afin qu'elles soient centrées autour de 0 et se situent dans la plage de la dérivée seconde maximale. Ainsi, par exemple, nous utiliserions [-0,5,0,5] pour la fonction "Tanh". C'est pour aider la …

9 machine-learning neural-networks normalization deep-learning multidimensional-scaling

2

Le goulot d'étranglement de l'application du deep learning dans la pratique

Après avoir lu de nombreux articles d'apprentissage en profondeur, une sorte de sentiment brutal est qu'il existe de nombreuses astuces pour entraîner le réseau à obtenir des performances supérieures à la normale. Du point de vue des applications de l'industrie, il est très difficile de développer ce genre de trucs, …

9 machine-learning deep-learning deep-belief-networks

1

Les contours

Je suppose une configuration générale de régression, c'est-à-dire qu'une fonction continue est choisie dans une famille pour s'adapter aux données données ( peut être n'importe quel espace tel que cube ou en fait tout espace topologique raisonnable) selon certains critères naturels.hθ: X→ Rnhθ:X→Rnh_\theta:X\to \mathbb R^n{ hθ}θ{hθ}θ\{h_\theta\}_\theta( xje, yje) ∈ X× …

9 regression machine-learning multiple-regression

1

Pourquoi la descente du gradient proximal au lieu des méthodes simples de premier cycle pour le Lasso?

Je pensais résoudre le Lasso via des méthodes de premier cycle à la vanille. Mais j'ai lu des gens suggérant d'utiliser la descente du gradient proximal. Quelqu'un peut-il souligner pourquoi la méthode proximale GD au lieu de la vanille est utilisée pour le Lasso?

9 machine-learning optimization lasso gradient-descent

1

Impossible de faire fonctionner correctement ce réseau d'auto-encodeur (avec les couches convolutionnelles et maxpool)

Les réseaux de codage automatique semblent être beaucoup plus délicats que les réseaux MLP classificateurs normaux. Après plusieurs tentatives d'utilisation de la lasagne, tout ce que j'obtiens dans la sortie reconstruite ressemble à son mieux à une moyenne floue de toutes les images de la base de données MNIST sans …

9 machine-learning neural-networks dimensionality-reduction unsupervised-learning autoencoders

2

Lors de l'utilisation de SVM, pourquoi dois-je faire évoluer les fonctionnalités?

Selon la documentation de l' objet StandardScaler dans scikit-learn: Par exemple, de nombreux éléments utilisés dans la fonction objective d'un algorithme d'apprentissage (comme le noyau RBF des machines à vecteurs de support ou les régularisateurs L1 et L2 des modèles linéaires) supposent que toutes les fonctionnalités sont centrées autour de …

9 machine-learning svm standard-deviation mean references

Questions marquées «machine-learning»