Statistiques et Big Data machine-learning

3

Existe-t-il un moyen de tester la séparabilité linéaire d'un ensemble de données à deux classes dans des dimensions élevées? Mes vecteurs de caractéristiques mesurent 40 ans. Je sais que je peux toujours exécuter des expériences de régression logistique et déterminer le taux de réussite par rapport au taux de fausse …

20 machine-learning classification

1

Pourquoi la taille n'est-elle pas nécessaire pour les arbres forestiers aléatoires?

Breiman dit que les arbres sont cultivés sans élagage. Pourquoi? Je veux dire qu'il doit y avoir une raison solide pour que les arbres de la forêt aléatoire ne soient pas élagués. D'un autre côté, il est considéré comme très important d'élaguer un seul arbre de décision pour éviter un …

20 machine-learning

1

avertissement et validation croisée de libsvm "atteignant le nombre maximal d'itérations"

J'utilise libsvm en mode C-SVC avec un noyau polynomial de degré 2 et je dois former plusieurs SVM. Chaque ensemble d'entraînement a 10 fonctionnalités et 5000 vecteurs. Pendant la formation, je reçois cet avertissement pour la plupart des SVM que je forme: WARNING: reaching max number of iterations optimization finished, …

20 machine-learning cross-validation svm regularization libsvm

2

AdaBoost est-il moins ou plus sujet au sur-ajustement?

J'ai lu diverses déclarations (apparemment) contradictoires, que AdaBoost (ou d'autres techniques de boosting) soient ou non sujettes à un sur-ajustement par rapport à d'autres méthodes d'apprentissage. Y a-t-il de bonnes raisons de croire l'un ou l'autre? Si cela dépend, de quoi dépend-il? Quelles sont les raisons pour lesquelles AdaBoost est …

20 machine-learning boosting

3

Appliquer le «truc du noyau» aux méthodes linéaires?

L' astuce du noyau est utilisée dans plusieurs modèles d'apprentissage automatique (par exemple SVM ). Il a été introduit pour la première fois dans le document "Fondements théoriques de la méthode de la fonction potentielle dans l'apprentissage par reconnaissance de formes" en 1964. La définition de wikipedia dit qu'il est …

20 machine-learning kernel-trick

2

Comment la forêt aléatoire génère-t-elle la forêt aléatoire

Je ne suis pas un expert de la forêt aléatoire, mais je comprends clairement que le problème clé avec la forêt aléatoire est la génération d'arbres (aléatoire). Pouvez-vous m'expliquer comment les arbres sont générés? (c.-à-d. quelle est la distribution utilisée pour la génération d'arbres?) Merci d'avance !

20 machine-learning r algorithms cart random-forest

5

Pourquoi l'ingénierie des fonctionnalités fonctionne-t-elle?

Récemment, j'ai appris que la création de fonctionnalités est l'un des moyens de trouver de meilleures solutions aux problèmes de ML. On peut le faire en additionnant par exemple deux fonctionnalités. Par exemple, nous possédons deux fonctionnalités "attaque" et "défense" d'une sorte de héros. Nous créons ensuite une fonctionnalité supplémentaire …

20 machine-learning feature-construction

1

Différence entre les données manquantes et les données rares dans les algorithmes d'apprentissage automatique

Quelles sont les principales différences entre les données rares et les données manquantes? Et comment cela influence-t-il l'apprentissage automatique? Plus précisément, quel effet les données éparses et les données manquantes ont-elles sur les algorithmes de classification et le type d'algorithmes de régression (prédiction des nombres). Je parle d'une situation où …

20 machine-learning dataset missing-data sparse

2

Comprendre la dérivation du compromis biais-variance

Je lis le chapitre sur le compromis biais-variance des éléments de l'apprentissage statistique et j'ai un doute dans la formule de la page 29. Que les données proviennent d'un modèle tel que où est aléatoire nombre avec la valeur attendue et la variance . Soit la valeur d'erreur attendue du …

20 machine-learning unbiased-estimator mse bias-variance-tradeoff

2

Quelles méthodes d'optimisation fonctionnent le mieux pour les LSTM?

J'ai utilisé theeano pour expérimenter avec des LSTM et je me demandais quelles méthodes d'optimisation (SGD, Adagrad, Adadelta, RMSprop, Adam, etc.) fonctionnent le mieux pour les LSTM? Existe-t-il des documents de recherche sur ce sujet? De plus, la réponse dépend-elle du type d'application pour laquelle j'utilise le LSTM? Si c'est …

20 machine-learning neural-networks optimization lstm

2

Le caret train fonctionne-t-il pour la validation croisée de glmnet pour alpha et lambda?

Le caretpackage R effectue -t-il une validation croisée sur alphaet lambdapour le glmnetmodèle? Exécuter ce code, eGrid <- expand.grid(.alpha = (1:10) * 0.1, .lambda = (1:10) * 0.1) Control <- trainControl(method = "repeatedcv",repeats = 3,verboseIter =TRUE) netFit <- train(x =train_features, y = y_train, method = "glmnet", tuneGrid = eGrid, trControl …

20 r machine-learning cross-validation caret glmnet

2

Pourquoi la rétropropagation ne fonctionne-t-elle pas lorsque vous initialisez les poids à la même valeur?

Pourquoi la rétropropagation ne fonctionne-t-elle pas lorsque vous initialisez tous les poids à la même valeur (disons 0,5), mais fonctionne bien lorsque des nombres aléatoires sont donnés? L'algorithme ne devrait-il pas calculer l'erreur et travailler à partir de là, malgré le fait que les poids soient initialement les mêmes?

20 machine-learning neural-networks backpropagation

5

Deep learning: comment savoir quelles variables sont importantes?

En termes de jargon de réseau de neurones (y = poids * x + biais), comment saurais-je quelles variables sont plus importantes que d'autres? J'ai un réseau neuronal avec 10 entrées, 1 couche cachée avec 20 nœuds et 1 couche de sortie qui a 1 nœud. Je ne sais pas …

20 machine-learning neural-networks bias tensorflow theano

3

Quand les algorithmes génétiques sont-ils un bon choix pour l'optimisation?

Les algorithmes génétiques sont une forme de méthode d'optimisation. Souvent, la descente de gradient stochastique et ses dérivés sont le meilleur choix pour l'optimisation des fonctions, mais des algorithmes génétiques sont encore parfois utilisés. Par exemple, l'antenne du vaisseau spatial ST5 de la NASA a été créée avec un algorithme …

20 machine-learning optimization gradient-descent genetic-algorithms

3

Pourquoi les poids des réseaux RNN / LSTM sont-ils partagés dans le temps?

Je me suis récemment intéressé aux LSTM et j'ai été surpris d'apprendre que les poids sont partagés dans le temps. Je sais que si vous partagez les pondérations dans le temps, vos séquences temporelles d'entrée peuvent être de longueur variable. Avec des poids partagés, vous avez beaucoup moins de paramètres …

20 machine-learning lstm rnn

Questions marquées «machine-learning»