Statistiques et Big Data machine-learning

1

Fonction de perte de déviance binomiale de Scikit

C'est la fonction de perte de déviance binomiale de scikit GradientBoosting, def __call__(self, y, pred, sample_weight=None): """Compute the deviance (= 2 * negative log-likelihood). """ # logaddexp(0, v) == log(1.0 + exp(v)) pred = pred.ravel() if sample_weight is None: return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred)) else: return …

11 machine-learning scikit-learn boosting loss-functions

3

Un réseau de neurones peut-il apprendre une fonctionnelle et sa dérivée fonctionnelle?

Je comprends que les réseaux de neurones (NN) peuvent être considérés comme des approximateurs universels des deux fonctions et de leurs dérivés, sous certaines hypothèses (à la fois sur le réseau et sur la fonction à approximer). En fait, j'ai fait un certain nombre de tests sur des fonctions simples …

11 machine-learning neural-networks function derivative

1

Puis-je utiliser ReLU dans l'encodeur automatique comme fonction d'activation?

Lors de la mise en œuvre d'un autoencodeur avec réseau de neurones, la plupart des gens utiliseront sigmoïde comme fonction d'activation. Pouvons-nous utiliser ReLU à la place? (Étant donné que ReLU n'a pas de limite sur la limite supérieure, ce qui signifie essentiellement que l'image d'entrée peut avoir un pixel …

11 machine-learning neural-networks deep-learning autoencoders

2

Question sur Continuous Bag of Words

J'ai du mal à comprendre cette phrase: La première architecture proposée est similaire à la NNLM à action directe, où la couche cachée non linéaire est supprimée et la couche de projection est partagée pour tous les mots (pas seulement la matrice de projection); ainsi, tous les mots sont projetés …

11 machine-learning neural-networks natural-language word-embeddings language-models

2

Qu'entend-on par proximité dans des forêts aléatoires?

Je suis tombé sur le terme de proximité dans des forêts aléatoires. Mais je ne pouvais pas comprendre ce qu'il fait dans des forêts aléatoires. Comment cela aide-t-il à des fins de classification?

11 machine-learning random-forest

2

Qu'est-ce qu'une distribution log-odds?

Je lis un manuel sur l'apprentissage automatique (Data Mining par Witten, et al., 2011) et suis tombé sur ce passage: ... De plus, différentes distributions peuvent être utilisées. Bien que la distribution normale soit généralement un bon choix pour les attributs numériques, elle ne convient pas aux attributs qui ont …

11 machine-learning distributions

3

Le premier composant principal ne sépare pas les classes, contrairement aux autres PC; comment est-ce possible?

J'ai exécuté PCA sur 17 variables quantitatives afin d'obtenir un plus petit ensemble de variables, c'est-à-dire les principaux composants, à utiliser dans l'apprentissage automatique supervisé pour classer les instances en deux classes. Après PCA, PC1 représente 31% de la variance des données, PC2 17%, PC3 10%, PC4 8%, PC5 7% …

11 machine-learning classification pca dimensionality-reduction

1

Formation d'un réseau de neurones à convolution

Je travaille actuellement sur un logiciel de reconnaissance faciale qui utilise des réseaux de neurones à convolution pour reconnaître les visages. Sur la base de mes lectures, je me suis rendu compte qu'un réseau de neurones convolutionnels a partagé des poids, afin de gagner du temps pendant l'entraînement. Mais comment …

11 machine-learning neural-networks computer-vision backpropagation conv-neural-network

2

Tracé des limites de décision pour un perceptron

J'essaie de tracer la frontière de décision d'un algorithme perceptron et je suis vraiment confus à propos de quelques choses. Mes instances d'entrée sont sous la forme , essentiellement une instance d'entrée 2D ( et ) et une valeur cible de classe binaire ( ) [1 ou 0].[(x1,x2),y][(x1,x2),y][(x_{1},x_{2}), y]x1x1x_{1}x2x2x_{2}yyy Mon …

11 machine-learning neural-networks python decision-theory perceptron

1

Motivation derrière les étapes de l'algorithme de forêt aléatoire

La méthode que je connais pour construire une forêt aléatoire est la suivante: (à partir de http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htm ) Pour construire un arbre dans la forêt, nous: Bootstrap un échantillon de taille N où N est la taille de notre ensemble d'entraînement. Utilisez cet exemple amorcé comme ensemble de formation pour …

11 machine-learning classification random-forest

1

Comment prédire de nouvelles données avec spline / régression douce

Quelqu'un peut-il aider à donner une explication conceptuelle de la façon dont les prédictions sont faites pour les nouvelles données lors de l'utilisation de lissages / splines pour un modèle prédictif? Par exemple, étant donné un modèle créé à l'aide gamboostdu mboostpackage dans R, avec des p-splines, comment sont faites …

11 regression machine-learning predictive-models splines

1

Évaluation des classificateurs: courbes d'apprentissage vs courbes ROC

Je voudrais comparer 2 classificateurs différents pour un problème de classification de texte multiclasse qui utilise de grands ensembles de données d'apprentissage. Je doute que je devrais utiliser des courbes ROC ou des courbes d'apprentissage pour comparer les 2 classificateurs. D'une part, les courbes d'apprentissage sont utiles pour décider de …

11 machine-learning classification roc accuracy

2

Calcul de la dimension VC d'un réseau de neurones

Si j'ai une topologie fixe non récurrente (DAG) (ensemble fixe de nœuds et de bords, mais l'algorithme d'apprentissage peut faire varier le poids sur les bords) de neurones sigmoïdes avec neurones d'entrée qui ne peuvent prendre que des chaînes dans en entrée et conduit à une sortie (qui génère une …

11 machine-learning neural-networks algorithms vc-dimension

2

Comment puis-je améliorer la stabilité de mon réseau neuronal?

J'utilise le neuralnet en R pour construire un NN avec 14 entrées et une sortie. Je construis / forme le réseau plusieurs fois en utilisant les mêmes données de formation d'entrée et la même architecture / paramètres de réseau. Une fois que chaque réseau est produit, je l'utilise sur un …

11 r machine-learning neural-networks

4

Pourquoi ne pas simplement apprendre les hyper paramètres?

J'implémentais un article assez populaire " EXPLIQUER ET EXPLIQUER DES EXEMPLES ADVERSAIRES " et dans le document, il forme une fonction objective contradictoire J '' (θ) = αJ (θ) + (1 - α) J '(θ). Il traite α comme un hyperparamètre. α peut être 0,1, 0,2, 0,3, etc. Indépendamment de …

11 machine-learning neural-networks deep-learning hyperparameter

Questions marquées «machine-learning»