Statistiques et Big Data neural-networks

2

Pourquoi les CNN concluent-ils avec des couches FC?

D'après ma compréhension, les CNN se composent de deux parties. La première partie (couches conv / pool) qui fait l'extraction d'entités et la deuxième partie (couches fc) qui fait la classification des entités. Étant donné que les réseaux neuronaux entièrement connectés ne sont pas les meilleurs classificateurs (c'est-à-dire qu'ils sont …

11 neural-networks svm random-forest conv-neural-network

3

Sensibilité à l'échelle du réseau neuronal convolutif

Par exemple, supposons que nous construisons un estimateur d'âge, basé sur l'image d'une personne. Ci-dessous, nous avons deux personnes en costume, mais la première est clairement plus jeune que la seconde. (source: tinytux.com ) Il existe de nombreuses fonctionnalités qui impliquent cela, par exemple la structure du visage. Cependant, la …

11 neural-networks computer-vision

3

Comment implémenter la régularisation L2 vers un point arbitraire dans l'espace?

Voici quelque chose que j'ai lu dans le livre Deep Learning d' Ian Goodfellow . Dans le contexte des réseaux de neurones, "la pénalité de la norme du paramètre L2 est communément appelée décroissance du poids. Cette stratégie de régularisation rapproche les poids de l'origine [...]. Plus généralement, nous pourrions …

11 machine-learning neural-networks deep-learning regularization

2

Les réseaux résiduels sont-ils liés à l'augmentation du gradient?

Récemment, nous avons vu l'émergence du réseau neuronal résiduel, dans lequel, chaque couche se compose d'un module de calcul et d'une connexion de raccourci qui préserve l'entrée de la couche telle que la sortie de la ième couche présente: Le réseau permet d'extraire les caractéristiques résiduelles et permet une profondeur …

11 machine-learning neural-networks deep-learning gradient-descent residual-networks

1

Comment expliquer pourquoi la normalisation des lots doit être effectuée avec un certain soin?

Je lisais le document de normalisation par lots [1] et il y avait une section où se trouve un exemple, essayant de montrer pourquoi la normalisation doit être effectuée avec soin. Honnêtement, je ne peux pas comprendre comment l'exemple fonctionne et je suis vraiment très curieux de comprendre autant que …

11 machine-learning neural-networks conv-neural-network

4

Réseau de neurones - signification des poids

J'utilise NN à action directe. Je comprends le concept, mais ma question concerne les poids. Comment pouvez-vous les interpréter, c'est-à-dire que représentent-ils ou comment peuvent-ils être sous-estimés (outre les coefficients de fonction)? J'ai trouvé quelque chose appelé "espace de poids", mais je ne sais pas trop ce que cela signifie.

11 neural-networks weights

1

Q-learning avec Neural Network comme approximation de fonction

J'essaie d'utiliser un réseau neuronal afin d'approximer la valeur Q dans l'apprentissage Q comme dans les questions sur l'apprentissage Q à l'aide des réseaux de neurones . Comme suggéré dans la première réponse, j'utilise une fonction d'activation linéaire pour la couche de sortie, tandis que j'utilise toujours la fonction d'activation …

11 neural-networks reinforcement-learning

3

Comment le modèle skip-gram de Word2Vec génère-t-il les vecteurs de sortie?

J'ai des problèmes pour comprendre le modèle skip-gram de l'algorithme Word2Vec. Dans un sac de mots continu, il est facile de voir comment les mots de contexte peuvent "s'adapter" dans le réseau neuronal, car vous les basez en moyenne après avoir multiplié chacune des représentations de codage à chaud avec …

11 neural-networks deep-learning natural-language word2vec word-embeddings

2

Classification avec des données partiellement «inconnues»

Supposons que je veuille apprendre un classificateur qui prend un vecteur de nombres en entrée et donne une étiquette de classe en sortie. Mes données d'entraînement se composent d'un grand nombre de paires d'entrée-sortie. Cependant, lorsque je viens de tester certaines nouvelles données, ces données ne sont généralement que partiellement …

11 machine-learning classification neural-networks deep-learning

1

R neuralnet - le calcul donne une réponse constante

J'essaie d'utiliser le neuralnetpackage de R (documentation ici ) pour la prédiction. Voici ce que j'essaie de faire: library(neuralnet) x <- cbind(runif(50, min=1, max=500), runif(50, min=1, max=500)) y <- x[, 1] * x[, 2] train <- data.frame(x, y) n <- names(train) f <- as.formula(paste('y ~', paste(n[!n %in% 'y'], collapse = …

11 r neural-networks prediction error

5

Contexte mathématique des réseaux de neurones

Je ne sais pas si cela convient à ce site, mais je commence mon MSE en informatique (BS en mathématiques appliquées) et je veux obtenir une solide formation en apprentissage automatique (je vais très probablement poursuivre un doctorat). Un de mes sous-intérêts est les réseaux de neurones. Quel est un …

11 machine-learning neural-networks mathematical-statistics references

3

Modélisation mathématique des réseaux de neurones en tant que modèles graphiques

J'ai du mal à faire le lien mathématique entre un réseau de neurones et un modèle graphique. Dans les modèles graphiques, l'idée est simple: la distribution de probabilité factorise en fonction des cliques du graphique, les potentiels étant généralement de la famille exponentielle. Existe-t-il un raisonnement équivalent pour un réseau …

11 neural-networks markov-process graphical-model deep-learning deep-belief-networks

4

Est-il possible d'obtenir un meilleur ANN en supprimant certaines connexions?

Je me demandais s'il était possible, dans certaines circonstances, que les ANN fonctionnent mieux si vous supprimez certaines connexions sur celles-ci, par exemple: Construire un ANN en prenant deux ANN et A en B multicouches en parallèle (mêmes nœuds d'entrée et de sortie) en ajoutant quelques connexions de "communication" entre …

11 classification neural-networks

1

Quelle est la perte de poids?

Je commence par l'apprentissage en profondeur, et j'ai une question dont je n'ai pas trouvé la réponse, peut-être que je n'ai pas cherché correctement. J'ai vu cette réponse , mais on ne sait toujours pas quelle est la perte de perte de poids et comment est-elle liée à la fonction …

11 neural-networks conv-neural-network

2

Quelle est l'intuition derrière un réseau neuronal récurrent de mémoire à court terme (LSTM)?

L'idée derrière le réseau neuronal récurrent (RNN) est claire pour moi. Je le comprends de la manière suivante: nous avons une séquence d'observations ( ) (ou, en d'autres termes, des séries temporelles multivariées). Chaque observation est un vecteur numérique à dimensions. Dans le modèle RNN, nous supposons que la prochaine …

11 time-series neural-networks predictive-models intuition rnn

Questions marquées «neural-networks»