Statistiques et Big Data neural-networks

11

Comment choisir le nombre de couches et de nœuds cachés dans un réseau neuronal à anticipation?

Existe-t-il une méthode standard et acceptée pour sélectionner le nombre de couches et le nombre de nœuds dans chaque couche dans un réseau neuronal à rétroaction? Je suis intéressé par les moyens automatisés de construction de réseaux de neurones.

542 model-selection neural-networks

5

Compromis taille du lot par rapport au nombre d'itérations pour former un réseau de neurones

Lors de la formation d'un réseau de neurones, quelle différence cela fait-il de définir: taille du lot à et nombre d'itérations àaaabbb en fonction de la taille du lot à et du nombre d'itérations àcccddd où ?ab=cdab=cd ab = cd Autrement dit, en supposant que nous formions le réseau de …

222 neural-networks train

4

Que calcule la couche cachée dans un réseau de neurones?

Je suis sûr que beaucoup de gens répondront avec des liens vers "laissez-moi google ça pour vous", alors je tiens à dire que j'ai essayé de comprendre cela, alors pardonnez mon manque de compréhension ici, mais je ne peux pas comprendre comment le La mise en œuvre pratique d'un réseau …

187 machine-learning neural-networks nonlinear-regression

4

Quelle est la taille du lot dans le réseau de neurones?

J'utilise Python Keras packagepour réseau de neurones. Ceci est le lien . Est batch_sizeégal au nombre d'échantillons de test? De Wikipedia nous avons cette information: Cependant, dans d'autres cas, l'évaluation du gradient de somme peut nécessiter des évaluations coûteuses des gradients de toutes les fonctions de sommation. Lorsque l'ensemble d'apprentissage …

176 neural-networks python terminology keras

5

Que dois-je faire lorsque mon réseau de neurones n'apprend pas?

J'entraîne un réseau de neurones mais la perte d'entraînement ne diminue pas. Comment puis-je réparer cela? Je ne parle pas de surajustement ou de régularisation. Je demande comment résoudre le problème où les performances de mon réseau n'améliorent pas l' ensemble de formation . Cette question est délibérément générale, de …

148 neural-networks deep-learning

6

Quels sont les avantages de ReLU par rapport à la fonction sigmoïde dans les réseaux de neurones profonds?

L’état actuel de la non-linéarité consiste à utiliser des unités linéaires rectifiées (ReLU) au lieu de la fonction sigmoïde dans un réseau neuronal profond. Quels sont les avantages? Je sais que la formation d'un réseau lorsque ReLU est utilisé serait plus rapide et inspirée davantage par la biologie. Quels sont …

141 machine-learning neural-networks deep-learning

2

Liste des fonctions de coût utilisées dans les réseaux de neurones, parallèlement aux applications

Quelles sont les fonctions de coût courantes utilisées pour évaluer les performances des réseaux de neurones? Détails (n'hésitez pas à sauter le reste de cette question, mon intention est simplement de fournir des éclaircissements sur la notation que les réponses peuvent utiliser pour les aider à être plus compréhensibles par …

133 machine-learning neural-networks

4

Quelle est la différence entre les réseaux de neurones convolutionnels, les machines Boltzmann restreintes et les auto-encodeurs?

Récemment, j'ai lu sur l'apprentissage en profondeur et je suis confus sur les termes (ou dire technologies). Quelle est la différence entre Réseaux de neurones convolutifs (CNN), Machines Boltzmann restreintes (RBM) et Auto-encodeurs?

123 neural-networks deep-learning conv-neural-network autoencoders rbm

10

Quelle est la différence entre un réseau de neurones et un réseau de neurones profonds, et pourquoi les réseaux profonds fonctionnent-ils mieux?

Je n'ai pas vu la question posée précisément en ces termes, et c'est pourquoi je pose une nouvelle question. Ce qui m'intéresse, ce n'est pas la définition d'un réseau de neurones, mais la différence réelle avec un réseau de neurones profonds. Pour plus de contexte: je sais ce qu'est un …

114 neural-networks deep-learning

6

Que signifie 1x1 convolution dans un réseau de neurones?

Je suis en train de faire le tutoriel Udacity Deep Learning. Dans la leçon 3, ils parlent d'une convolution 1x1. Cette convolution 1x1 est utilisée dans Google Inception Module. J'ai du mal à comprendre ce qu'est une convolution 1x1. J'ai aussi vu ce post de Yann Lecun. Quelqu'un pourrait-il bien …

106 neural-networks deep-learning convolution conv-neural-network

5

Liste complète des fonctions d'activation dans les réseaux de neurones avec avantages / inconvénients

Existe-t-il un / des document (s) de référence donnant une liste complète des fonctions d’activation dans les réseaux de neurones ainsi que leurs avantages / inconvénients (et idéalement des indications vers des publications où elles ont réussi ou non)?

95 neural-networks references

6

Est-il possible de former un réseau de neurones sans rétropropagation?

De nombreux ouvrages et tutoriels sur les réseaux de neurones consacrent beaucoup de temps à l'algorithme de rétropropagation, qui est essentiellement un outil permettant de calculer le gradient. Supposons que nous construisons un modèle avec ~ 10K paramètres / poids. Est-il possible d'exécuter l'optimisation à l'aide d'algorithmes d'optimisation sans gradient? …

94 machine-learning neural-networks optimization backpropagation

3

Différence entre la diminution du poids neuronal net et le taux d'apprentissage

Dans le contexte des réseaux de neurones, quelle est la différence entre le taux d'apprentissage et la perte de poids?

94 neural-networks terminology

2

Qu'est-ce qu'une couche d'intégration dans un réseau de neurones?

Dans de nombreuses bibliothèques de réseaux neuronaux, il existe des «couches d'intégration», comme dans Keras ou Lasagne . Je ne suis pas sûr de comprendre son fonctionnement, malgré la lecture de la documentation. Par exemple, dans la documentation de Keras, il est écrit: Transformez les entiers positifs (index) en vecteurs …

92 machine-learning neural-networks python word-embeddings

1

Comment appliquer le réseau de neurones à la prévision de séries chronologiques?

Je suis novice en apprentissage automatique et j'essaie de comprendre comment appliquer le réseau de neurones à la prévision de séries chronologiques. J'ai trouvé des ressources liées à ma requête, mais il me semble que je suis encore un peu perdu. Je pense qu'une explication de base sans trop de …

83 time-series forecasting neural-networks

Questions marquées «neural-networks»