Science des données deep-learning

3

Je me demande dans quelles situations il est avantageux d'empiler des LSTM?

14 machine-learning neural-network deep-learning lstm

3

Comment utiliser LeakyRelu comme fonction d'activation dans la séquence DNN dans les keras? Quand il fonctionne mieux que Relu?

Comment utilisez-vous LeakyRelu comme fonction d'activation dans la séquence DNN en keras? Si je veux écrire quelque chose de similaire à: model = Sequential() model.add(Dense(90, activation='LeakyRelu')) Quelle est la solution? Mettez LeakyRelu similaire à Relu? La deuxième question est: quel est le meilleur réglage général pour régler les paramètres de …

14 deep-learning keras activation-function

1

Quelle est la différence entre le suréchantillonnage et le suréchantillonnage bi-linéaire dans un CNN?

J'essaie de comprendre cet article et je ne suis pas sûr de ce qu'est le suréchantillonnage bi-linéaire. Quelqu'un peut-il expliquer cela à un niveau élevé? https://arxiv.org/abs/1606.00915

13 deep-learning convnet cnn convolution

4

Gradient Descent est-il au centre de chaque optimiseur?

Je veux savoir si la descente en gradient est le principal algorithme utilisé dans les optimiseurs comme Adam, Adagrad, RMSProp et plusieurs autres optimiseurs.

13 machine-learning neural-network deep-learning optimization gradient-descent

2

Visualisation de la formation du réseau neuronal profond

J'essaie de trouver un équivalent de diagrammes de Hinton pour les réseaux multicouches pour tracer les poids pendant l'entraînement. Le réseau formé est quelque peu similaire à un SRN profond, c'est-à-dire qu'il a un grand nombre de matrices de poids multiples, ce qui rendrait l'intrigue simultanée de plusieurs diagrammes de …

13 machine-learning neural-network visualization deep-learning

5

Pourquoi l'ajout d'une couche d'abandon améliore-t-il les performances d'apprentissage profond / machine, étant donné que l'abandon supprime certains neurones du modèle?

Si la suppression de certains neurones donne un modèle plus performant, pourquoi ne pas utiliser un réseau neuronal plus simple avec moins de couches et moins de neurones en premier lieu? Pourquoi construire un modèle plus grand et plus compliqué au début et en supprimer des parties plus tard?

13 machine-learning deep-learning keras regularization dropout

3

Pourquoi les circonvolutions utilisent toujours des nombres impairs comme filter_size

Si l'on regarde 90 à 99% des articles publiés à l'aide d'un CNN (ConvNet). La grande majorité d'entre eux utilise une taille de filtre de nombres impairs : {1, 3, 5, 7} pour les plus utilisés. Cette situation peut entraîner un problème: avec ces tailles de filtre, généralement l'opération de …

13 deep-learning convnet computer-vision convolution

2

Pourquoi l'initialisation des poids et biais devrait-elle être choisie autour de 0?

J'ai lu ceci: Pour former notre réseau de neurones, nous initialiserons chaque paramètre W (l) ijWij (l) et chaque b (l) ibi (l) à une petite valeur aléatoire proche de zéro (disons selon un Normal (0, ϵ2) Normal (0 , ϵ2) distribution pour certains petits ϵϵ, disons 0,01) de Stanford …

13 deep-learning stanford-nlp randomized-algorithms

1

Qu'est-ce qu'une couche convolutionnelle 1D dans le Deep Learning?

J'ai une bonne compréhension générale du rôle et du mécanisme des couches convolutives dans le Deep Learning pour le traitement d'image en cas d'implémentations 2D ou 3D - elles essaient "simplement" de capturer des motifs 2D dans les images (sur 3 canaux en cas de 3D). Mais récemment, je suis …

13 deep-learning nlp convolution

4

Intervalle de prédiction autour des prévisions de séries chronologiques LSTM

Existe-t-il une méthode pour calculer l'intervalle de prédiction (distribution de probabilité) autour d'une série chronologique prévue à partir d'un réseau de neurones LSTM (ou autre récurrent)? Disons, par exemple, que je prédis 10 échantillons dans le futur (t + 1 à t + 10), sur la base des 10 derniers …

13 machine-learning deep-learning time-series prediction lstm

3

En quoi les NN d'apprentissage en profondeur diffèrent-ils maintenant (2016) de ceux que j'ai étudiés il y a seulement 4 ans (2012)?

Il est dit dans Wikipedia et deeplearning4j que les NN d'apprentissage en profondeur (DLNN) sont des NN qui ont> 1 couche cachée. Ce type de NN était standard à l'université pour moi, alors que DLNN est très excité en ce moment. Été là, fait ça - quel est le problème? …

13 neural-network deep-learning

2

Est-il possible de modifier la métrique utilisée par le rappel Early Stop à Keras?

Lors de l'utilisation du rappel Early Stop dans Keras, la formation s'arrête lorsqu'une mesure (généralement une perte de validation) n'augmente pas. Existe-t-il un moyen d'utiliser une autre métrique (comme la précision, le rappel, la mesure f) au lieu d'une perte de validation? Tous les exemples que j'ai vus jusqu'à présent …

13 machine-learning neural-network deep-learning keras

2

Mise à jour des poids des filtres dans un CNN

J'essaie actuellement de comprendre l'architecture d'un CNN. Je comprends la convolution, la couche ReLU, la couche de mise en commun et la couche entièrement connectée. Cependant, je suis toujours confus au sujet des poids. Dans un réseau neuronal normal, chaque neurone a son propre poids. Dans la couche entièrement connectée, …

13 machine-learning neural-network deep-learning image-classification cnn

1

Apprentissage multi-tâches à Keras

J'essaie d'implémenter des couches partagées dans Keras. Je vois que Keras a keras.layers.concatenate, mais je ne suis pas sûr de la documentation sur son utilisation. Puis-je l'utiliser pour créer plusieurs couches partagées? Quelle serait la meilleure façon de mettre en œuvre un réseau neuronal partagé simple comme indiqué ci-dessous en …

12 machine-learning neural-network deep-learning keras multitask-learning

3

Dois-je utiliser le GPU ou le CPU pour l'inférence?

J'exécute un réseau neuronal d'apprentissage en profondeur qui a été formé par un GPU. Je veux maintenant déployer cela sur plusieurs hôtes pour l'inférence. La question est de savoir quelles sont les conditions pour décider si je dois utiliser des GPU ou des CPU pour l'inférence? Ajout de plus de …

12 deep-learning gpu

Questions marquées «deep-learning»