La programmation neural-network

9

Commande de normalisation de lots et abandon?

La question initiale concernait spécifiquement les implémentations de TensorFlow. Cependant, les réponses concernent les implémentations en général. Cette réponse générale est également la bonne réponse pour TensorFlow. Lors de l'utilisation de la normalisation par lots et de l'abandon dans TensorFlow (en particulier en utilisant les contrib.layers), dois-je m'inquiéter de la …

117 python neural-network tensorflow conv-neural-network

4

Argument de Tensorflow Strides

J'essaie de comprendre l' argument des foulées dans tf.nn.avg_pool, tf.nn.max_pool, tf.nn.conv2d. La documentation dit à plusieurs reprises foulées: une liste d'entiers dont la longueur est> = 4. La foulée de la fenêtre glissante pour chaque dimension du tenseur d'entrée. Mes questions sont: Que représentent chacun des 4+ entiers? Pourquoi doivent-ils …

115 python neural-network convolution tensorflow conv-neural-network

4

Pytorch, quels sont les arguments du gradient

Je lis la documentation de PyTorch et j'ai trouvé un exemple où ils écrivent gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) où x était une variable initiale, à partir de laquelle y a été construit (un vecteur 3). La question est, quels sont les arguments 0,1, 1,0 et 0,0001 du …

112 neural-network gradient pytorch torch gradient-descent

2

Pourquoi avons-nous besoin d'appeler zero_grad () dans PyTorch?

La méthode zero_grad()doit être appelée pendant la formation. Mais la documentation n'est pas très utile | zero_grad(self) | Sets gradients of all model parameters to zero. Pourquoi devons-nous appeler cette méthode?

112 python neural-network deep-learning pytorch gradient-descent

3

Quelle est la différence entre sparse_softmax_cross_entropy_with_logits et softmax_cross_entropy_with_logits?

Je suis récemment tombé sur tf.nn.sparse_softmax_cross_entropy_with_logits et je ne peux pas comprendre quelle est la différence par rapport à tf.nn.softmax_cross_entropy_with_logits . La seule différence est-elle que les vecteurs d'apprentissage ydoivent être encodés à chaud lors de l'utilisation sparse_softmax_cross_entropy_with_logits? En lisant l'API, je n'ai pas pu trouver d'autre différence par rapport …

111 neural-network tensorflow softmax cross-entropy

16

Quelles sont les bonnes ressources pour en savoir plus sur les réseaux de neurones artificiels? [fermé]

Fermé. Cette question ne respecte pas les directives de Stack Overflow . Il n'accepte pas les réponses actuellement. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle soit pertinente pour Stack Overflow. Fermé il y a 6 ans . Améliorez cette question Je suis vraiment intéressé par …

109 neural-network

5

Quel est le rôle de «Flatten» dans Keras?

J'essaie de comprendre le rôle de la Flattenfonction dans Keras. Voici mon code, qui est un simple réseau à deux couches. Il prend des données bidimensionnelles de forme (3, 2) et produit des données unidimensionnelles de forme (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') …

109 machine-learning tensorflow neural-network deep-learning keras

2

Plusieurs à un et plusieurs à plusieurs exemples LSTM dans Keras

J'essaie de comprendre les LSTM et comment les construire avec Keras. J'ai découvert qu'il y avait principalement les 4 modes pour exécuter un RNN (les 4 bons sur l'image) Source de l'image: Andrej Karpathy Maintenant, je me demande à quoi ressemblerait un extrait de code minimaliste pour chacun d'eux dans …

108 machine-learning neural-network deep-learning keras recurrent-neural-network

9

Comment initialiser les poids dans PyTorch?

Comment initialiser les poids et biais (par exemple, avec l'initialisation He ou Xavier) dans un réseau dans PyTorch?

106 python neural-network deep-learning pytorch

9

Pourquoi les poids des réseaux de neurones devraient-ils être initialisés à des nombres aléatoires? [fermé]

Fermé. Cette question ne respecte pas les directives de Stack Overflow . Il n'accepte pas les réponses actuellement. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle soit pertinente pour Stack Overflow. Fermé il y a 4 jours . Améliorez cette question J'essaye de construire un réseau …

105 machine-learning neural-network artificial-intelligence mathematical-optimization gradient-descent

4

architecture de perceptron multicouche (MLP): critères de choix du nombre de couches cachées et de la taille de la couche cachée?

Si nous avons 10 vecteurs propres, nous pouvons avoir 10 nœuds neuronaux dans la couche d'entrée.Si nous avons 5 classes de sortie, nous pouvons avoir 5 nœuds dans la couche de sortie.Mais quels sont les critères pour choisir le nombre de couches cachées dans un MLP et combien de neurones …

104 machine-learning neural-network deep-learning perceptron

6

Charger un modèle Keras entraîné et continuer la formation

Je me demandais s'il était possible d'enregistrer un modèle Keras partiellement formé et de continuer la formation après avoir chargé à nouveau le modèle. La raison en est que j'aurai plus de données d'entraînement à l'avenir et je ne veux pas recycler à nouveau le modèle entier. Les fonctions que …

98 python tensorflow neural-network keras resuming-training

10

Comment ajouter des régularisations dans TensorFlow?

J'ai trouvé dans de nombreux codes de réseau neuronal disponibles mis en œuvre à l'aide de TensorFlow que les termes de régularisation sont souvent mis en œuvre en ajoutant manuellement un terme supplémentaire à la valeur de perte. Mes questions sont: Existe-t-il un moyen de régularisation plus élégant ou recommandé …

94 python neural-network tensorflow deep-learning

3

Comment concaténer deux couches dans des keras?

J'ai un exemple de réseau neuronal à deux couches. La première couche prend deux arguments et a une sortie. Le second doit prendre un argument comme résultat de la première couche et un argument supplémentaire. Cela devrait ressembler à ceci: x1 x2 x3 \ / / y1 / \ / …

93 python machine-learning keras neural-network

6

PyTorch - contigu ()

Je passais par cet exemple de modèle de langage LSTM sur github (lien) . Ce qu'il fait en général est assez clair pour moi. Mais j'ai encore du mal à comprendre ce que fait l'appel contiguous(), ce qui se produit plusieurs fois dans le code. Par exemple, à la ligne …

90 neural-network deep-learning lstm pytorch contiguous

Questions marquées «neural-network»