Questions marquées «deep-learning»

Quelle est la différence entre l' époque et l' itération lors de la formation d'un perceptron multicouche?

413 machine-learning  neural-network  deep-learning  artificial-intelligence  terminology 

J'essaie de concilier ma compréhension des LSTM et souligné ici dans ce post par Christopher Olah mis en œuvre à Keras. Je suis le blog écrit par Jason Brownlee pour le tutoriel Keras. Ce qui me trouble le plus, c'est Le remodelage de la série de données en [samples, time …

311 python  deep-learning  keras  lstm 

Quelle est la différence entre le rembourrage «SAME» et «VALID» tf.nn.max_poolde tensorflow? À mon avis, «VALIDE» signifie qu'il n'y aura pas de remplissage nul en dehors des bords lorsque nous ferons la piscine maximale. Selon Un guide de l'arithmétique de convolution pour l'apprentissage en profondeur , il indique qu'il n'y …

309 python  tensorflow  deep-learning 

Pour toute couche Keras ( Layerclasse), quelqu'un peut - il expliquer comment comprendre la différence entre input_shape, units, dim, etc.? Par exemple, le document dit de unitsspécifier la forme de sortie d'un calque. Dans l'image du réseau neuronal ci-dessous hidden layer1a 4 unités. Cela se traduit-il directement par l' unitsattribut …

262 neural-network  deep-learning  keras  keras-layer  tensor 

Dans la fonction TensorFlow suivante, nous devons alimenter l'activation des neurones artificiels dans la couche finale. Ça je comprends. Mais je ne comprends pas pourquoi ça s'appelle des logits? N'est-ce pas une fonction mathématique? loss_function = tf.nn.softmax_cross_entropy_with_logits( logits = last_layer, labels = target_output )

250 tensorflow  machine-learning  neural-network  deep-learning  cross-entropy 

Lorsque j'entraînerai mon réseau de neurones avec Theano ou Tensorflow, ils rapporteront une variable appelée "perte" par époque. Comment dois-je interpréter cette variable? Une perte plus élevée est meilleure ou pire, ou qu'est-ce que cela signifie pour les performances finales (précision) de mon réseau de neurones?

201 machine-learning  neural-network  mathematical-optimization  deep-learning  objective-function 

Je cherchais des moyens alternatifs pour enregistrer un modèle entraîné dans PyTorch. Jusqu'à présent, j'ai trouvé deux alternatives. torch.save () pour enregistrer un modèle et torch.load () pour charger un modèle. model.state_dict () pour enregistrer un modèle entraîné et model.load_state_dict () pour charger le modèle enregistré. Je suis tombé sur …

192 python  serialization  deep-learning  pytorch  tensor 

J'essaie de former un CNN à catégoriser le texte par sujet. Lorsque j'utilise l'entropie croisée binaire, j'obtiens une précision d'environ 80%, avec une entropie croisée catégorique, j'obtiens une précision d'environ 50%. Je ne comprends pas pourquoi. C'est un problème multiclasse, cela ne signifie-t-il pas que je dois utiliser une entropie …

160 machine-learning  keras  neural-network  deep-learning  conv-neural-network 

tf.nn.embedding_lookup(params, ids, partition_strategy='mod', name=None) Je ne peux pas comprendre le devoir de cette fonction. Est-ce comme une table de consultation? Quels moyens de retourner les paramètres correspondant à chaque id (en ids)? Par exemple, dans le skip-grammodèle si nous utilisons tf.nn.embedding_lookup(embeddings, train_inputs), alors pour chacun, train_inputil trouve l'incorporation correspondante?

159 python  tensorflow  deep-learning  word-embedding  natural-language-processing 

J'ai formé un modèle de classification binaire avec CNN, et voici mon code model = Sequential() model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1], border_mode='valid', input_shape=input_shape)) model.add(Activation('relu')) model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (16, 16, 32) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (8, 8, 64) = (2048) model.add(Flatten()) model.add(Dense(1024)) model.add(Activation('relu')) model.add(Dropout(0.5)) …

155 python  tensorflow  deep-learning  keras 

J'ai lu certaines choses sur les réseaux neuronaux et je comprends le principe général d'un réseau neuronal monocouche. Je comprends le besoin de couches supplémentaires, mais pourquoi les fonctions d'activation non linéaires sont-elles utilisées? Cette question est suivie de celle-ci: à quoi sert un dérivé de la fonction d'activation en …

139 math  machine-learning  neural-network  deep-learning 

Quelqu'un peut-il expliquer clairement la différence entre les convolutions 1D, 2D et 3D dans les réseaux de neurones convolutifs (en apprentissage profond) à l'aide d'exemples?

126 machine-learning  deep-learning  signal-processing  conv-neural-network  convolution 

La méthode zero_grad()doit être appelée pendant la formation. Mais la documentation n'est pas très utile | zero_grad(self) | Sets gradients of all model parameters to zero. Pourquoi devons-nous appeler cette méthode?

112 python  neural-network  deep-learning  pytorch  gradient-descent 

J'essaie de comprendre le rôle de la Flattenfonction dans Keras. Voici mon code, qui est un simple réseau à deux couches. Il prend des données bidimensionnelles de forme (3, 2) et produit des données unidimensionnelles de forme (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') …

109 machine-learning  tensorflow  neural-network  deep-learning  keras 

J'essaie de comprendre les LSTM et comment les construire avec Keras. J'ai découvert qu'il y avait principalement les 4 modes pour exécuter un RNN (les 4 bons sur l'image) Source de l'image: Andrej Karpathy Maintenant, je me demande à quoi ressemblerait un extrait de code minimaliste pour chacun d'eux dans …

108 machine-learning  neural-network  deep-learning  keras  recurrent-neural-network