La programmation deep-learning

9

Comment initialiser les poids dans PyTorch?

Comment initialiser les poids et biais (par exemple, avec l'initialisation He ou Xavier) dans un réseau dans PyTorch?

106 python neural-network deep-learning pytorch

4

architecture de perceptron multicouche (MLP): critères de choix du nombre de couches cachées et de la taille de la couche cachée?

Si nous avons 10 vecteurs propres, nous pouvons avoir 10 nœuds neuronaux dans la couche d'entrée.Si nous avons 5 classes de sortie, nous pouvons avoir 5 nœuds dans la couche de sortie.Mais quels sont les critères pour choisir le nombre de couches cachées dans un MLP et combien de neurones …

104 machine-learning neural-network deep-learning perceptron

1

Quels paramètres doivent être utilisés pour un arrêt précoce?

J'entraîne un réseau de neurones pour mon projet en utilisant Keras. Keras a fourni une fonction d'arrêt anticipé. Puis-je savoir quels paramètres doivent être observés pour éviter que mon réseau de neurones ne se suralimente en utilisant l'arrêt précoce?

97 python keras deep-learning conv-neural-network

6

Comment appliquer un découpage de dégradé dans TensorFlow?

Considérant l' exemple de code . Je voudrais savoir comment appliquer l'écrêtage de gradient sur ce réseau sur le RNN où il y a une possibilité d'explosion de gradients. tf.clip_by_value(t, clip_value_min, clip_value_max, name=None) Ceci est un exemple qui pourrait être utilisé, mais où dois-je introduire cela? Dans la définition de …

96 python machine-learning tensorflow deep-learning lstm

6

Utilisation d'une incorporation de mots pré-entraînée (word2vec ou Glove) dans TensorFlow

J'ai récemment examiné une implémentation intéressante pour la classification de texte convolutif . Cependant, tout le code TensorFlow que j'ai examiné utilise des vecteurs d'incorporation aléatoires (non pré-entraînés) comme celui-ci: with tf.device('/cpu:0'), tf.name_scope("embedding"): W = tf.Variable( tf.random_uniform([vocab_size, embedding_size], -1.0, 1.0), name="W") self.embedded_chars = tf.nn.embedding_lookup(W, self.input_x) self.embedded_chars_expanded = tf.expand_dims(self.embedded_chars, -1) Est-ce …

95 python numpy tensorflow deep-learning

10

Comment ajouter des régularisations dans TensorFlow?

J'ai trouvé dans de nombreux codes de réseau neuronal disponibles mis en œuvre à l'aide de TensorFlow que les termes de régularisation sont souvent mis en œuvre en ajoutant manuellement un terme supplémentaire à la valeur de perte. Mes questions sont: Existe-t-il un moyen de régularisation plus élégant ou recommandé …

94 python neural-network tensorflow deep-learning

5

pourquoi «emballons-nous» les séquences en pytorch?

J'essayais de reproduire Comment utiliser l'empaquetage pour les entrées de séquence de longueur variable pour rnn, mais je suppose que je dois d'abord comprendre pourquoi nous devons "emballer" la séquence. Je comprends pourquoi nous devons les «tamponner» mais pourquoi est-il nécessaire de les «emballer» (à travers pack_padded_sequence)? Toute explication de …

93 deep-learning pytorch recurrent-neural-network tensor zero-padding

6

PyTorch - contigu ()

Je passais par cet exemple de modèle de langage LSTM sur github (lien) . Ce qu'il fait en général est assez clair pour moi. Mais j'ai encore du mal à comprendre ce que fait l'appel contiguous(), ce qui se produit plusieurs fois dans le code. Par exemple, à la ligne …

90 neural-network deep-learning lstm pytorch contiguous

5

Quelle est l'utilité de verbose dans Keras lors de la validation du modèle?

J'utilise le modèle LSTM pour la première fois. Voici mon modèle: opt = Adam(0.002) inp = Input(...) print(inp) x = Embedding(....)(inp) x = LSTM(...)(x) x = BatchNormalization()(x) pred = Dense(5,activation='softmax')(x) model = Model(inp,pred) model.compile(....) idx = np.random.permutation(X_train.shape[0]) model.fit(X_train[idx], y_train[idx], nb_epoch=1, batch_size=128, verbose=1) Quelle est l'utilité de verbeux lors de l'entraînement …

89 python deep-learning keras verbose

4

Que signifie global_step dans Tensorflow?

Dans ce code de didacticiel du site Web TensorFlow, quelqu'un pourrait-il aider à expliquer ce que cela global_stepsignifie? J'ai trouvé sur le site Web de Tensorflow écrit que l'étape globale est utilisée pour compter les étapes de formation , mais je ne comprends pas tout à fait ce que cela …

88 tensorflow deep-learning

2

comment formater les données d'image pour l'entraînement / la prédiction lorsque les images sont de taille différente?

J'essaye de former mon modèle qui classe les images. Le problème que j'ai, c'est qu'ils ont des tailles différentes. comment formater mes images / ou mon architecture de modèle?

87 deep-learning

5

Keras, comment prédire après avoir formé un modèle?

Je joue avec le jeu de données de l'exemple de reuters et il fonctionne bien (mon modèle est entraîné). J'ai lu comment enregistrer un modèle afin de pouvoir le charger plus tard pour le réutiliser. Mais comment utiliser ce modèle enregistré pour prédire un nouveau texte? Dois-je utiliser models.predict()? Dois-je …

87 python theano deep-learning keras

2

Optimiseur TensorFlow Keras personnalisé

Supposons que je veuille écrire une classe d'optimiseur personnalisée conforme à l' tf.kerasAPI (en utilisant la version TensorFlow> = 2.0). Je suis confus quant à la façon documentée de le faire par rapport à ce qui est fait dans les implémentations. La documentation pour les tf.keras.optimizers.Optimizer états , ### Write …

30 python tensorflow deep-learning tf.keras tensorflow2.x

1

Comprendre la dérivation d'une politique de dégradé

J'essaie de recréer un exemple très simple de Gradient politique, à partir de son blog d'origine Andrej Karpathy . Dans cet article, vous trouverez un exemple avec CartPole et Policy Gradient avec une liste de poids et d'activation Softmax. Voici mon exemple recréé et très simple de gradient de politique …

19 python machine-learning math deep-learning reinforcement-learning

3

Utilisation de YOLO ou d'autres techniques de reconnaissance d'image pour identifier tout le texte alphanumérique présent dans les images

J'ai plusieurs diagrammes d'images, qui contiennent tous des étiquettes sous forme de caractères alphanumériques au lieu de simplement l'étiquette de texte elle-même. Je veux que mon modèle YOLO identifie tous les chiffres et caractères alphanumériques qu'il contient. Comment puis-je entraîner mon modèle YOLO à faire de même. L'ensemble de données …

12 python opencv machine-learning deep-learning yolo

Questions marquées «deep-learning»