La programmation gradient-descent

4

Pytorch, quels sont les arguments du gradient

Je lis la documentation de PyTorch et j'ai trouvé un exemple où ils écrivent gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) où x était une variable initiale, à partir de laquelle y a été construit (un vecteur 3). La question est, quels sont les arguments 0,1, 1,0 et 0,0001 du …

112 neural-network gradient pytorch torch gradient-descent

2

Pourquoi avons-nous besoin d'appeler zero_grad () dans PyTorch?

La méthode zero_grad()doit être appelée pendant la formation. Mais la documentation n'est pas très utile | zero_grad(self) | Sets gradients of all model parameters to zero. Pourquoi devons-nous appeler cette méthode?

112 python neural-network deep-learning pytorch gradient-descent

9

Pourquoi les poids des réseaux de neurones devraient-ils être initialisés à des nombres aléatoires? [fermé]

Fermé. Cette question ne respecte pas les directives de Stack Overflow . Il n'accepte pas les réponses actuellement. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle soit pertinente pour Stack Overflow. Fermé il y a 4 jours . Améliorez cette question J'essaye de construire un réseau …

105 machine-learning neural-network artificial-intelligence mathematical-optimization gradient-descent

1

R: implémenter mon propre algorithme de renforcement de gradient

J'essaie d'écrire mon propre algorithme de renforcement de gradient. Je comprends qu'il existe des packages existants comme gbmet xgboost,mais je voulais comprendre comment l'algorithme fonctionne en écrivant le mien. J'utilise l' irisensemble de données et mon résultat est Sepal.Length(continu). Ma fonction de perte est mean(1/2*(y-yhat)^2)(essentiellement l'erreur quadratique moyenne avec 1/2 …

10 r machine-learning gradient-descent gbm boosting

Questions marquées «gradient-descent»