L'informatique neural-networks

3

Astuce de nucléation, pour les réseaux de neurones

J'ai découvert les réseaux neuronaux et les SVM. Les tutoriels que j'ai lus ont souligné l'importance de la noyauisation pour les SVM. Sans fonction de noyau, les SVM ne sont qu'un classificateur linéaire. Avec la noyauisation, les SVM peuvent également incorporer des fonctionnalités non linéaires, ce qui en fait un …

9 machine-learning artificial-intelligence neural-networks

1

Pourquoi les poids des réseaux de neurones sont-ils initialisés avec des nombres aléatoires?

Pourquoi les poids initiaux des réseaux de neurones sont-ils initialisés sous forme de nombres aléatoires? J'avais lu quelque part que cela est fait pour "briser la symétrie" et que le réseau neuronal apprend plus vite. Comment briser la symétrie permet-elle d'apprendre plus rapidement? Est-ce que l'initialisation des poids à 0 …

9 machine-learning artificial-intelligence neural-networks

1

Un algorithme de réseau neuronal artificiel pourrait-il être exprimé en termes d'opérations de réduction de carte?

Un algorithme de réseau neuronal artificiel pourrait-il être exprimé en termes d'opérations de réduction de carte? Je m'intéresse également plus généralement aux méthodes de parallélisation appliquées aux RNA et à leur application au cloud computing. Je pense qu'une approche consisterait à exécuter un ANN complet sur chaque nœud et à …

9 parallel-computing artificial-intelligence neural-networks

1

Réseau neuronal divergent au lieu de converger

J'ai implémenté un réseau neuronal (utilisant CUDA) avec 2 couches. (2 neurones par couche). J'essaie de lui faire apprendre 2 fonctions polynomiales quadratiques simples en utilisant la rétropropagation . Mais au lieu de converger, il diverge (la sortie devient l'infini) Voici quelques détails supplémentaires sur ce que j'ai essayé: J'avais …

9 machine-learning artificial-intelligence neural-networks

1

La fonction d'activation doit-elle être monotone dans les réseaux de neurones?

De nombreuses fonctions d'activation dans les réseaux de neurones (sigmoïde, tanh, softmax) sont monotones, continues et différenciables (à l'exception de quelques points, où la dérivée n'existe pas). Je comprends la raison de la continuité et de la différentiabilité, mais je ne peux pas vraiment comprendre la raison de la monotonie.

8 machine-learning neural-networks

1

Adapter le réseau neuronal

J'ai à quelques reprises formé des réseaux de neurones (réseaux de rétropropagation) avec des ensembles de données assez compliqués (positions de backgammon et OCR). En faisant cela, il semble qu'une grande partie du travail implique d'essayer différentes configurations des réseaux, afin de trouver la configuration optimale pour l'apprentissage. Il y …

8 machine-learning neural-networks learning-theory

2

Que peut-on apprendre des poids dans un réseau neuronal?

Je suis très nouveau dans les réseaux de neurones et j'ai essayé de comprendre certaines choses. Donc, disons que vous rencontrez un réseau de neurones qui a 100 entrées, une couche cachée avec 200 nœuds et 32 sorties. Disons également que vous, le «découvreur» de cette instance particulière d'un réseau …

8 machine-learning neural-networks

1

Existe-t-il un moyen simple de calculer les poids des perceptrons sur la base d'un graphique de classification?

J'étudie pour un examen d'IA et je cherche une meilleure façon de résoudre le problème suivant: Le graphique montre un problème de classification dans le carré unitaire [0,1]2[0,1]2[0,1]^2, où la classe A est indiquée par la zone grise sur la figure (sans compter les points sur les lignes pointillées), et …

8 artificial-intelligence neural-networks

1

La différence essentielle entre le renforcement des réseaux de neurones et les ANN de génération précédente

J'ai étudié Spiking Neural Networks en ligne à partir de divers articles, principalement Maass (1997) . Je ne suis pas tout à fait sûr de comprendre ce qui différencie le code d'impulsion de SNN des ANN précédents, qui sont considérés comme un code de taux. J'ai une formation en neuroscience, …

8 terminology artificial-intelligence neural-networks

Questions marquées «neural-networks»