L'informatique neural-networks

2

Pourquoi les réseaux de neurones semblent-ils mieux fonctionner avec des restrictions placées sur leur topologie?

Les réseaux backprop entièrement connectés (au moins couche à couche avec plus de 2 couches masquées) sont des apprenants universels. Malheureusement, ils sont souvent lents à apprendre et ont tendance à trop s'adapter ou à avoir des généralisations maladroites. En m'amusant avec ces réseaux, j'ai observé que l'élagage de certains …

29 machine-learning network-topology neural-networks

1

Quelle est la température dans le LSTM (et les réseaux de neurones en général)?

L'un des hyperparamètres des réseaux LSTM est la température. Qu'Est-ce que c'est?

25 machine-learning neural-networks

4

Quelle est la différence entre un réseau de neurones, un système d'apprentissage profond et un réseau de croyances profondes?

Quelle est la différence entre un réseau de neurones, un système d'apprentissage profond et un réseau de croyances profondes? Si je me souviens bien, votre réseau de neurones de base est une sorte de truc à 3 couches, et j'ai décrit les systèmes de croyance profonde comme étant des réseaux …

23 machine-learning neural-networks boltzmann-machine

1

Calcul ou approximation efficace de la dimension VC d'un réseau de neurones

Mon objectif est de résoudre le problème suivant, que j'ai décrit par son entrée et sa sortie: Contribution: Un graphe acyclique dirigé avec m nœuds, n sources et 1 puits ( m > n ≥ 1 ).ggGmmmnnn111m > n ≥ 1m>n≥1m > n \geq 1 Production: Le VC-dimension (ou une …

19 algorithms complexity-theory machine-learning neural-networks vc-dimension

2

Quelles sont les critiques concernant les performances de HTM?

Je viens d'apprendre récemment l'existence de cette mémoire temporelle hiérarchique (HTM) . J'ai déjà lu le document Hierarchical Temporal Memory: Concepts, Theory and Terminology (par Jeff Hawkins et Dileep George), qui semble assez facile à comprendre, mais un drapeau rouge est que le document n'est ni révisé par des pairs …

16 neural-networks hierarchical-temporal-memory

2

Les réseaux de neurones doivent-ils toujours converger?

introduction La première étape J'ai écrit un réseau neuronal à rétropropagation standard, et pour le tester, j'ai décidé de le faire mapper XOR. C'est un réseau 2-2-1 (avec fonction d'activation tanh) X1 M1 O1 X2 M2 B1 B2 À des fins de test, j'ai configuré manuellement le neurone moyen supérieur …

16 machine-learning neural-networks

3

quelle est la différence entre le perceptron multicouche et le réseau neuronal multicouche?

Quand dit-on qu'un réseau de neurones artificiels est un Perceptron multicouche ? Et quand dit-on qu'un réseau de neurones artificiels est multicouche ? Le terme perceptron est-il lié à la règle d'apprentissage pour mettre à jour les poids? Ou est-ce lié aux unités neuronales?

13 neural-networks perceptron

2

Comment coder la date en entrée dans le réseau neuronal?

J'utilise des réseaux de neurones pour prédire une série chronologique. La question à laquelle je suis confronté maintenant est de savoir comment encoder la date / l'heure / le numéro de série. de chaque jeu d'entrée comme entrée du réseau neuronal? Dois-je utiliser 1 du codage C (utilisé pour les …

12 machine-learning artificial-intelligence neural-networks

1

Google DeepDream Elaborated

J'ai vu quelques questions sur ce site à propos de Deep Dream, mais aucune d'entre elles ne semble réellement parler de ce que fait DeepDream, en particulier. Pour autant que je sache, ils semblent avoir changé la fonction objectif et également changé la rétropropagation de sorte qu'au lieu de mettre …

12 machine-learning artificial-intelligence neural-networks image-processing computer-vision

4

Évolution des réseaux de neurones artificiels pour résoudre les problèmes de NP

J'ai récemment lu une entrée de blog très intéressante de Google Research Blog sur le réseau neuronal. Fondamentalement, ils utilisent ces réseaux de neurones pour résoudre divers problèmes comme la reconnaissance d'image. Ils utilisent des algorithmes génétiques pour "faire évoluer" les poids des axones. Donc, fondamentalement, mon idée est la …

10 machine-learning np neural-networks p-vs-np genetic-algorithms

1

La signification du facteur d'actualisation sur l'apprentissage par renforcement

Après avoir lu les réalisations de google deepmind sur les jeux d'Atari , j'essaie de comprendre le q-learning et les q-réseaux, mais je suis un peu confus. La confusion survient dans le concept du facteur d'actualisation. Bref résumé de ce que je comprends. Un réseau neuronal convolutionnel profond est utilisé …

10 artificial-intelligence neural-networks reinforcement-learning

2

La puissance de calcul des réseaux de neurones est-elle liée à la fonction d'activation

Il est prouvé que les réseaux de neurones avec des poids rationnels ont la puissance de calcul de la calculabilité universelle de Turing Machine Turing avec des réseaux de neurones . D'après ce que j'ai obtenu, il semble que l'utilisation de poids réels donne encore plus de puissance de calcul, …

10 computability neural-networks

1

Combien de couches un réseau de neurones doit-il avoir?

Y a-t-il des avantages à avoir plus de 2 couches cachées dans un réseau neuronal? J'ai vu des endroits qui le recommandent, d'autres prouvent qu'il n'y a aucun avantage. Lequel a raison?

10 artificial-intelligence neural-networks neural-computing

1

Comment fonctionne le terme de momentum pour l'algorithme de rétropropagation?

Lors de la mise à jour des poids d'un réseau neuronal en utilisant l'algorithme de rétropropagation avec un terme de momentum, le taux d'apprentissage devrait-il également être appliqué au terme de momentum? La plupart des informations que j'ai pu trouver sur l'utilisation de l'élan ont les équations ressemblant à ceci: …

9 machine-learning neural-networks

3

Quand devrais-je aller au-delà de k voisin le plus proche

Pour de nombreux projets d'apprentissage automatique que nous faisons, nous commençons par le classificateur k le plus proche voisin. Il s'agit d'un classificateur de départ idéal car nous avons généralement suffisamment de temps pour calculer toutes les distances et le nombre de paramètres est limité (k, métrique de distance et …

9 neural-networks classification

Questions marquées «neural-networks»