Statistiques et Big Data neural-networks

3

Pourquoi les réseaux de neurones ont-ils besoin d'une sélection / ingénierie de fonctionnalités?

Particulièrement dans le contexte des compétitions kaggle, j'ai remarqué que la performance du modèle est une question de sélection / ingénierie de fonctionnalités. Bien que je puisse pleinement comprendre pourquoi c'est le cas dans le cas des algorithmes ML plus conventionnels / old-school, je ne vois pas pourquoi ce serait …

14 neural-networks deep-learning feature-selection feature-engineering

1

Que signifie une couche de goulot d'étranglement dans les réseaux de neurones?

Je lisais le papier FaceNet et dans le 3ème paragraphe de l'introduction il dit: Les approches précédentes de reconnaissance de visage basées sur des réseaux profonds utilisent une couche de classification formée sur un ensemble d'identités de visage connues, puis prennent une couche intermédiaire de goulot d'étranglement comme représentation utilisée …

14 neural-networks image-processing

1

Quelle est la différence entre l'épisode et l'époque dans l'apprentissage Q profond?

J'essaie de comprendre le célèbre article "Jouer à Atari avec l'apprentissage par renforcement profond" ( pdf ). Je ne suis pas clair sur la différence entre une époque et un épisode . Dans l'algorithme , la boucle externe est sur des épisodes , tandis que sur la figure l'axe des …

14 neural-networks terminology reinforcement-learning q-learning

2

Initialisation du poids CNN Xavier

Dans certains tutoriels, j'ai trouvé qu'il était indiqué que l'initialisation du poids "Xavier" (article: Comprendre la difficulté de former des réseaux neuronaux profonds à action directe ) est un moyen efficace d'initialiser les poids des réseaux neuronaux. Pour les couches entièrement connectées, il y avait une règle générale dans ces …

14 normal-distribution variance neural-networks conv-neural-network

3

Théorème d'approximation universel pour les réseaux convolutifs

Le théorème d'approximation universelle est un résultat assez célèbre pour les réseaux de neurones, déclarant essentiellement que sous certaines hypothèses, une fonction peut être uniformément approximée par un réseau de neurones avec n'importe quelle précision. Y a-t-il un résultat analogue qui s'applique aux réseaux de neurones convolutifs?

14 neural-networks conv-neural-network approximation

3

Quelle est exactement la différence entre un modèle paramétrique et non paramétrique?

Je suis confus avec la définition du modèle non paramétrique après avoir lu ce lien Modèles paramétriques vs modèles non paramétriques et répondre aux commentaires de ma autre question . À l'origine, je pensais que "paramétrique vs non paramétrique" signifie si nous avons des hypothèses de distribution sur le modèle …

14 machine-learning neural-networks nonparametric terminology parametric

2

Filets neuronaux: une seule variable à chaud écrasante continue?

J'ai des données brutes qui ont environ 20 colonnes (20 fonctionnalités). Dix d'entre elles sont des données continues et 10 d'entre elles sont catégoriques. Certaines des données catégorielles peuvent avoir comme 50 valeurs différentes (États-Unis). Après avoir prétraité les données, les 10 colonnes continues deviennent 10 colonnes préparées et les …

13 machine-learning neural-networks tensorflow data-preprocessing theano

1

Pourquoi l'apprentissage par renforcement profond est-il instable?

Dans l'article de DeepMind de 2015 sur l'apprentissage par renforcement profond, il déclare que «les tentatives précédentes de combiner RL avec des réseaux de neurones ont échoué en grande partie en raison d'un apprentissage instable». L'article énumère ensuite certaines causes de cela, en fonction des corrélations entre les observations. S'il …

13 machine-learning neural-networks deep-learning reinforcement-learning

2

Pourquoi les réseaux de neurones sont-ils facilement trompés?

J'ai lu des articles sur la création manuelle d'images pour "tromper" un réseau de neurones (voir ci-dessous). Est-ce parce que les réseaux ne modélisent que la probabilité conditionnelle ? Si un réseau peut modéliser la probabilité conjointe p ( y , x ) , de tels cas se produiront-ils toujours?p …

13 machine-learning neural-networks deep-learning

2

Quelle est l'origine des réseaux de neurones auto-encodeurs?

J'ai recherché sur Google, Wikipedia, Google scholar, et plus, mais je n'ai pas pu trouver l'origine des Autoencoders. C'est peut-être l'un de ces concepts qui a évolué très progressivement, et il est impossible de retracer un point de départ clair, mais je voudrais quand même trouver une sorte de résumé …

13 neural-networks autoencoders history

2

Les données d'entrée corrélées entraînent-elles un sur-ajustement avec les réseaux de neurones?

À mon avis, les données d'entrée corrélées doivent conduire à un sur-ajustement dans les réseaux de neurones car le réseau apprend la corrélation, par exemple le bruit dans les données. Est-ce correct?

13 correlation neural-networks overfitting

2

Quel est l'avantage de la distribution normale tronquée dans l'initialisation des poids dans un réseau neuronal?

Lors de l'initialisation des poids de connexion dans un réseau de neurones à action directe, il est important de les initialiser de manière aléatoire pour éviter toute symétrie que l'algorithme d'apprentissage ne serait pas en mesure de briser. La recommandation que j'ai vue à divers endroits (par exemple dans le …

13 neural-networks backpropagation weights truncated-normal

1

Comment former la couche LSTM de réseau profond

J'utilise un réseau lstm et feed-forward pour classer le texte. Je convertis le texte en vecteurs uniques et les insère dans le lstm afin de pouvoir le résumer en une seule représentation. Ensuite, je le nourris à l'autre réseau. Mais comment former le lstm? Je veux juste classer le texte …

13 classification neural-networks deep-learning lstm

3

Comment les réseaux de neurones convolutionnels utilisent-ils exactement la convolution à la place de la multiplication matricielle?

Je lisais le livre de Yoshua Bengio sur l'apprentissage profond et il est dit à la page 224: Les réseaux convolutifs sont simplement des réseaux neuronaux qui utilisent la convolution à la place de la multiplication matricielle générale dans au moins une de leurs couches. cependant, je ne savais pas …

13 machine-learning neural-networks deep-learning convolution

2

Procédure et méthodes d'analyse de la série temporelle utilisant R

Je travaille sur un petit projet où nous essayons de prévoir les prix des matières premières (pétrole, aluminium, étain, etc.) pour les 6 prochains mois. J'ai 12 variables de ce type à prévoir et j'ai des données d'avril 2008 à mai 2013. Comment dois-je procéder pour la prédiction? J'ai fait …

13 r time-series forecasting neural-networks arima

Questions marquées «neural-networks»