Premiers pas avec les réseaux de neurones pour la prévision

J'ai besoin de quelques ressources pour commencer à utiliser les réseaux de neurones pour la prévision des séries chronologiques. Je me méfie de mettre en œuvre du papier et de découvrir ensuite qu'ils ont largement surestimé le potentiel de leurs méthodes. Donc, si vous avez de l'expérience avec les méthodes que vous proposez, ce sera encore plus génial.

— Richard Hardy
source

Veuillez noter que les NN sont plutôt ... obsolètes.

@jason, NN ont été caractérisés comme une "régression sans éthique" car ils non seulement surajustent mais commettent l'erreur de "croire les données" plutôt que de "contester les données pour la cohérence du signal"

— IrishStat

Les NN ne sont absolument pas obsolètes. Ils détiennent les meilleurs scores sur plusieurs repères importants actuellement abordés par la communauté ML. En outre, ils sont le meilleur approximateur de fonctions différenciables polyvalent. Découvrez le travail des groupes de Bengio, Hinton et lecun au cours des 5 dernières années.

— bayerj

J'ai lu l'article de Bengio & Lecun et cela me fait un peu changer d'avis, mais ce qu'ils font est très différent des réseaux neuronaux historiques. L'OP veut travailler avec des séries temporelles, où il existe plusieurs méthodes qui peuvent fonctionner avec des séries temporelles univariées et vous donner en fait des informations utiles sur les séries temporelles (les DLM viennent à l'esprit). Si vous avez des données au-delà de la série temporelle elle-même, vous pouvez utiliser une variété d'autres méthodes (LM, etc.) qui sont simples et également éclairantes. Pourquoi utiliser une boîte noire avec des cadrans sans étiquette lorsque vous pouvez faire quelque chose de compréhensible?

— Wayne

Bien sûr, les réseaux de neurones utilisés dans les années 80 et 90 sont différents de ceux que vous utilisez aujourd'hui et ils restent un domaine de recherche très actif. De plus, vous n'utilisez jamais de réseaux de neurones lorsque vous vous souciez de l'interprétabilité. Vous les utilisez lorsque vous vous souciez d'une erreur de prédiction. Les réseaux de neurones sont rapides et ils résolvent les problèmes auxquels d'autres méthodes échouent. Ils sont agréables car ils sont simples d'un point de vue conceptuel en raison de l'absence d'hypothèses sur les données que vous modélisez (sauf le bruit gaussien lorsqu'il est utilisé avec l'erreur quadratique). Ils ont leurs propres mérites et défauts.

— bayerj

Réponses:

Voici une bonne introduction rapide: introduction aux réseaux de neurones. Notez que R a une fonctionnalité de réseau neuronal, donc pas besoin de passer du temps à implémenter NN vous-même jusqu'à ce que vous lui ayez donné un spin et décidé qu'il semble prometteur pour votre application.

Les réseaux de neurones ne sont pas obsolètes, mais ils ont traversé quelques cycles de battage médiatique, puis après avoir réalisé qu'ils ne font pas tout comme cela a été affirmé, leur réputation va dans un creux pendant un certain temps (nous sommes actuellement dans l'un d'entre eux) . Les réseaux de neurones sont bons pour certaines tâches, et sont généralement meilleurs pour les tâches dans lesquelles un humain peut effectuer une tâche similaire, mais ne peut pas expliquer exactement comment il le fait.

Les réseaux de neurones ne vous donnent pas beaucoup d'informations sur le système que vous utilisez pour analyser, même après qu'ils ont été formés et fonctionnent correctement. Autrement dit, ils peuvent prédire ce qui se passera (pour certains systèmes), mais pas vous dire pourquoi. Dans certains cas, c'est très bien. Dans d'autres, ce n'est pas bien. Généralement, si vous le souhaitez ou surtout si vous avez déjà une bonne compréhension des règles de fonctionnement de quelque chose, vous pouvez utiliser d'autres techniques.

Mais, pour certaines tâches, elles fonctionnent bien.

Pour les séries chronologiques en particulier, voir la discussion de cette question: bonne façon d'utiliser le réseau de neurones récurrent pour l'analyse des séries chronologiques

— Rossdavidh
source

Bien qu'il soit axé sur la reconnaissance des formes statistiques, plutôt que sur la prévision des séries chronologiques, je recommanderais fortement le livre Neural Networks for Pattern Recognition de Chris Bishop, car il s'agit de la meilleure introduction aux réseaux de neurones en général, et je pense que ce serait une bonne idée d'obtenir pour saisir les pièges potentiels dans l'utilisation des réseaux de neurones dans un contexte plus simple, où les problèmes sont plus facilement visualisés et compris. Passez ensuite au livre sur les réseaux de neurones récurrents de Mandic et Chambers . Le livre de l'évêque est un classique, personne ne devrait utiliser quoi que ce soit de réseaux neuronaux tant qu'il n'est pas certain de comprendre le contenu de ce livre; ANN, c'est trop facile de se tirer une balle dans le pied!

Je suis également en désaccord avec mbq, nn n'est pas obsolète, alors que de nombreux problèmes sont mieux résolus avec des modèles linéaires ou des techniques d'apprentissage automatique plus modernes (par exemple les méthodes du noyau), il y a des problèmes où ils fonctionnent bien et d'autres méthodes ne le font pas. C'est toujours un outil qui devrait être dans nos boîtes à outils.

— Dikran Marsupial
source