Références de réseaux de neurones (manuels, cours en ligne) pour débutants

Je veux apprendre les réseaux de neurones. Je suis un linguiste informatisé. Je connais des méthodes d’apprentissage statistique et peut coder en Python.

Je cherche à commencer avec ses concepts et à connaître un ou deux modèles populaires qui pourraient être utiles du point de vue de la linguistique computationnelle.

J'ai navigué sur le Web à titre de référence et j'ai trouvé quelques livres et matériels.

• Ripley, Brian D. (1996) Pattern Recognition and Neural Networks, Cambridge

• Bishop, CM (1995) Réseaux de neurones pour la reconnaissance de formes, Oxford: Oxford University Press.

• des liens, comme cette thèse , ces notes de cours (département de psychologie de l'Université de Toronto), ces notes de cours (université du Wisconsin Computer Science) et ce diaporama (recherche Facebook).

Les cours de Coursera sont généralement agréables, si quelqu'un sait quelque chose d'important d'eux. Je préfère les matériaux avec un langage lucide et de nombreux exemples.

Tu es chanceux! Il existe un nombre incroyable de ressources disponibles pour le moment. En particulier, vous pourriez regarder:

• un cours Coursera bientôt
• un manuel en ligne récemment publié par certains des leaders du domaine (Goodfellow, Bengio et Courville)
• ces notes de cours et cet aperçu , qui sont davantage orientés vers le traitement du langage naturel
• un ensemble de billets de blog avec de belles visualisations par Chris Olah
• deux boîtes à outils bien pris en charge avec des interfaces python et des didacticiels en ligne: tensorflow et Theano

Principales références:

Cours sur l'apprentissage en profondeur:

• Le cours d'Andrew Ng sur l'apprentissage automatique comprend une belle section d'introduction sur les réseaux de neurones.
• Cours de Geoffrey Hinton: Réseaux de neurones Coursera pour l'apprentissage automatique (automne 2012)
• Le livre gratuit de Michael Nielsen, Neural Networks and Deep Learning
• Yoshua Bengio, Ian Goodfellow et Aaron Courville ont écrit un livre sur l'apprentissage en profondeur (2016).
• Le cours d'Hugo Larochelle (vidéos + diapositives) à l'Université de Sherbrooke
• Tutoriel de Stanford (Andrew Ng et al.) Sur l'apprentissage des fonctionnalités non supervisé et l'apprentissage en profondeur
• Le cours ML 2014-2015 d'Oxford
• Cours NVIDIA Deep Learning (été 2015)
• Cours d'apprentissage approfondi de Google sur Udacity (janvier 2016)

Orienté vers la PNL:

• Stanford CS224d: apprentissage en profondeur pour le traitement automatique du langage (printemps 2015) par Richard Socher
• Tutoriel donné à NAACL HLT 2013: Apprendre en profondeur pour le traitement du langage naturel (sans magie) (vidéos + diapositives)

Axé sur la vision:

• Réseaux neuronaux convolutionnels CS231n pour la reconnaissance visuelle par Andrej Karpathy (version précédente, plus courte et moins aboutie: le guide de Hacker sur les réseaux neuronaux ).

Tutoriels spécifiques à la boîte à outils:

• DL4J (Java): http://deeplearning4j.org/documentation.html
• Theano (Python, Y. Bengio): http://deeplearning.net/
• Apprentissage automatique avec Torch7 (Lua, LeCun): http://code.madbits.com/wiki/doku.php
• H2O Deep Learning (Java): http://0xdata.com/product/deep-learning/
• Caffee (C ++, UCB): http://caffe.berkeleyvision.org/
• Cours d'apprentissage approfondi de Nervana

http://www.kdnuggets.com/2015/11/seven-steps-machine-learning-python.html

http://neuralnetworksanddeeplearning.com/

Cela a été mes ressources préférées. Commencé avec le cours d’apprentissage automatique de Stanford, mais préfère lire plutôt que les cours magistraux. Surtout parce que les lectures sont basées sur des exemples.

https://coorsy.com/topics/artificial-neural-network/for-beginners

Vous pouvez explorer les cours en ligne de nombreux fournisseurs de cours ici. Aussi, je vous suggère de regarder les sujets connexes ici.

Les réseaux de neurones et l'apprentissage en profondeur constituent un point de départ accessible .

Neural Networks and Deep Learning est un livre en ligne gratuit. Le livre va vous apprendre sur:

Les réseaux de neurones, un beau paradigme de programmation d’inspiration biologique qui permet à un ordinateur d’apprendre à partir de données d’observation. L’apprentissage en profondeur, un ensemble puissant de techniques d’apprentissage dans les réseaux de neurones Les réseaux de neurones et l’apprentissage en profondeur offrent actuellement les meilleures solutions à reconnaissance et traitement du langage naturel. Ce livre vous apprendra nombre des concepts fondamentaux des réseaux de neurones et de l'apprentissage en profondeur.

Pour un apprentissage rapide, je choisirais:

Cette conférence de Deep Learning du grand enseignant-chercheur Nando de Freitas: https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/

Pour une compréhension pratique de la théorie de la programmation en Python, ce matériel de Andrej Karpathy: http://cs231n.github.io/

Et pour la PNL: https://arxiv.org/abs/1510.00726

http://yerevann.com/a-guide-to-deep-learning/

Cela donne une bonne orientation dans votre parcours d'apprentissage en profondeur.