Quelles sont les bonnes références pour comprendre l'apprentissage en ligne?

10

Plus précisément, je demande des ressources pour en savoir plus sur les systèmes d'apprentissage automatique qui peuvent mettre à jour leurs réseaux de croyances respectifs (ou équivalent) pendant le fonctionnement. J'en ai même rencontré quelques-uns, même si je n'ai pas réussi à les mettre en signet.

Comme vous pouvez l'imaginer, c'est un sujet assez difficile à rechercher sur Internet.

— jtolds
source

Lorsque vous demandez aux utilisateurs de contribuer à une liste de réponses, la question doit être marquée wiki communautaire . J'ai converti cette question.

— Robert Cartaino

11

La plupart des algorithmes d'apprentissage en ligne proviennent d'au moins une de ces lignées:

le perceptron

Les perceptrons de pointe sont l' algorithme passif-agressif , le perceptron structuré et leurs nombreuses variétés.
Le vannage

Le vannage a été reformulé en tant que méthodes de gradient exponentiées et peut également être appliqué à des problèmes structurés . Il existe également des variétés qui traitent directement de la régularisation L1 (pour garantir la rareté), comme SMIDAS .
Descente de gradient stochastique

La descente de gradient stochastique se produit lorsque vous appliquez l'optimisation en ligne à un problème éventuellement par lots. Les algorithmes de pointe sont LeSVM , Pegasos de Leon Bottou et de nombreux algorithmes de réseau neuronal peuvent être facilement formés dans ce contexte. Voir le tutoriel theano pour de nombreux exemples. Peut-être que l' EM en ligne convient ici.
filtrage des particules

Ceci est également connu sous le nom d'inférence rao-blackwellized, et il vous permet de mettre à jour un modèle graphique / probabiliste à mesure que davantage de données arrivent. Quelques bons exemples sont les modèles de rubriques en ligne et le didacticiel NIPS sur SMC .

Il y a aussi des problèmes plus larges avec l'apprentissage en ligne, comme la conversion en ligne en lots , les techniques budgétaires pour l'apprentissage en ligne avec des noyaux (comme ce papier , ce papier et ce papier ), de nombreuses saveurs différentes de limites de généralisation, des problèmes de rareté (et aussi l'article de SMIDAS que j'ai cité ci-dessus), le hachage pour économiser de la mémoire et bien d'autres problèmes.

— Alexandre Passos
source

Réponse très instructive!

— Tayfun Payez le

7

Avrim Blum comme un formidable document d'enquête que je recommanderais de commencer par: "Algorithmes en ligne dans l'apprentissage automatique" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

— Aaron Roth
source

4

Si vous cherchez des informations sur la théorie derrière l'apprentissage en ligne, le livre de Cesa-Bianchi et Lugosi est une référence solide.

— Suresh Venkat
source

Je vais y jeter un œil, merci. C'était en fait l'une des deux suggestions fournies par Wikipédia ( en.wikipedia.org/wiki/Online_machine_learning pourrait utiliser de l'aide)

— jtolds

Une autre source utile est la série de publications de John Langford: hunch.net/?cat=7

— Suresh Venkat

4

Il y a un joli tutoriel d'ICML 2008 par Yoram Singer et Shai Shalev Shwartz sur la théorie et la pratique de l'apprentissage en ligne.

— Lev Reyzin
source

1

Apprentissage automatique - Supports de cours - Stanford http://www.stanford.edu/class/cs229/materials.html

Conférences vidéo sur l'apprentissage automatique et l'intelligence artificielle http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

Processus gaussiens pour l'apprentissage automatique http://www.gaussianprocess.org/gpml/

— Paulo Coghi - Réintégrer Monica
source

1

Cela ne parle pas spécifiquement de l'apprentissage en ligne. Le livre sur les processus gaussiens ne mentionne guère les approximations en ligne des processus gaussiens.

— Alexandre Passos