Des algorithmes d'apprentissage automatique basés sur la «minimisation structurelle des risques»?

Quels algorithmes d'apprentissage automatique (outre les SVM) utilisent le principe de minimisation des risques structurels ?

reference-request machine-learning

— Classifire
source

Qu'est-ce qu'un algo?

— Dave Clarke

algo = algorithme;)

— Classifire

veuillez utiliser des mots complets.

— Kaveh

ok .. je ne voulais pas rendre le titre trop long

— Classifire

Pour autant que je sache, SRM n'est rien d'autre qu'une bonne régularisation ancienne , qui est utilisée absolument partout.

— Emre

Le principe de minimisation structurelle des risques est un principe qui est au moins en partie «utilisé» dans toutes les méthodes d'apprentissage automatique, car le sur-ajustement est souvent à prendre en compte: réduire la complexité du modèle est (soi-disant et en pratique) un bon moyen de limiter surajustement.

Les SVM ont explicitement un paramètre pour la complexité (la dimension de l' espace des fonctionnalités , ou même la fonction du noyau) et c'est nécessaire parce que l'augmentation de la complexité fait partie de l'algorithme d'apprentissage.
Les réseaux neuronaux ont également un indicateur facile de leur complexité (nombre de «cellules») et font partie de l'algorithme d'apprentissage associé.
Sans ce principe , l'inférence grammaticale serait à la fois stupide et la grammaire parfaite est la liste de tous les mots possibles, donc tout algorithme non trivial reconnaît au moins ce principe.
Les arbres de décision ont leur propre notion d'entropie .
Les clusters peuvent être simplement comptés ou en quelque sorte «utiliser» le principe intrinsèquement ou avoir un nombre fixe de clusters et dans ce cas, vous appliquez le principe à un niveau supérieur.

Pour être parfaitement honnête, je ne sais pas vraiment ce qui se passe dans la programmation génétique, mais ils n'ont pas une notion intrinsèque de complexité.

Je ne connais pas bien la programmation logique inductive, mais elle ne semble pas très bien s'adapter à ce principe.

— jmad
source

Connaissez-vous un algorithme d'apprentissage encore plus puissant et moins sujet au surapprentissage que SVM? Ou peut-être une technique pour améliorer le SVM standard?

— Classifire

@ user2278 si par "puissant" vous voulez dire "efficace", alors les SVM sont plutôt bien et il y a beaucoup de recherches à ce sujet et d' outils qui l' utilisent. Mais bien sûr, cela dépend de votre problème.

— jmad

Eh bien, j'aimerais utiliser SVM sur les marchés financiers, et il y a en fait pas mal d'articles consacrés à ce sujet (utiliser SVM pour la prédiction boursière, etc ...). Existe-t-il un algorithme qui conviendrait mieux à cet effet (d'autant plus que les séries temporelles financières sont si "bruyantes")?

— Classifire

@ user2278 Vous feriez mieux d'utiliser les papiers. Je ne suis pas un expert. (Je ne serais pas surpris que les SVM soient les meilleurs pour ça. De plus, ils se comportent bien par rapport au bruit)

— jmad