Je recherche des ressources (livres, notes de cours, etc.) sur les techniques pouvant gérer des données à cibles multiples (Ex: trois variables dépendantes: 2 discrètes et 1 continue).
Quelqu'un at-il des ressources / connaissances à ce sujet? Je sais qu'il est possible d'utiliser des réseaux de neurones pour cela.
Réponses:
La forêt aléatoire le gère plutôt bien, voir Une forêt aléatoire avec plusieurs sorties serait-elle possible / pratique? ou la documentation de scikit learn . Je suppose que GBM ou n'importe quelle méthode basée sur un arbre peut être adaptée de la même manière.
Plus généralement, lorsque vous exécutez un algorithme d'apprentissage minimisant un score, vous travaillez généralement sur la minimisation de qui est unidimensionnel. Mais vous pouvez spécifier n'importe quelle fonction cible. Si vous travailliez sur la prédiction de position (bidimensionnelle), serait une bonne métrique.
Si vous avez une sortie de type mixte (classification et régression), la spécification de la fonction cible vous obligera probablement à spécifier une fonction cible qui donne plus de poids à certaines cibles que d'autres: quelle mise à l'échelle appliquez-vous aux réponses continues? Quelle perte appliquez-vous aux classifications manquées?
Quant à la lecture académique,
Wikipédia de SVM Structured Learning
Exploiter simultanément les structures de sortie et de tâche pour la régression à sorties multiples
La méthode de sélection des points de repère pour la prédiction de sorties multiples (traite des variables dépendantes de dimensions élevées)
Cet article décrit bien les méthodes actuelles, les boîtes à outils disponibles, ainsi que les jeux de données sur lesquels tester.
Il se trouve que je travaille sur un problème commercial nécessitant une régression multi-cibles, et j'ai trouvé que la boîte à outils Clus a un bon mélange de haute performance et de robustesse
Certaines des nouvelles méthodes (post 2012) ont été implémentées comme une extension de la boîte à outils Mulan, voici le lien Github . Bien que ces méthodes telles que les combinaisons de cibles linéaires aléatoires rapportent de meilleures performances que les modèles d'ensemble, j'ai trouvé que la boîte à outils n'était pas aussi mature que la boîte à outils Clus et ne les utilisait donc pas.
Un point de vue bayésien sur ce type de problème: les modèles bayésiens non paramétriques pour les données indexées spatialement de type mixte . L'élément à réponses multiples est géré par divers vecteurs aléatoires normalement distribués et leurs fonctions de liaison. Pour que la réponse complète soit une pile d'un vecteur de normales, vecteur de comptes et vecteur de bernoullis.