Forêts aléatoires pour la régression multivariée

J'ai un problème de régression multi-sorties avec fonctions d'entrée et sorties. Les sorties ont une structure de corrélation complexe et non linéaire. $d_x$ $d_y$

Je voudrais utiliser des forêts aléatoires pour faire la régression. Pour autant que je sache, les forêts aléatoires pour la régression ne fonctionnent qu'avec une seule sortie, donc je devrais former forêts aléatoires - une pour chaque sortie. Cela ignore leurs corrélations. $d_y$

Existe-t-il une extension aux forêts aléatoires qui prend en compte les corrélations de sortie? Peut-être quelque chose comme la régression du processus gaussien pour l'apprentissage multi-tâches .

regression multivariate-analysis random-forest

— sergeyf
source

voici ce que j'ai pu découvrir

— sergeyf

sûr. j'ai des "images" de haute dimension (en fait des spectres dI / dV) de peptides. l'objectif est de déterminer les emplacements et les classes des acides aminés qui composent le peptide. ma première approche a été la segmentation d'image, mais les CRF et les forêts aléatoires au niveau des pixels ont échoué. alors maintenant, au lieu de dire que chaque pixel "appartient" à un et un seul acide aminé (pas vraiment vrai), j'attribue à chaque pixel une valeur "d'influence" relative des acides aminés voisins. il en résulte un histogramme dimensionnel

pour chaque pixel. par conséquent, régression à sorties multiples!

d_{y}

$d_y$

— sergeyf

Ce pourrait être une réponse tardive: dans Crimisini et al. Forêts de décision: un cadre unifié pour la classification, la régression, l'estimation de la densité, l'apprentissage en collecteur, ils utilisent les RF d'une manière qui pourrait vous convenir pour l'identification des limites des organes.

— Simone

Cela pourrait également être en retard, mais cela pourrait aider quiconque à tomber sur ce message. La forêt aléatoire peut facilement être formée à l'aide de données multivariées. Tout se passe de la même manière, mais au lieu d'utiliser la variance pour le calcul du gain d'informations, nous utilisons la covariance des multiples variables de sortie. Et plus important encore, les feuilles contiennent désormais des PDF à N dimensions.

— masad

Je ne sais pas que le RF "Cela ignore leurs corrélations". Étant donné la nature d'ensemble de la RF, je pense qu'ils pourraient expliquer les corrélations. S'ils prenaient une entrée univariée et donnaient une sortie univariée, ils ne prendraient pas en compte les corrélations.

— EngrStudent

Voici un exemple d'un problème de régression à sorties multiples entrepris avec la reconnaissance faciale. Il comprend également un échantillon de codage, il devrait vous donner un début avec votre méthodologie. http://scikit-learn.org/stable/auto_examples/plot_multioutput_face_completion.html

— orange1
source

Il existe un nouveau package spécialement pour cela (non testé personnellement)

https://cran.r-project.org/package=MultivariateRandomForest

— MM
source