Случайные леса для многомерной регрессии

У меня проблема регрессии с несколькими выходами с входными функциями и выходными . Выходы имеют сложную нелинейную корреляционную структуру. $d_x$ $d_y$

Я хотел бы использовать случайные леса, чтобы сделать регрессию. Насколько я могу судить, случайные леса для регрессии работают только с одним выходом, поэтому мне пришлось бы тренировать случайные леса - по одному на каждый выход. Это игнорирует их корреляции. $d_y$

Существует ли расширение для случайных лесов, которое учитывает выходные корреляции? Может быть, что-то вроде регрессии Гаусса для многозадачного обучения .

regression multivariate-analysis random-forest

— sergeyf
источник

вот что я смог выкопать до сих пор: scikit-learn.org/dev/modules/tree.html#multi-output-problems

— sergeyf

конечно. У меня есть «мерные» изображения (на самом деле спектры dI / dV) пептидов. цель состоит в том, чтобы выяснить расположение и классы аминокислот, из которых состоит пептид. Моим первым подходом была сегментация изображения, но CRF и пиксельные случайные леса потерпели неудачу. так что теперь, вместо того, чтобы говорить, что каждый пиксель «принадлежит» одной и только одной аминокислоте (не совсем верно), я назначаю каждому пикселю относительное значение «влияния» от соседних аминокислот. это приводит к размерной гистограмме

d_{y}

$d_y$ для каждого пикселя. следовательно, множественная выходная регрессия!

— сергейф

Это может быть запоздалый ответ: в Crimisini et al. Леса принятия решений: единая основа для классификации, регрессии, оценки плотности, коллекторов. Изучение того, что они используют RF таким образом, который вам подходит для идентификации границ органов.

— Симона

Это может быть и поздно, но может помочь любому, кто наткнется на этот пост. Случайный лес можно легко обучить с использованием многомерных данных. Все происходит одинаково, однако вместо использования дисперсии для расчета прироста информации мы используем ковариацию нескольких выходных переменных. И что более важно, листья теперь содержат N-мерные PDF-файлы.

— Масад

Я не знаю, что РФ "Это игнорирует их корреляции". Учитывая ансамблевую природу РФ, я думаю, что они могут объяснить корреляции. Если бы они брали одномерный вход и давали одномерный результат, то они не учитывали бы корреляции.

— EngrStudent - Восстановить Монику

Вот пример проблемы регрессии с несколькими выходами, осуществляемой с распознаванием лиц. Он также включает в себя пример кодирования, он должен дать вам начало вашей методологии. http://scikit-learn.org/stable/auto_examples/plot_multioutput_face_completion.html

— oRange1
источник

Специально для этого есть новый пакет (не проверенный лично)

https://cran.r-project.org/package=MultivariateRandomForest

— М.М.
источник