Разбиение деревьев в R: партия против rpart

Прошло много времени с тех пор, как я посмотрел на разделение деревьев. В прошлый раз, когда я делал подобные вещи, мне нравилась вечеринка в R (созданная Hothorn). Идея условного вывода через выборку имеет для меня смысл. Но у rpart тоже была апелляция.

В текущем приложении (я не могу дать подробности, но оно включает в себя попытку определить, кто попадет в тюрьму среди большой выборки арестованных), я не могу использовать продвинутые методы, такие как случайные леса, багинг, бустинг и т. Д. - мне нужен легко объяснимый править.

Я также хотел бы иметь некоторый ручной контроль над тем, какие узлы разделяются, как рекомендовано в Zhang & Singer (2010) Рекурсивное разбиение и приложения . Бесплатное программное обеспечение, которое идет с этой книгой, позволяет это, но в остальном довольно примитивно в своем пользовательском вводе.

Любые рекомендации или предложения?

Я согласен с @Iterator, что методология проще объяснить для rpart. Однако, если вы ищете легко объяснимые правила, группа (без деревьев в мешках) ничего не теряет в объяснении прогноза - у вас все еще есть одно дерево. Если вам также интересно взглянуть на движущие факторы исходной переменной (а не только на чистую предсказательную силу), я все равно думаю, что партия - это путь, объясняющий, что дерево решений (например, rpart) может быть весьма предвзятым в выборе того, какой переменные важны и как это создает расщепления. Партия использует тесты перестановки и статистически определяет, какие переменные являются наиболее важными и как делаются разбиения. Таким образом, вместо того, чтобы склоняться к категориальным переменным со многими уровнями, как, например, rpart, участник использует статистические тесты, чтобы найти наилучшую структуру.

[NB: см. Обновление 1 ниже.] Я считаю, что методологию rpartгораздо проще объяснить, чем party. Последний, однако, гораздо более сложный и, вероятно, даст лучшие модели. Способ, который я иногда объясняю, partyсостоит в том, чтобы говорить об этом как о основе для создания локальных линейных (или GLM) моделей. Я подкрепляю это тем, что указываю, что результаты для rpartпостоянны для всех элементов, попадающих в конечный узел, то есть для блока / области, ограниченной разбиениями. Даже если могут быть улучшения с помощью локальных моделей, вы не получите ничего, кроме постоянного прогноза.

Напротив, partyразвивает расколы, чтобы потенциально оптимизировать модели для регионов. На самом деле он использует критерии, отличные от оптимальности модели, но вам нужно измерить свою способность объяснить разницу, чтобы определить, можете ли вы объяснить это хорошо. Документы для него довольно доступны для исследователя, но могут быть довольно сложными для тех, кто не желает рассматривать более простые методы, такие как случайные леса, бустинг и т. Д. Математически, я думаю, что partyэто более изощренно ... Тем не менее, модели CART легче объяснить, как с точки зрения методологии и результатов, и они обеспечивают достойную ступеньку для внедрения более сложных моделей на основе дерева.

Короче говоря, я бы сказал, что вы должны сделать rpartдля ясности, и вы можете использовать partyдля точности / производительности, но я бы не стал представлятьparty без представления rpart.

Обновление 1. Я основал свой ответ на моем понимании, partyкак это было год или два назад. Он немного вырос, но я бы изменил свой ответ, сказав, что я все еще рекомендую rpartего краткость и унаследованность, если «ненастоящий» будет важным критерием для вашего клиента / сотрудника. Тем не менее, я бы попытался перейти на использование большего количества функциональных возможностей partyпосле того, как представил кого-то rpart. Лучше начать с малого, с функций потерь, критериев расщепления и т. Д. В простом контексте, прежде чем вводить пакет и методологию, включающие гораздо более сложные концепции.