Работает ли система Caret Train для glmnet перекрестной проверки как для альфы, так и для лямбды?

20

Является ли caretпакет R перекрестной проверки как для модели, так alphaи lambdaдля glmnetнее? Запуск этого кода,

eGrid <- expand.grid(.alpha = (1:10) * 0.1, 
                     .lambda = (1:10) * 0.1)

Control <- trainControl(method = "repeatedcv",repeats = 3,verboseIter =TRUE)

netFit <- train(x =train_features, y = y_train,
          method = "glmnet",
          tuneGrid = eGrid,
          trControl = Control)

Журнал тренировок выглядит следующим образом.

Fold10.Rep3: alpha=1.0, lambda=NA

Что lambda=NAзначит?

— mrquestion
источник

3

Как я могу передать family = "binomial" и type.measure = "auc" в модель glmnet с помощью train?

— Diugalde

16

train настраивает на обоих

По сути, вам нужно только alphaпри обучении и можете получать прогнозы по различным значениям lambdaиспользования predict.glmnet. Может быть, значение lambda = "all"или что-то еще было бы более информативным.

Максимум

— topepo
источник

1

Как я могу указать последовательность альфа-значений? Не давая лямбда-последовательность?

— diugalde

Что-то вроде: alpha.seq = seq (0,1, .01) Вам не нужно использовать точный метод выше. Смотрите документацию по карету

— Redeyes10

12

Старый вопрос, но мне недавно пришлось столкнуться с этой проблемой и нашел этот вопрос в качестве справочного.

Вот альтернативный подход:

Виньетка glmnet ( https://web.stanford.edu/~hastie/glmnet/glmnet_alpha.html ) специально решает эту проблему, рекомендуя указывать сгибы перекрестной проверки с помощью аргумента foldids и проверять по сетке . При этом используются одинаковые cv-сгибы для проверки для каждого в вашей сетке. $\lambda$ $\alpha$ $\lambda$ $\alpha$

Причина, по которой это может быть лучше одновременной проверки и заключается в том, что cv.glmnet проверяет используя «теплый старт» для выбора а не просто случайный выбор то есть ускорение проверки и повышение вероятности появления оптимальный в вашей сетке (так как мелкие сетки дороже в вычислительном отношении). $\alpha$ $\lambda$ $\lambda$ $\lambda$ $\lambda > 0$ $\lambda$

— Redeyes10
источник

В последнее время это лучший ответ

— Джавадба