Я хотел бы задать вопрос, связанный с этим .
Я нашел пример написания пользовательской функции потерь для xgboost здесь :
loglossobj <- function(preds, dtrain) {
# dtrain is the internal format of the training data
# We extract the labels from the training data
labels <- getinfo(dtrain, "label")
# We compute the 1st and 2nd gradient, as grad and hess
preds <- 1/(1 + exp(-preds))
grad <- preds - labels
hess <- preds * (1 - preds)
# Return the result as a list
return(list(grad = grad, hess = hess))
}
Функция логистической потери
где - лог-шансы, а - метки (0 или 1).
Мой вопрос: как мы можем получить градиент (первую производную), просто равный разнице между истинными значениями и предсказанными вероятностями (рассчитанными из log-odds as preds <- 1/(1 + exp(-preds))
)?