Функция потери биномиального отклонения Scikit

Это функция биномиального отклонения Scikit GradientBoosting,

   def __call__(self, y, pred, sample_weight=None):
        """Compute the deviance (= 2 * negative log-likelihood). """
        # logaddexp(0, v) == log(1.0 + exp(v))
        pred = pred.ravel()
        if sample_weight is None:
            return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred))
        else:
            return (-2.0 / sample_weight.sum() *
                    np.sum(sample_weight * ((y * pred) - np.logaddexp(0.0, pred))))

Эта функция потери не похожа между классом с 0 и классом с 1. Может кто-нибудь объяснить, как это считается нормальным.

Например, без выборочного веса функция потерь для класса 1

-2(pred - log(1 + exp(pred))

против класса 0

-2(-log(1+exp(pred))

Сюжет для этих двух не похожи по стоимости. Может ли кто-нибудь помочь мне понять.

Есть два замечания, необходимых для понимания этой реализации.

Во-первых, predэто не вероятность, это логарифмические шансы.

Второе - это стандартная алгебраическая манипуляция биномиальным отклонением, которая выглядит следующим образом. Пусть будет логарифмировать, что звонит . Тогда определение биномиального отклонения наблюдения составляет (до коэффициента )$P$sklearnpred$-2$

Теперь обратите внимание, что и (быстрая проверка заключается в их суммировании в вашей голове, вы получите ). Так$p = \frac{e^{P}}{1 + e^{P}}$$1-p = \frac{1}{1 + e^{P}}$$1$

а также

Таким образом, в целом, биномиальное отклонение равно

Какое уравнение sklearnиспользует.