Логистическая регрессия - срок ошибки и ее распределение

О том, существует ли термин ошибки в логистической регрессии (и его предполагаемом распределении), я читал в разных местах, что:

1. Термин ошибки не существует
2. термин ошибки имеет биномиальное распределение (в соответствии с распределением переменной ответа)
3. термин ошибки имеет логистическое распределение

Может кто-нибудь уточнить, пожалуйста?

Предполагается, что при линейной регрессии наблюдения следуют гауссову распределению со средним параметром, зависящим от значений предиктора. Если вы вычтете среднее значение из наблюдений, вы получите ошибку : гауссово распределение со средним нулем и независимо от значений предикторов, то есть ошибки при любом наборе значений предикторов следуют тому же распределению.

$y\in\{0,1\}$$\pi$$1-\pi$$\pi$$0-\pi$$1-\pi$$1-\pi'$$\pi'$$0-\pi'$$1-\pi'$

«Термин ошибки имеет биномиальное распределение» (2) - просто неряшливость - «Гауссовские модели имеют гауссовские ошибки, эргономические биномиальные модели имеют биномиальные ошибки». (Или, как указывает @whuber, это может означать, что «разница между наблюдением и его ожиданием имеет биномиальное распределение, переведенное ожиданием».)

«Термин ошибки имеет логистическое распределение» (3) возникает в результате выведения логистической регрессии из модели, в которой вы наблюдаете, превышает ли скрытая переменная с ошибками после логистического распределения какой-либо порог. Так что это не та же самая ошибка, определенная выше. (Было бы странно говорить IMO вне этого контекста или без явной ссылки на скрытую переменную.)

$k$$\pi$$\sum y$$\pi$$k$$\sum y -k\pi$

$[0,1]$$[0,1]$$n=1$$\theta$

Для меня унификация логистической, линейной, пуассоновской регрессии и т. Д. Всегда была с точки зрения спецификации среднего значения и дисперсии в рамках Обобщенной линейной модели. Мы начинаем с определения распределения вероятностей для наших данных, нормального для непрерывных данных, Бернулли для дихотомического, Пуассона для счетчиков и т. Д. Затем мы указываем функцию связи, которая описывает, как среднее значение связано с линейным предиктором:

$g(\mu_i) = \alpha + x_i^T\beta$

$g(\mu_i) = \mu_i$

$g(\mu_i) = \log(\frac{\mu_i}{1-\mu_i})$

$g(\mu_i) = \log(\mu_i)$

Единственное, что можно было бы рассмотреть при написании термина ошибки, это указать:

$y_i = g^{-1}(\alpha+x_i^T\beta) + e_i$$E(e_i) = 0$$Var(e_i) = \sigma^2(\mu_i)$$\sigma^2(\mu_i) = \mu_i(1-\mu_i) = g^{-1}(\alpha+x_i^T\beta)(1-g^{-1}(\alpha+x_i^T\beta))$$e_i$

$e_i$

1. Ошибок не существует. Мы моделируем среднее! Среднее значение - это просто истинное число.
2. Это не имеет смысла для меня.
3. Думайте переменную ответа как скрытую переменную. Если вы предполагаете, что термин ошибки обычно распределен, то модель становится пробит-моделью. Если вы предполагаете, что распределение термина ошибки является логистическим, то модель является логистической регрессией.