Пирсон В.С. Остатки отклонений в логистической регрессии

Я знаю, что стандартизированные остатки Пирсона получены традиционным вероятностным способом:

r_{i} = \frac{y_{i} - π_{i}}{\sqrt{π_{i} (1 - π_{i})}}

$r_i = \frac{y_i-\pi_i}{\sqrt{\pi_i(1-\pi_i)}}$

и Остаточные отклонения получаются более статистическим способом (вклад каждой точки в вероятность):

d_{i} = s_{i} \sqrt{- 2 [y_{i} \log \hat{π_{i}} + (1 - y_{i}) \log (1 - π_{i})]}

$d_i = s_i \sqrt{-2[y_i \log \hat{\pi_i} + (1 - y_i)\log(1-\pi_i)]}$

где = 1, если = 1, и = -1, если = 0. $s_i$ $y_i$ $s_i$ $y_i$

Можете ли вы объяснить мне, интуитивно, как интерпретировать формулу для остатков отклонения?

Более того, если я хочу выбрать тот, который больше подходит и почему?

Кстати, некоторые ссылки утверждают, что мы получаем остатки отклонения на основе термина

- \frac{1}{2} {r_{i}}^{2}

$-\frac{1}{2}{r_i}^2$

где упоминается выше. $r_i$

— Джек Ши
источник

Любые мысли будут оценены

— Джек Ши

Когда вы говорите «некоторые ссылки» ... какие ссылки и как они это делают?

— Glen_b

Логистическая регрессия стремится максимизировать функцию логарифмического правдоподобия

$LL = \sum^k \ln(P_i) + \sum^r \ln(1-P_i)$

$P_i$ $\hat Y=1$ $k$ $Y=1$ $r$ $Y=0$

Это выражение равно

$LL = ({\sum^k d_i^2} + {\sum^r d_i^2})/-2$

because a case's deviance residual is defined as:

$d_i = \begin{cases} \sqrt{-2\ln(P_i)} &\text{if } Y_i=1\\ -\sqrt{-2\ln(1-P_i)} &\text{if } Y_i=0\\ \end{cases}$

Thus, binary logistic regression seeks directly to minimize the sum of squared deviance residuals. It is the deviance residuals which are implied in the ML algorithm of the regression.

The Chi-sq statistic of the model fit is $2(LL_\text{full model} - LL_\text{reduced model})$ , where full model contains predictors and reduced model does not.

— ttnphns
источник