Почему корреляция остатков не имеет значения при тестировании на нормальность?

Когда (то есть происходит из модели линейной регрессии), $Y = AX + \varepsilon$ $Y$ И в этом случае невязок коррелируют и ненезависимыми. Но когда мы делаем регрессионную диагностику и хотим проверить предположение , каждый учебник предлагает использовать Q-Q графику и статистические тесты на Разность , которые были разработанычтобы проверитьли для некоторого .

ε \sim N (0, σ^{2} I) \Rightarrow \hat{e} = (I - H) Y \sim N (0, (I - H) σ_{}^{2})

$\varepsilon \sim \mathcal{N}(0, \sigma^2 I) \hspace{1em} \Rightarrow \hspace{1em} \hat{e} = (I - H) Y \sim \mathcal{N}(0, (I - H) \sigma^2_{})$

{\hat{e}}_{1}, \dots, {\hat{e}}_{n}

$\hat{e}_1, \ldots, \hat{e}_n$

ε \sim N (0, σ^{2} I)

$\varepsilon \sim \mathcal{N}(0, \sigma^2 I)$

\hat{e}

$\hat{e}$

\hat{e} \sim N (0, σ^{2} I)

$\hat{e} \sim \mathcal{N}(0, \sigma^2 I)$

σ^{2} \in R

$\sigma^2 \in \mathbb{R}$

Почему для этих тестов не имеет значения, что остатки коррелированы, а не независимы? Часто предлагается использовать стандартизированные но это только делает их гомоскедастичными, а не независимыми.

{\hat{e}}_{i}^{'} = \frac{{\hat{e}}_{i}}{\sqrt{1 - h_{i i}}},

$\hat{e}_i' = \frac{\hat{e}_i}{\sqrt{1 - h_{ii}}},$

Перефразируя вопрос: остатки от регрессии МНК коррелируют. Я понимаю, что на практике эти корреляции настолько малы (в большинстве случаев «всегда»), что их можно игнорировать при проверке, получены ли остатки от нормального распределения. У меня вопрос, почему?

regression residuals non-independent

— Зоран Лонаревич
источник

Делает их гомоскедастиками.

— Scortchi - Восстановить Монику

Вы спрашиваете о применимости этих тестов, когда остатки имеют сильные корреляции, или вы просто обеспокоены (очень слабой и несущественной) отрицательной корреляцией, возникающей в результате процедуры наименьших квадратов?

— whuber

@whuber Я спрашиваю о корреляции, возникающей из процедуры наименьших квадратов Если они незначительные и несущественные, я хотел бы знать, почему.

— Зоран Лонаревич

$H$ $X$ $M:=I_{n}-H$

$X\in\mathbb{R}^{n\times k}$ $\hat{e}\in\mathbb{R}^{n}$

$\varepsilon$ $X$ $\varepsilon\perp\operatorname{span}\left(X\right)$ $y=X\beta+\varepsilon=\tilde{y}+\varepsilon$ $\tilde{y}\perp\varepsilon$ $\tilde{y}=X\beta\in\operatorname{span}\left(X\right)$ $y$ $\varepsilon$

$b_{1},\ldots,b_{n}$ $\mathbb{R}^{n}$ $b_{1},\ldots,b_{k}$ $\operatorname{span}\left(X\right)$ $b_{k+1},\ldots,b_{n}$ $\operatorname{span}\left(X\right)^{\perp}$ $\varepsilon=\alpha_{1}b_{1}+\ldots+\alpha_{n}b_{n}$ $\alpha_{i}$ $i\in\left\{1,\ldots,k\right\}$ $X\beta$ $\operatorname{span}\left(X\right)$

$\varepsilon$ $\hat{e}$ $n$ $\hat{e}\in\mathbb{R}^{n}\mapsto e^{*}\in\mathbb{R}^{n-k}$

e^{*} \sim N_{n - k} (0, σ^{2} I_{n - k}),

$\begin{equation} e^{*}\sim\mathcal{N}_{n-k}\left(0,\sigma^{2}I_{n-k}\right) \textrm{,} \end{equation}$

e^{*}

$e^{*}$

e^{*}

$e^{*}$

В короткой статье «Проверка регрессионных возмущений на нормальность» вы найдете сравнение остатков OLS и BLUS. В тестируемой установке Монте-Карло остатки OLS превосходят остатки BLUS. Но это должно дать вам некоторую отправную точку.

— Марко Брайтиг
источник