Как рассчитать интервал прогнозирования для множественной регрессии МНК?

Что такое алгебраическая запись для вычисления интервала прогнозирования множественной регрессии?

Это звучит глупо, но у меня возникают проблемы с нахождением четкой алгебраической записи этого.

multiple-regression least-squares prediction-interval

Возьмем регрессионную модель с наблюдениями и регрессорами: $N$ $k$

y = X β + u

$\mathbf{y=X\beta+u} \newcommand{\Var}{\rm Var}$

Для данного вектора $\mathbf{x_0}$ прогнозируемое значение для этого наблюдения будет

E [y | x_{0}] = {\hat{y}}_{0} = x_{0} \hat{β} .

$E[y \vert \mathbf{x_0}]=\hat y_0 = \mathbf{x_0} \hat \beta.$ Последовательная оценка дисперсии этого предсказания:

{\hat{V}}_{p} = s^{2} \cdot x_{0} \cdot (X^{'} X)^{- 1} x_{0}^{'},

$\hat V_p=s^2 \cdot \mathbf{x_0} \cdot(\mathbf{X'X})^{-1}\mathbf{x'_0},$ где

s^{2} = \frac{Σ_{i = 1}^{N} {\hat{u}}_{i}^{2}}{N - k} .

$s^2=\frac{\Sigma_{i=1}^{N} \hat u_i^2}{N-k}.$ Ошибка прогноза для конкретного

y_{0}

$y_0$ :

\hat{e} = y_{0} - {\hat{y}}_{0} = x_{0} β + u_{0} - {\hat{y}}_{0} .

$\hat e=y_0-\hat y_0=\mathbf{x_0}\beta+u_0-\hat y_0.$ Нулевая ковариация между

u_{0}

$u_0$ и

\hat{β}

$\hat \beta$ подразумевает, что

V a r [\hat{e}] = V a r [{\hat{y}}_{0}] + V a r [u_{0}],

$\Var[\hat e]=\Var[\hat y_0]+\Var[u_0],$ и непротиворечивая оценка этого

{\hat{V}}_{f} = s^{2} \cdot x_{0} \cdot (X^{'} X)^{- 1} x_{0}^{'} + s^{2} .

$\hat V_f=s^2 \cdot \mathbf{x_0} \cdot(\mathbf{X'X})^{-1}\mathbf{x'_0} + s^2.$

$1-\alpha$ $\rm confidence$ интервал будет:

y_{0} \pm t_{1 - α / 2} \cdot \sqrt{{\hat{V}}_{p}} .

$y_0 \pm t_{1-\alpha/2}\cdot \sqrt{\hat V_{p}}.$

1 - α

$1-\alpha$

p r e d i c t i o n

$\rm prediction$ интервал будет шире:

y_{0} \pm t_{1 - α / 2} \cdot \sqrt{{\hat{V}}_{f}} .

$y_0 \pm t_{1-\alpha/2}\cdot \sqrt{\hat V_{f}}.$

— Димитрий Васильевич Мастеров
источник

Ответ выше очень хорошо сделан, но я думаю, что этот источник помогает обеспечить некоторый контекст для вопроса.

— Июнь Скитер

@Dimitriy Я полагаю, что у вашего второго eqn должна быть морковь / шляпа, '^', над .

β

$\beta$

— Дон Словик

Не является ли ошибка прогноза остаточной: ?

\hat{e} = \hat{u}

$\hat{e}=\hat{u}$

— Дон Словик