Выборочное распределение коэффициентов регрессии

Ранее я узнал о распределениях выборки, которые дали результаты, которые были для оценки, с точки зрения неизвестного параметра. Например, для выборочных распределений и в модели линейной регрессии $\hat\beta_0$ $\hat\beta_1$ $Y_i = \beta_o + \beta_1 X_i + \varepsilon_i$

{\hat{β}}_{0} \sim N (β_{0}, σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}}))

$\hat{\beta}_0 \sim \mathcal N \left(\beta_0,~\sigma^2\left(\frac{1}{n}+\frac{\bar{x}^2}{S_{xx}}\right)\right)$ и

{\hat{β}}_{1} ~ N (β_{1}, \frac{σ^{2}}{S_{Икс Икс}})

$\hat{\beta}_1 \sim \mathcal N \left(\beta_1,~\frac{\sigma^2}{S_{xx}}\right)$

где $S_{xx} = \sum_{i=1}^n (x_i^2) -n \bar{x}^2$

Но теперь я увидел в книге следующее :

Предположим, мы подгоняем модель по методу наименьших квадратов обычным способом. Рассмотрим байесовское апостериорное распределение и выберите приоры так, чтобы это было эквивалентно обычному распределению выборки по частоте, то есть ......

$(\begin{matrix} β_{0} \\ β_{1} \end{matrix}) ~ N_{2} [(\begin{matrix} {\hat{β}}_{1} \\ {\hat{β}}_{2} \end{matrix}), {\hat{σ}}^{2} {(\begin{matrix} N & Σ_{я знак равно 1}^{N} {Икс}_{я} \\ Σ_{я знак равно 1}^{N} {Икс}_{я} & Σ_{я знак равно 1}^{N} {Икс}_{я}^{2} \end{matrix})}^{- 1}]$ $\left( \begin{matrix} \beta_0 \\ \beta_1 \end{matrix} \right) \sim \mathcal N_2\left[\left(\begin{matrix} \hat{\beta}_1 \\ \hat{\beta}_2 \end{matrix} \right),~\hat{\sigma}^2 \left(\begin{matrix} n & \sum_{i=1}^{n}x_i \\ \sum_{i=1}^{n}x_i & \sum_{i=1}^{n}x_i^2 \end{matrix} \right) ^{-1}\right]$

Это смущает меня, потому что:

Почему оценки появляются в левой части (lhs) первых 2 выражений и в правой части (rhs) последнего выражения?
Почему бета-шапки в последнем выражении имеют 1 и 2 подписки вместо 0 и 1?
Это просто разные представления одного и того же? Если они есть, кто-то может показать мои, как они эквивалентны? Если нет, может кто-нибудь объяснить разницу?
Это тот случай, когда последнее выражение является «инверсией» первых двух? Поэтому матрица 2x2 в последнем выражении инвертируется, а оценки / параметры переключаются с rhs lhs? Если так, может кто-нибудь показать мне, как добраться от одного к другим? $\leftrightarrow$

— Джо Кинг
источник

Эта часть в первую очередь относится к вашему первому, третьему и четвертому вопросу:

Есть фундаментальная разница между байесовской статистикой и статистикой частых.

$\theta$

$P(\theta|\underline{x})$

Это приводит к тому, что вещи, которые часто выглядят одинаково, но где переменные в одном выглядят «неверно», смотрят сквозь призму другого мышления об этом.

Итак, по сути это несколько разные вещи, и тот факт, что вещи, которые находятся на LHS одного, находятся на RHS другого, не является случайностью.

Если вы поработаете с обоими, это скоро станет достаточно ясным.

Второй вопрос, как мне кажется, касается просто опечатки.

---

утверждение «эквивалентно обычному распределению выборки по частоте, то есть»: я понял, что авторы указали распределение выборки по частоте. Я прочитал это неправильно?

Там происходит две вещи - они выражают что-то немного вяло (люди все время делают это особенное чрезмерно свободное выражение), и я думаю, что вы также интерпретируете это иначе, чем намерение.

Что именно означает выражение, которое они дают?

Надеемся, что обсуждение ниже поможет прояснить предполагаемый смысл.

Если вы можете предоставить ссылку (предпочтительно онлайн, поскольку у меня нет хорошего доступа к библиотеке), где это выражение получено, я был бы признателен.

Отсюда следует прямо:

http://en.wikipedia.org/wiki/Bayesian_linear_regression

$\beta$ $\sigma^2$

Причина состоит в том, что апостериор, таким образом, пропорционален вероятности, и интервалы, сгенерированные из последующих значений параметров, соответствуют частым доверительным интервалам для параметров.

Вы можете также найти первые несколько страниц здесь полезными.

— Glen_b - Восстановить Монику
источник

Спасибо, это полезно. Я уже сделал небольшую байесовскую статистику. Я все еще несколько сбит с толку из-за утверждения «эквивалентно обычному распределению выборки по частоте, то есть» : я понял, что авторы заявляют о распределении выборки по частоте. Я прочитал это неправильно? Что именно означает выражение, которое они дают? Если вы можете предоставить ссылку (предпочтительно онлайн, поскольку у меня нет хорошего доступа к библиотеке), где это выражение получено, я был бы признателен.

— Джо Кинг,

Джо - см. Мое редактирование выше

— Glen_b