Как байесовская достаточность связана с достаточной частотой?

9

Простейшее определение достаточной статистики в частой перспективе дано здесь, в Википедии . Однако недавно я наткнулся на книгу Байеса с определением . В ссылке указано, что оба они эквивалентны, но я не понимаю, как это сделать. Также на той же странице в разделе «Другие типы достаточности» указано, что оба определения не эквивалентны в бесконечномерных пространствах ... $P(\theta|x,t)=P(\theta|t)$

Кроме того, как прогностическая достаточность относится к классической достаточности?

bayesian mathematical-statistics sufficient-statistics

— Старик в море.
источник

4

Если статистика достаточна в пути частотная, то , так что $T$ $p(\mathbf{x} \mid \theta, t) = p(\mathbf{x} \mid t)$

\begin{aligned} p (θ ∣ x, t) & = \frac{p (x ∣ t, θ) p (t ∣ θ) p (θ)}{p (x ∣ t) p (t)} \\ (freq. suff.) & = \frac{p (t ∣ θ) p (θ)}{p (t)} \\ = p (θ ∣ t) . \end{aligned}

$\begin{align*} p(\theta \mid \mathbf{x}, t) &= \frac{p(\mathbf{x}\mid t,\theta)p(t \mid \theta) p(\theta)}{p(\mathbf{x}\mid t)p(t)} \\ &= \frac{p(t \mid \theta) p(\theta)}{p(t)} \tag{freq. suff.}\\ &= p(\theta \mid t). \end{align*}$

$T$

\begin{aligned} p (x ∣ θ, t) & = \frac{p (x, θ, t)}{p (θ, t)} \\ = \frac{p (θ ∣ x, t) p (x, t)}{p (θ ∣ t) p (t)} \\ (Bayesian suff.) & = \frac{p (x, t)}{p (t)} \\ = p (x ∣ t) . \end{aligned}

$\begin{align*} p(\mathbf{x} \mid \theta, t) &= \frac{p(\mathbf{x}, \theta,t)}{p(\theta,t)}\\ &= \frac{p(\theta \mid \mathbf{x},t) p(\mathbf{x},t)}{p(\theta\mid t)p(t)}\\ &= \frac{p(\mathbf{x},t)}{p(t)} \tag{Bayesian suff.}\\ &= p(\mathbf{x} \mid t). \end{align*}$

Что касается «предсказательной достаточности», что это?

\begin{aligned} p (x^{'} ∣ x) & = \int p (x^{'} ∣ θ) p (θ ∣ x) d θ \\ (Bayesian suff.) & = \int p (x^{'} ∣ θ) p (θ ∣ t) d θ \\ = p (x^{'} ∣ t) . \end{aligned}

$\begin{align*} p(\mathbf{x}' \mid \mathbf{x}) &= \int p(\mathbf{x}' \mid \theta)p(\theta \mid \mathbf{x}) d\theta\\ &= \int p(\mathbf{x}' \mid \theta) p(\theta \mid t)d\theta \tag{Bayesian suff.}\\ &= p(\mathbf{x}' \mid t). \end{align*}$

— Тейлор
источник

1

Тейлор, это определено по той же ссылке, прямо ниже, в разделе байесовской достаточности.

— Старик в море.

3

Мы столкнулись с интересным явлением несколько лет назад , когда исследовали выбор байесовской модели с помощью ABC. Что, я думаю, связано с этим вопросом. Действительно, существует понятие достаточности для выбора байесовской модели, которое не кажется особенно значимым вне байесовского подхода.

M_{1} = {f_{θ} (\cdot); θ \in Θ}

$\mathfrak{M}_1=\{f_\theta(\cdot); \theta\in\Theta\}$

M_{2} = {g_{ξ} (\cdot); ξ \in Ξ}

$\mathfrak{M}_2=\{g_\xi(\cdot); \xi\in\Xi\}$

x = (x_{1}, \dots, x_{n})

$\mathbf{x}=(x_1,\ldots,x_n)$

S

$S$

X

$\mathbf{X}$

S (X)

$S(\mathbf{X})$

$\mathbf{X}$ $S(\mathbf{X})$

— Сиань
источник