Нужно ли придерживаться принципа вероятности быть байесовским?

Этот вопрос вытекает из вопроса: когда (если вообще когда-либо) частотный подход существенно лучше, чем байесовский?

Как я уже писал в своем решении этого вопроса, по моему мнению, если вы являетесь частым участником, вам не нужно верить / придерживаться принципа вероятности, так как часто методы, применяемые частыми пользователями, будут его нарушать. Однако, и это обычно при условии правильных априорных значений, байесовские методы никогда не нарушают принцип правдоподобия.

Итак, теперь, если вы говорите, что вы байесовец, это подтверждает вашу веру или согласие с принципом правдоподобия, или аргумент, что байесовский ответ имеет приятное следствие, что принцип правдоподобия не нарушается?

bayesian likelihood likelihood-principle

— RustyStatistician
источник

Нет - см. Джеффриса до. Байесовские методы могут нарушать (сильный) принцип правдоподобия.

— Scortchi - Восстановить Монику

Да, действительно, приоры Джеффриса, а также решения, которые используют данные несколько раз как апостериорные предикторы, нарушают принцип правдоподобия, но все еще могут считаться байесовскими ...

— Сиань,

Не обязательно. И я не уверен, какая разница.

— Scortchi - Восстановить Монику

Сравните их для биномиального и отрицательного бинома.

— Scortchi - Восстановить Монику

xianblog.wordpress.com/2014/11/13/…

— Scortchi - Восстановить Монику

При использовании теоремы Байеса для вычисления апостериорных вероятностей, которые составляют вывод о параметрах модели, принцип слабого правдоподобия автоматически соблюдается:

п о s T е р я о р α п р я о р \times L я К е L я час о о d

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Тем не менее, в некоторых объективных байесовских подходах схема выборки определяет выбор априора, мотивируя это тем, что неинформативный априор должен максимизировать расхождение между априорным и апостериорным распределением, позволяя данным оказывать как можно большее влияние. Таким образом, они нарушают принцип сильного правдоподобия.

Например, априорные значения Джеффриса пропорциональны квадратному корню из детерминанта информации Фишера, ожиданию в пространстве выборки. Рассмотрим вывод о параметре вероятности $\pi$

\begin{aligned} \Pr_{N В} (π) & α π^{- 1} (1 - π)^{- \frac{1}{2}} \\ \Pr_{В я N} (π) & α π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

$x$ $n$

\begin{aligned} \Pr_{N В} (π | Икс, N) ~ В е T a (Икс, N - Икс + \frac{1}{2}) \\ \Pr_{В я N} (π | Икс, N) ~ В е T a (Икс + \frac{1}{2}, N - Икс + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Таким образом, наблюдение, скажем, 1 успех из 10 испытаний приведет к совершенно разным апостериорным распределениям по двум схемам выборки:

Хотя следование таким правилам для получения неинформативных априоров иногда может привести к неправильным априорам, что само по себе не является корнем нарушения принципа правдоподобия, вызванного практикой. Приближение к Джеффрису, $\pi^{-1+c} (1-\pi)^{-1/2}$ , где $0 < c\ll 1$ , вполне правильно, & имеет незначительное значение для задней.

Вы также можете рассматривать проверку моделей - или делать что-либо в результате проверок - как противоречащие принципу слабого правдоподобия; вопиющий случай использования вспомогательной части данных.

— Scortchi - Восстановить Монику
источник