Разница между неинформативными и неподходящими приорами

Интересно, в чем разница между этими двумя видами приоры:

• Неинформативных
• неподходящий

Неправильными априорами являются конечные неотрицательные меры в пространстве параметров такие что Таким образом, они обобщают Понятие предварительного распределения, которое представляет собой распределение вероятностей в пространстве параметров такое что Они полезны в нескольких отношениях для характеристикид л & thetas ; ∫ & thetas ; d л ( θ ) = + ∞ & thetas ; ∫ & thetas ; d л ( θ ) = $\sigma$$\text{d}\pi$$\Theta$

$$\int_\Theta \text{d}\pi(\theta) = +\infty$$ $\Theta$ $$\int_\Theta \text{d}\pi(\theta) =1$$

1. набор пределов надлежащих байесовских процедур, которые не являются всеми надлежащими байесовскими процедурами;
2. частые оптимальные процедуры, такие как (допустимость) полные теоремы класса, такие как Вальда;
3. наиболее частые инвариантные оценки (поскольку они могут быть выражены в виде байесовских оценок при соответствующей правой мере Хаара, как правило, неправильной);
4. априоры, полученные из формы функции правдоподобия, такие как неинформативные априоры (например, Джеффриса).

Поскольку они не интегрируются в конечное число, они не допускают вероятностной интерпретации, но, тем не менее, могут использоваться в статистическом выводе, если предельное правдоподобие конечно поскольку заднее распределение тогда будет четко определен. Это означает, что он может использоваться точно так же, как используется апостериорное распределение, полученное из надлежащего априора, для получения апостериорных величин для оценки, таких как апостериорные средние или задние вероятные интервалы. л ( & thetas ; | х ) d π ( & thetas ;

$$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$$ $$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$$

Предупреждение: одна ветвь байесовского вывода не очень хорошо справляется с неправильными априорами, а именно, при проверке точных гипотез. Действительно, эти гипотезы требуют построения двух предыдущих распределений, одно при нулевом, а другое при альтернативном, которые являются ортогональными. Если один из этих априоров неправильный, он не может быть нормализован, и результирующий байесовский фактор не определен.

В байесовской теории принятия решений при поиске оптимальной процедуры принятия решения под функцией потерь неправильный предшествующий полезен в случаях, когда задача минимизации допускает нетривиальное решение (даже если апостериорное распределение не определено). Причина этого различия заключается в том, что решение зависит только от произведения , что означает, что оно является инвариантным относительно изменений множителей при условии, что функция потерь делится на одни и те же мультипликативные термины ,$\delta$$L(d,\theta)$$\text{d}\pi$

$$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$$ $L(d,\theta)\text{d}\pi(\theta)$$\varpi(\theta)$$\varpi(\theta)$ $$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$$

Неинформативные априорные значения - это классы (правильных или неправильных) предыдущих распределений, которые определяются в терминах определенного информационного критерия, который относится к функции вероятности, например

1. Недостаточная причина Лапласа плоская до;
2. Джеффрис (1939) инвариантные приоры;
3. максимальные энтропийные (или MaxEnt) априоры (Jaynes, 1957);
4. минимальная длина описания описания (Rissanen, 1987; Grünwald, 2005);
5. эталонные априоры (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
6. априорные вероятностные соответствия (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

и дополнительные занятия, некоторые из которых описаны в Kass & Wasserman (1995). Название неинформативный является неправильным в том смысле, что ни один из предшествующих не является полностью неинформативным. Смотрите мое обсуждение на этом форуме. Или Ларри Вассермана диатриба . (Неинформативные приоры чаще всего неправильные.)

Строго говоря, неинформативный априор не является априорным распределением. Эта функция такова, что, если мы рассмотрим ее так, как если бы она была распределением, и применили формулу Байеса, мы получим определенное апостериорное распределение, целью которого является максимально возможное отражение информации, содержащейся в данных и только в данных, или для достижения хорошего свойства соответствия часто встречающемуся (т. е. процентный вероятный интервал приблизительно равен доверительному интервалу).$95\%$$95\%$

Неинформативный априор часто является «неправильным». Распределение обладает хорошо известным свойством: его интеграл равен единице. Неинформативный априор называется неправильным, если его интеграл бесконечен (поэтому в таком случае ясно, что это не распределение).