Что является / является неявным приоритетом в статистике частых посещений?

Я слышал, что Джейнс утверждает, что часто работающие работают с «неявным априором».

Каковы или являются эти неявные приоры? Означает ли это, что модели для частых - все это особые случаи байесовских моделей, которые ждут своего появления?

В теории принятия частых решений существуют полные результаты класса, которые характеризуют допустимые процедуры как байесовские процедуры или как пределы байесовских процедур. Например, необходимое и достаточное условие Штейна (Stein. 1955; Farrell, 1968b) гласит, что при следующих допущениях

1. плотность выборки непрерывна в и строго положительна на ; иθ $f(x|\theta)$$\theta$$\Theta$
2. функция потерь строго выпуклая, непрерывная и, если компактно,$L$$E\subset\Theta$ $$\lim_{\|\delta\|\rightarrow +\infty} \inf_{\theta\in E}L(\theta,\delta) =+\infty.$$

оценка допустима тогда и только тогда, когда существует$\delta$

• последовательность возрастающих компактов, такая что ,$(F_n)$$\Theta=\bigcup_n F_n$
• последовательность конечных мер с поддержкой , и$(\pi_n)$$F_n$

• последовательность байесовских оценок, связанных с такая, что$(\delta_n)$$\pi_n$

  1. существует компакт такой что$E_0\subset \Theta$$\inf_n \pi_n(E_0) \ge 1$
  2. если компактно,$E\subset \Theta$$\sup_n \pi_n(E) <+\infty$
  3. $\lim_n r(\pi_n,\delta)-r(\pi_n) = 0$ и
  4. $\lim_n R(\theta,\delta_n)= R(\theta,\delta)$ .

[воспроизведено из моей книги « Байесовский выбор» , теорема 8.3.0, с.407]

В этом ограниченном смысле частое свойство допустимости наделено байесовским фоном, следовательно, ассоциируется неявный априор (или его последовательность) с каждым допустимым оценщиком.

Примечание: 25 ноября Чарльз Стейн скончался в Пало-Альто, штат Калифорния. Ему было 96 лет.

Существует аналогичный (если математически вовлеченный) результат для инвариантной или эквивариантной оценки, а именно, что лучшим эквивариантным оценщиком является оценка Байеса для каждой транзитивной группы, действующей на статистической модели, связанной с правильной индуцированной мерой Хаара, , индуцированной на этой группой и соответствующей инвариантной потерей. См. Pitman (1939), Stein (1964) или Zidek (1969) для получения подробной информации. Это, скорее всего, то, что имел в виду Джейнс , когда он решительно спорил о разрешении парадоксов маргинализации с помощью принципов инвариантности .$\pi^*$$\Theta$

Кроме того, как подробно описано в ответе civilstat , другое частое понятие оптимальности, а именно минимаксности, также связано с байесовскими процедурами в том смысле, что минимаксная процедура, минимизирующая максимальную ошибку (в пространстве параметров), часто является процедурой maximin, которая максимизирует минимальную ошибку ( по всем предыдущим распределениям), следовательно, является байесовской или лимитной байесовской процедурой (процедурами).

В .: Есть ли содержательный вынос, который я могу использовать, чтобы передать свою байесовскую интуицию частым моделям?

Во-первых, я бы избегал использования термина «модель частых лиц», поскольку существуют модели выборки (данные представляют собой реализацию для значения параметра )$x$$X\sim f(x|\theta)$$\theta$ и процедуры частых процедур (лучшая объективная оценка, минимум доверительный интервал отклонений и т. д.)Во-вторых, я не вижу убедительной методологической или теоретической причины для того, чтобы рассматривать методы частых исследований как пограничные или ограничивающие методы Байеса. Обоснование частой процедуре, когда она существует, состоит в удовлетворении некоторого свойства оптимальности в пространстве выборки, то есть при повторении наблюдений. Основное обоснование байесовских процедур должно быть оптимальным [по определенному критерию или функции потерь] с учетом предварительного распределения и одной реализации из модели выборки. Иногда, в результате чего процедура , удовлетворяют некоторое свойство частотного ( заслуживающего доверие региона% является доверительной областью%)$95$$95$ , но это случайность в том , что эта оптимальность не переносит все процедуры , связанные с байесовской моделью.

@ Сиань ответ более полный. Но так как вы также попросили емкую еду на вынос, вот один. (Концепции, которые я упоминаю, не совсем совпадают с приведенными выше настройками допустимости.)

Частые пользователи часто (но не всегда) любят использовать оценки, которые являются «минимаксными»: если я хочу оценить , риск худшего случая моего оценщика должен быть лучше, чем риск худшего случая любого другого оценщика , Оказывается, MLE часто (приблизительно) минимаксны. Смотрите подробности, например, здесь или здесь .$\theta$$\hat{\theta}$

Чтобы найти минимаксную оценку для задачи, один из способов - на мгновение подумать о байесовском и найти «наименее благоприятный априор» . Это первоисточник, чей байесовский оценщик имеет более высокий средний риск, чем любой другой априорный оценщик Байеса. Если вы можете найти его, то оказывается, что оценка Байеса 'является минимаксной.$\pi$$\pi$

В этом смысле вы могли бы вкратце сказать: «Частотник с минимаксным использованием» подобен байесовскому, который выбрал (точечная оценка на основе) наименее благоприятный априор.

Может быть, вы могли бы растянуть это, чтобы сказать: такой часто встречающийся является консервативным байесовским, выбирая не субъективные приоры или даже неинформативные приоры, но (в этом конкретном смысле) наихудшие приоры.

И наконец, как уже говорили другие, сравнивать фрекалистов и байесовцев довольно сложно. Быть частым не обязательно означает, что вы используете определенную оценку. Это просто означает, что вы задаете вопросы о свойствах выборки вашего оценщика, тогда как эти вопросы не являются главным приоритетом Байеса. (Таким образом, любой байесовец, который надеется на хорошие свойства выборки, например, «откалиброванный байесовский» , также является Frequentist.)
Даже если вы определяете Frequentist как тот, чьи оценки всегда имеют оптимальные свойства выборки, таких свойств много, и вы не можете всегда встретить их всех сразу. Поэтому сложно говорить вообще о «всех моделях Frequentist».