Почему байесовский не может посмотреть на остатки?

В статье «Дискуссия: должны ли экологи стать байесовцами?» Брайан Деннис дает удивительно сбалансированный и позитивный взгляд на байесовскую статистику, когда его цель, похоже, состоит в том, чтобы предупредить людей об этом. Тем не менее, в одном абзаце, без каких-либо ссылок или оправданий, он говорит:

Понимаете, байесовцам не разрешено смотреть на их остатки. Это нарушает принцип вероятности, чтобы судить о результате по степени его предельности. Для байесовцев нет плохих моделей, только плохие убеждения.

Почему бы байесовцу не было позволено посмотреть на остатки? Какова была бы соответствующая цитата для этого (то есть, кого он цитирует)?

Деннис Б.
Обсуждение: должны ли экологи стать байесовскими?
Экологические Приложения, Экологическое общество Америки , 1996 , 6, 1095-1103

Конечно байесовцы могут посмотреть на остатки! И, конечно, в байесовском анализе есть плохие модели. Может быть, несколько байесов в 70-х поддержали подобные взгляды (и я сомневаюсь в этом), но вы вряд ли найдете какой-нибудь байесовский, поддерживающий эту точку зрения в наши дни.

Я не читал текст, но байесовцы используют такие вещи, как байесовские факторы, для сравнения моделей. На самом деле, байесовский может даже вычислить вероятность того, что модель верна, и выбрать модель, которая с большей вероятностью будет верна. Или байесовский может усреднить по моделям, чтобы получить лучшую модель. Или можете использовать последующие прогностические проверки. Существует множество вариантов проверки модели, и каждый может предпочесть тот или иной подход, но говорить, что в байесовском анализе нет плохих моделей, не имеет смысла.

Так что, самое большее, было бы более уместно сказать, что в некоторых экстремальных версиях байесовского подхода (кстати, в экстремальных версиях, которые почти никто не использует в прикладных настройках), вам не разрешается проверять вашу модель. Но чем вы могли бы сказать, что в некоторых крайних версиях частоты вы не можете использовать данные наблюдений. Но зачем тратить время на обсуждение этих глупых вещей, когда мы можем обсуждать, если и когда, в прикладной обстановке, мы должны использовать байесовские или частые методы или что-то еще? Вот что важно, по моему скромному мнению.

Обновление: ОП попросил дать ссылку на кого-то, кто выступает за экстремальную версию Байеса. Поскольку я никогда не читал экстремальных версий Байеса, я не могу предоставить эту ссылку. Но я думаю, что Savage может быть такой ссылкой. Я никогда не читаю ничего написанного им, поэтому я могу ошибаться.

пс .: Подумайте о проблеме «хорошо откалиброванного байесовского» ( Dawid (1982), JASA , 77 , 379 ). Последовательный субъективист Байесовский прогнозист не может быть откалиброван, и поэтому не будет пересматривать его модель / прогнозы, несмотря на какие-либо неопровержимые доказательства того, что он не откалиброван. Но я не думаю, что кто-то на практике может претендовать на такую ​​связность. Таким образом, обзор модели важен.

PS2 .: Мне нравится эта статья Эфрона . Полная ссылка: Эфрон, Брэдли (2005). «Байесовцы, частые и ученые». Журнал Американской статистической ассоциации 100 (469).

Они могут смотреть, но не трогать. В конце концов, остатки являются частью данных, которые не несут никакой информации о параметрах модели, и их априор выражает всю неопределенность относительно них - они не могут изменить априор в зависимости от того, что они видят в данных.

Например, предположим, что вы подходите по гауссовой модели, но обратите внимание на слишком большой эксцесс в остатках. Возможно, вашей предыдущей гипотезой должно было быть t-распределение с ненулевой вероятностью на низких степенях свободы, но это не так - это было фактически t-распределение с нулевой вероятностью везде, кроме бесконечных степеней свободы. Ничто в вероятности не может привести к ненулевым вероятностям в областях задней плотности, где предыдущая плотность равна нулю. Таким образом, понятие постоянного обновления априоров, основанных на вероятностях из данных, не работает, когда первоначальный априор указан неверно.

Конечно, если вы воспользуетесь «проверкой байесовской модели», вы увидите, что это пародия на настоящую байесовскую практику; тем не менее, он представляет собой нечто вроде аргументов типа логики науки о превосходстве байесовства по философским соображениям. Блог Эндрю Гельмана интересен на эту тему.