Есть ли вероятность больше, чем байесовский?

Будучи студентом-физиком, я читал лекцию «Почему я байесовский», наверное, полдюжины раз. Это всегда одно и то же - ведущий самодовольно объясняет, как байесовская интерпретация превосходит частую интерпретацию, предположительно используемую массами. Они упоминают правило Байеса, маргинализацию, приоры и постеры.

Какая настоящая история?

Существует ли законная область применимости для статистики частых пользователей? (Конечно, при пробоотборе или броске матрицы много раз это должно применяться?)

Существуют ли полезные вероятностные философии помимо «байесовской» и «частой»?

Байесовская интерпретация вероятности достаточна для практических целей. Но даже с учетом байесовской интерпретации вероятности статистика представляет собой нечто большее, чем вероятность , потому что основой статистики является теория принятия решений, а теория принятия решений требует не только класса вероятностных моделей, но и определения критериев оптимальности для правила принятия решений. В соответствии с байесовскими критериями оптимальные правила принятия решений могут быть получены с помощью правила Байеса; но многие частые методы оправданы минимаксом и другими критериями принятия решения.

«Байесовский» и «частый» не являются «вероятностными философиями». Это школы статистической мысли и практики, занимающиеся в основном количественной оценкой неопределенности и принятием решений, хотя они часто связаны с конкретными интерпретациями вероятности. Вероятно, наиболее распространенным восприятием, хотя оно и неполное, является восприятие вероятности как субъективной количественной оценки убеждений по сравнению с вероятностями как долгосрочных частот. Но даже они не являются взаимоисключающими. И вы можете не знать об этом, но есть общепризнанные байесовцы, которые не согласны с конкретными философскими вопросами о вероятности.

Байесовская статистика и статистика по частоте также не являются ортогональными. Похоже, что «частый» означает «не байесовский», но это неверно. Например, совершенно разумно задавать вопросы о свойствах байесовских оценок и доверительных интервалах при повторном отборе проб. Это ложная дихотомия, увековеченная, по крайней мере частично, отсутствием общего определения терминов Байесовский и частый (нам, статистикам, некого винить в этом, кроме нас самих).

Для забавного, точного и вдумчивого обсуждения я бы предложил «Возражения против байесовской статистики» Гельмана, комментарии и реплику, доступные здесь:

http://ba.stat.cmu.edu/vol03is03.php

Существует даже некоторое обсуждение доверительных интервалов в физике IIRC. Для более глубокого обсуждения вы можете вернуться к ссылкам в них. Если вы хотите понять принципы, лежащие в основе байесовского вывода, я бы предложил книгу Бернандо и Смита, но есть много других хороших ссылок.

Взгляните на эту статью Космы Шализи и Эндрю Гельмана о философии и байесианстве. Гельман - выдающийся байесовец, а Шализи - частик!

Взгляните также на эту короткую критику Шализи, где он указывает на необходимость проверки моделей и высмеивает аргумент голландской книги, используемый некоторыми байесовцами.

И последнее, но не менее важное: я думаю, что, поскольку вы физик, вам может понравиться этот текст , где автор указывает на «вычислительную теорию обучения» (о которой я вообще ничего не знаю), которая могла бы стать альтернативой байесовскому подходу. Насколько я понимаю (не сильно).

ps .: Если вы переходите по ссылкам, особенно по последней, и имеете мнение о тексте (и обсуждениях, которые следовали за текстом в блоге автора )

Пс.2: Моя собственная точка зрения на это: Забудьте о проблеме объективной и субъективной вероятности, принципе вероятности и аргументе о необходимости быть связным. Байесовские методы хороши, когда они позволяют вам хорошо смоделировать вашу проблему (например, используя предварительное, чтобы индуцировать унимодальный апостериор, когда есть бимодальная вероятность и т. Д.), И то же самое относится к методам частых исследований. Кроме того, забудьте о проблемах с p-значением. Я имею в виду, р-значение - отстой, но в конце концов они являются мерой неопределенности, в духе того, как об этом думал Фишер.

Для меня важная вещь в байесовском подходе состоит в том, что он рассматривает вероятность как имеющую то же значение, которое мы интуитивно применяем в повседневной жизни, а именно степень правдоподобности истинности суждения. Очень немногие из нас действительно используют вероятность для обозначения строго долгосрочной частоты в повседневном использовании, хотя бы потому, что нас часто интересуют конкретные события, которые не имеют долгосрочной частоты, например, какова вероятность того, что выбросы ископаемого топлива вызывают значительные изменения климата ? По этой причине байесовская статистика гораздо менее склонна к неправильной интерпретации, чем статистика по частоте.

Байесианизм также имеет маргинализацию, априорные, максимальные, трансформационные группы и т. Д., Которые все имеют свое применение, но для меня ключевое преимущество заключается в том, что определение вероятности более подходит для тех проблем, которые я хочу решать.

Это не делает байесовскую статистику лучше, чем статистика частых. Мне кажется, что статистические данные часто подходят для проблем контроля качества (когда вы проводите повторную выборку из групп населения) или для проведения экспериментов, а не для анализа предварительно собранных данных (хотя это выходит за рамки моего опыта, поэтому это просто интуиция).

Как инженер, это вопрос «лошадей для курсов», и у меня в наборе инструментов есть оба набора инструментов, и я использую оба на регулярной основе.

Есть небайезианская система или философии вероятности - Бэкон и Pascalian, например , если вы в эпистемологию и философию науки вы можете наслаждаться дебатами - в противном случае, вы будете трясти голову и сделать вывод , что на самом деле интерпретация байесовской является все есть.

Для хороших обсуждений,

• Коэн, Л.Дж. Введение в философию индукции и вероятности (Кларендон Пресс; Оксфорд Юниверсити Пресс, Оксфорд Нью Йорк, 1989)
• Шум, Д. А. Доказательные основы вероятностных рассуждений, (Wiley, Нью-Йорк, 1994).