Могу ли я изменить распределение предложений в MH MCMC с произвольным обходом, не затрагивая марковианство?

14

Случайная прогулка Метрополис-Хаситингс с симметричным предложением

$q(x|y)= g(|y-x|)$ обладает свойством вероятности принятия

P (a c c e p t y) = min {1, f (y) / f (x)}

$P(accept\ y) = \min\{1, f(y)/f(x)\}$

не зависит от предложения $g(\cdot)$ .

Означает ли это, что я могу изменить $g(\cdot)$ как функцию предыдущей производительности цепочки, не влияя на марковитость цепочки?

Особый интерес для меня представляет корректировка масштабирования нормального предложения в зависимости от уровня принятия.

Также был бы очень признателен, если бы кто-то мог указать на алгоритмы адаптации, используемые на практике для такого типа проблем.

Большое спасибо.

[edit: Начиная со ссылок, данных Роберци и Воком, я нашел следующие ссылки на адаптивные алгоритмы MH:

Андрие, Кристоф и Эрик Мулен. 2006.
О свойствах эргодичности некоторых адаптивных алгоритмов MCMC. Анналы прикладной вероятности 16, нет. 3: 1462-1505. http://www.jstor.org/stable/25442804 .

Андрие, Кристоф и Йоханнес Томс.
2008. Учебное пособие по адаптивной MCMC. Статистика и вычисления 18, нет. 4 (12): 343-373. DOI: 10.1007 / s11222-008-9110-у. http://www.springerlink.com/content/979087678366r78v/ .

Atchadé, Y., G. Fort, E. Moulines, P. Priouret. 2009.
Адаптивная цепь Маркова Монте-Карло: теория и методы. Препринт.

Ачаде, Ив. 2010.
Предельные теоремы для некоторых адаптивных алгоритмов MCMC с субгеометрическими ядрами. Бернулли 16, нет. 1 (февраль): 116-154. DOI: 10.3150 / 09-BEJ199. http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record .

Каппе О., С. Дж. Годсилл и Э. Мулен. 2007.
Обзор существующих методов и последних достижений в последовательном Монте-Карло. Труды IEEE 95, нет. 5: 899-924.

Джордани, Паоло. 2010.
Адаптивный независимый мегаполис – Гастингс по быстрой оценке смесей нормалей. Журнал вычислительной и графической статистики 19, нет. 2 (6): 243-259. DOI: 10,1198 / jcgs.2009.07174. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174 .

Латушинский, Кшиштоф, Гарет О Робертс и Джеффри С. Розенталь. 2011.
Адаптивные пробоотборники Гиббса и родственные методы MCMC. 1101.5838 (30 января). http://arxiv.org/abs/1101.5838 .

Pasarica, C. и A. Gelman. 2009.
Адаптивное масштабирование алгоритма Метрополиса с использованием ожидаемого квадрата пройденного расстояния. Statistica Sinica.

Робертс, Гарет О. 2009.
Примеры адаптивного MCMC. Журнал вычислительной и графической статистики 18, нет. 2 (6): 349-367. DOI: 10,1198 / jcgs.2009.06134. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134 .

]

mcmc metropolis-hastings

— Vitoshka
источник

Почему у вас нет +100 бонуса от вашей записи SO?

@mbq, вероятно, потому что я создал эту учетную запись давным-давно, когда мне было 0 на ОС ... жаль, 100 на CW выглядит большим делом, так как вы должны быть настоящим парнем, чтобы отвечать на вопросы здесь :)

— VitoshKa

Вы можете получить бонус, очистив все ассоциации, а затем снова связав аккаунты.

— Вок

7

Я думаю, что эта статья от Heikki Haario et al. даст вам ответ, который вам нужен. На маркованность цепочки влияет адаптация плотности предложения, потому что тогда новое предложенное значение зависит не только от предыдущего, но и от всей цепочки. Но кажется, что последовательность все еще имеет хорошие свойства, если проявлять большую осторожность.

— robertsy
источник

спасибо роберцы, за хорошую справку. действительно процесс не марковский. Даже если вероятность принятия не зависит от прошлого, ядро перехода процесса является функцией плотности предложения и, таким образом, зависит от всей цепочки.

— ВитошКа

3

Вы можете улучшить коэффициент принятия, используя отложенное отклонение, как описано в Tierney, Mira (1999) . Он основан на второй функции предложения и второй вероятности принятия , которая гарантирует, что цепь Маркова все еще обратима с тем же инвариантным распределением: нужно быть осторожным, поскольку « легко создать адаптивные методы, которые могут показаться работающими, но на самом деле образец из неправильного распределения ".

— котелок с выпуклым днищем
источник

3

Подходы, предложенные пользователями wok и robertsy, охватывают наиболее часто цитируемые примеры того, что вы ищете, о которых я знаю. Чтобы расширить эти ответы, Хаарио и Мира в 2006 году написали статью, в которой сочетаются два подхода - подход, который они называют DRAM (адаптивный метрополис с отложенным отклонением) .

Андриу хорошо рассматривает различные подходы адаптивного MCMC (pdf), который охватывает Haario 2001, но также обсуждает различные альтернативы, которые были предложены в последние годы.

— redmoskito
источник

1

Это немного постыдный плагин моей публикации, но мы делаем именно это в этой работе ( arxiv ). Среди прочего, мы предлагаем адаптировать дисперсию экспоненциального распределения для улучшения принятия (шаг S3.2 в алгоритме в статье).

$f \rightarrow 1$

Мы не используем информацию о скорости приемки, но получаем прием, не зависящий от интересующей нас величины (эквивалент энергии спиновой системы, справа внизу на рис. 4).

— Хорхе Лейтао
источник