Можно ли доверять адаптивному MCMC?

Я читаю об адаптивном MCMC (см., Например, главу 4 « Справочника цепи Маркова Монте-Карло» , изд. Brooks et al., 2011; а также Andrieu & Thoms, 2008 ).

Основной результат Roberts and Rosenthal (2007) состоит в том, что если схема адаптации удовлетворяет исчезающему условию адаптации (плюс некоторая другая техническая специфика), адаптивный MCMC является эргодическим для любой схемы. Например, исчезающая адаптация может быть легко получена путем адаптации оператора перехода на итерации с вероятностью , с .$n$$p(n)$$\lim_{n \rightarrow \infty} p(n) = 0$

Этот результат (апостериорный) интуитивен, асимптотически. Так как степень адаптации стремится к нулю, в конечном итоге она не испортит эргодичность. Меня беспокоит то, что происходит с ограниченным временем.

• Откуда мы знаем, что адаптация не мешает эргодичности в данный конечный момент времени, и что пробоотборник отбирает выборку из правильного распределения? Если это вообще имеет смысл, то сколько нужно сделать, чтобы ранняя адаптация не смещала цепи?

• У практиков в области доверия адаптивного MCMC? Причина, по которой я спрашиваю, состоит в том, что я видел много недавних методов, которые пытаются встроить адаптацию другими, более сложными способами, которые, как известно, уважают эргодичность, такими как методы регенерации или ансамбля (то есть, законно выбирать переход оператор, который зависит от состояния других параллельных цепей). В качестве альтернативы, адаптация выполняется только во время выгорания, например, в Stan , но не во время выполнения. Все эти усилия показывают мне, что адаптивный MCMC по Робертсу и Розенталю (что было бы невероятно просто реализовать) не считается надежным; но, возможно, есть и другие причины.

• Как насчет конкретных реализаций, таких как адаптивный Метрополис-Гастингс ( Haario et al. 2001 )?

Ссылки

• Розенталь, JS (2011). Оптимальное распределение предложений и адаптивный MCMC. Справочник Маркова Цепи Монте-Карло , 93-112.
• Andrieu, C. & Thoms, J. (2008) . Учебное пособие по адаптивной MCMC. Статистика и вычисления , 18 (4), 343-373.
• Робертс Г.О. и Розенталь Дж.С. (2007) . Связь и эргодичность алгоритмов алгоритма Монте-Карло адаптивных цепей Маркова. Журнал прикладной вероятности , 458-475.
• Haario, H., Saksman, E. & Tamminen, J. (2001) . Адаптивный алгоритм Метрополиса. Бернулли , 223-242.

Откуда мы знаем, что адаптация не мешает эргодичности в данный конечный момент времени, и что пробоотборник отбирает выборку из правильного распределения? Если это вообще имеет смысл, то сколько нужно сделать, чтобы ранняя адаптация не смещала цепи?

Эргодичность и предвзятость касаются асимптотических свойств цепи Маркова, они ничего не говорят о поведении и распределении цепи Маркова at a given finite time. Адаптивность не имеет ничего общего с этой проблемой, любой алгоритм MCMC может производить моделирования далеко от цели at a given finite time.