У меня довольно хороший практический опыт работы с выборками Метрополиса-Гастингса и Гиббса, но я хочу получить лучшее математическое понимание этих алгоритмов. Какие есть хорошие учебники или статьи, которые доказывают правильность этих сэмплеров (больше алгоритмов также было бы здорово)?
Ответы:
Для справочника и обширного охвата следующий очень умеренный по цене.
Брукс и др. (ред.), Справочник Марковской цепи Монте-Карло , Chapman & Hall / CRC, 2011.
Роберт и Казелла (2010) имеют много теории.
Я не уверен, что это именно то, что вам нужно, но пара статей, которые я нашел полезными по теоретическим свойствам различных алгоритмов Метрополиса-Гастингса:
Оптимальное масштабирование для различных алгоритмов Метрополиса-Гастингса - Робертс и Розенталь, 2001.
(Это суммирует некоторые более ранние результаты для Метрополиса Прогулки выкупа и алгоритма Ланжевена с поправкой на Метрополис.)
Метрополис «Случайный путь»: связывая теорию и практику с помощью тематического исследования - Шерлок, Фернхед и Робертс, 2009
(Это может быть хорошим мостом между теоретическими свойствами и практическим использованием, как предполагает название.)
Книга Роберта и Казеллы (упомянутая выше) является очень хорошим и подробным ресурсом, но вы также можете найти эти два полезных:
Марковская цепь Монте-Карло на практике - Гилкс, Ричардсон и Шпигельхальтер (1995)
Марковская цепь Монте-Карло: стохастическое моделирование для байесовского вывода - Gamerman (2006)
Они оба также имеют информацию о выборке Гиббса. Я полагаю, что вы также можете найти некоторую другую информацию о цепях Маркова полезной. Я обычно использую:
Но в большинстве книг MCMC есть и хорошая информация об этом.