Понимание MCMC и алгоритма Метрополис-Гастингс

В последние несколько дней я пытался понять, как работает Марковская цепь Монте-Карло (MCMC). В частности, я пытался понять и реализовать алгоритм Метрополис-Гастингс. Пока я думаю, что у меня есть общее представление об алгоритме, но есть пара вещей, которые мне еще не ясны. Я хочу использовать MCMC для подгонки некоторых моделей к данным. Поэтому я опишу свое понимание алгоритма Метрополиса-Гастингса для подгонки прямой линии к некоторым наблюдаемым данным :$f(x)=ax$$D$

1) Сделать начальное предположение для . Установите этот , как текущую ( ). Кроме того, добавьте в конце цепи Маркова ( ).$a$$a$$a$$a_0$$a$$C$

2) Повторите шаги ниже несколько раз.

3) оценка текущее правдоподобие ( ) дан в 0 и D .${\cal L_0}$$a_0$$D$

4) Предложите новый ( a 1 ) путем выборки из нормального распределения с µ = a 0 и σ = s t e p s i z e . В настоящее время, ев T е р в сек я г е постоянна.$a$$a_1$$\mu=a_0$$\sigma=stepsize$$stepsize$

5) оценка новое правдоподобие ( ) приведен в 1 и D .${\cal L_1}$$a_1$$D$

6) Если больше , чем L 0 , принимают на 1 , как новый A 0 , добавить его в конце C и перейти к шагу 2.${\cal L_1}$${\cal L_0}$$a_1$$a_0$$C$

7) Если меньше, чем L 0, генерируют число ( U ) в диапазоне [0,1] из равномерного распределения${\cal L_1}$${\cal L_0}$$U$

8) Если является меньшим , чем разница между этими двумя вероятностями ( L 1 - L 0 ), принимают на 1 , как новый A 0 , добавить его в конце C и перейти к шагу 2.$U$${\cal L_1}$${\cal L_0}$$a_1$$a_0$$C$

$U$${\cal L_1}$${\cal L_0}$$a_0$$C$$a_0$

10) Конец повтора.

$C$

$C$$a$

Теперь у меня есть несколько вопросов относительно вышеуказанных шагов:

• $f(x)=ax$
• Это правильная реализация алгоритма Метрополиса-Гастингса?
• Как выбор метода генерации случайных чисел на шаге 7 может изменить результаты?
• $f(x)=ax+b$

Примечания / Авторы: Основная структура алгоритма, описанного выше, основана на коде из MPIA Python Workshop.

Кажется, есть некоторые заблуждения относительно того, что алгоритм Метрополиса-Гастингса (МЗ) в вашем описании алгоритма.

Прежде всего, нужно понимать, что MH - это алгоритм выборки. Как указано в википедии

В статистике и статистической физике алгоритм Метрополиса – Гастингса представляет собой метод Монте-Карло с цепью Маркова (MCMC) для получения последовательности случайных выборок из распределения вероятностей, для которого прямая выборка затруднена.

$Q(\cdot\vert\cdot)$$f(\cdot)$

1. $x_0$
2. $x^{\star}$$Q(\cdot\vert x_0)$
3. $\alpha=f(x^{\star})/f(x_0)$
4. $x^{\star}$$f$$\alpha$
5. $x^{\star}$

$N$$k$

Пример в R можно найти по следующей ссылке:

http://www.mas.ncl.ac.uk/~ndjw1/teaching/sim/metrop/metrop.html

Этот метод широко используется в байесовской статистике для выборки из апостериорного распределения параметров модели.

$f(x)=ax$$x$

Robert & Casella (2010), Представляя методы Монте-Карло с R , Ch. 6, «Метрополис-Гастингс Алгоритмы»

На этом сайте также есть много вопросов с указателями на интересные ссылки, обсуждающих значение функции правдоподобия.

Еще один интересный указатель - это пакет R mcmc, который реализует алгоритм MH с гауссовыми предложениями в команде metrop().