MCMC с алгоритмом Метрополис-Гастингс: выбор предложения

Мне нужно сделать симуляцию, чтобы оценить интеграл от трехпараметрической функции, скажем, , которая имеет очень сложную формулу. Предлагается использовать метод MCMC для его вычисления и реализации алгоритма Метрополиса-Гастингса для генерации значений, распределенных как , и было предложено использовать 3-х переменную нормаль в качестве распределения предложения. Читая некоторые примеры об этом, я видел, что некоторые из них используют нормаль с фиксированными параметрами а некоторые используют с переменной среднее , где - последнее принятое значение в соответствии с . У меня есть некоторые сомнения по поводу обоих подходов:f N ( μ , σ $f$$f$$N(\mu, \sigma)$$N(X, \sigma)$$X$$f$

1) В чем смысл выбора последнего принятого значения в качестве нового среднего значения распределения нашего предложения? Моя интуиция говорит, что это должно гарантировать, что наши значения будут ближе к значениям, распределенным как $f$ и шансы на принятие будут выше. Но не слишком ли концентрируется наш образец? Гарантируется, что, если я получу больше образцов, цепь станет стационарной?

2) Разве выбор фиксированных параметров (так как $f$ действительно трудно анализировать) будет действительно трудным и зависит от первой выборки, которую мы должны выбрать, чтобы запустить алгоритм? В этом случае, какой будет лучший подход, чтобы найти, какой из них лучше?

Один из этих подходов лучше, чем другой, или это зависит от ситуации?

Я надеюсь, что мои сомнения ясны, и я был бы рад, если бы можно было дать какую-нибудь литературу (я читал некоторые статьи на эту тему, но чем больше, тем лучше!)

Заранее спасибо!

1) Вы можете думать об этом методе как о подходе случайного блуждания. Когда предложение распространяется , его обычно называют алгоритмом Метрополиса. Если слишком мало, вы будете иметь высокую скорость принятия и очень медленно исследуете распределение цели. На самом деле, если слишком маленький и дистрибутив мультимодальный, сэмплер может зависнуть в определенном режиме и не сможет полностью изучить целевой дистрибутив. С другой стороны, если слишком велик, коэффициент принятия будет слишком низким. Поскольку у вас есть три измерения, распределение вашего предложения будет иметь ковариационную матрицуσ 2 σ 2 σ 2 Σ $x \mid x^t \sim N( x^t, \sigma^2)$$\sigma^2$$\sigma^2$$\sigma^2$$\Sigma$что, вероятно, потребует различных дисперсий и ковариаций для каждого измерения. Выбор подходящего может быть затруднен.$\Sigma$

2) Если распределение вашего предложения всегда , то это независимый алгоритм Метрополиса-Гастингса, поскольку распределение вашего предложения не зависит от вашего текущего образца. Этот метод работает лучше всего, если распределение вашего предложения является хорошим приближением к целевому распределению, из которого вы хотите получить выборку. Вы правы, что выбор хорошего нормального приближения может быть трудным.$N(\mu, \sigma^2)$

Ни один из методов не должен зависеть от начального значения сэмплера. Независимо от того, где вы начинаете, цепочка Маркова должна в конечном итоге сходиться к целевому распределению. Чтобы проверить сходимость, вы можете запустить несколько цепочек из разных начальных точек и выполнить диагностику сходимости, такую ​​как диагностика сходимости Гельмана-Рубина.