Вопросы с тегом «mcmc»

Алгоритмы MCMC, такие как выборка Метрополиса-Гастингса и Гиббса, являются способами отбора из совместных задних распределений. Я думаю, что понимаю и могу реализовать мегаполисную поспешность довольно легко - вы просто каким-то образом выбираете отправные точки и «ходите по пространству параметров» случайным образом, руководствуясь апостериорной плотностью и плотностью предложений. Выборка Гиббса кажется …

15 bayesian  mcmc  gibbs 

Переключение меток (т. Е. Апостериорное распределение инвариантно к переключению меток компонентов) является проблемной проблемой при использовании MCMC для оценки моделей смесей. Существует ли стандартная (как в общепринятой) методология для решения этой проблемы? Если стандартного подхода не существует, каковы плюсы и минусы ведущих подходов к решению проблемы переключения меток?

15 bayesian  mcmc  mixture 

Я пытаюсь понять цепи Маркова, используя SAS. Я понимаю, что марковский процесс - это процесс, в котором будущее состояние зависит только от текущего состояния, а не от прошлого, и существует матрица перехода, которая фиксирует вероятность перехода из одного состояния в другое. Но тут я наткнулся на этот термин: цепь Маркова …

15 probability  simulation  mcmc  monte-carlo  markov-process 

За последние несколько недель я пытался понять MCMC и алгоритм (ы) Метрополис-Гастингс. Каждый раз, когда я думаю, что понимаю это, я понимаю, что я неправ. Большинство примеров кода, которые я нахожу онлайн, реализуют то, что не согласуется с описанием. то есть: они говорят, что они реализуют Метрополис-Гастингс, но на самом …

15 mcmc  metropolis-hastings 

Может ли кто-нибудь объяснить основную идею гамильтоновых методов Монте-Карло и в каких случаях они дадут лучшие результаты, чем марковские цепочки методов Монте-Карло?

14 bayesian  mcmc  hmc 

Проводились ли крупномасштабные исследования методов MCMC, сравнивающих производительность нескольких различных алгоритмов с набором тестовых плотностей? Я думаю о чем-то эквивалентном статье Риоса и Сахинидиса (2013), которая представляет собой тщательное сравнение большого количества оптимизаторов черного ящика без производных по нескольким классам тестовых функций. Для MCMC эффективность может быть оценена, например, по …

14 machine-learning  bayesian  references  mcmc 

Вопрос: Каков стандартный способ кластеризации данных с использованием процесса Дирихле? При использовании выборочных кластеров Гиббса во время отбора проб появляются и исчезают. Кроме того, у нас есть проблема идентификации, так как апостериорное распределение инвариантно к кластерным связям. Таким образом, мы не можем сказать, кто является кластером пользователя, а скорее, что …

14 bayesian  clustering  mcmc  dirichlet-process  identifiability 

Диагностика Гельмана и Рубина используется для проверки сходимости нескольких параллельных цепочек mcmc. Он сравнивает дисперсию внутри цепочки с дисперсией между цепями, описание приведено ниже: Шаги (для каждого параметра): Запустите m ≥ 2 цепочки длиной 2n из перераспределенных начальных значений. Откажитесь от первых n розыгрышей в каждой цепочке. Рассчитайте дисперсию внутри …

14 mcmc  convergence  covariance-matrix 

Я читал несколько лекций, связанных с MCMC. Тем не менее, я не нашел хороший пример того, как он используется. Может ли кто-нибудь дать мне конкретный пример. Все, что я вижу, это то, что они управляют цепью Маркова и говорят, что ее стационарное распределение является желаемым распределением. Я хочу хороший пример, …

14 probability  bayesian  mcmc  markov-process 

Я использую сэмплер Metropolis (C ++) и хочу использовать предыдущие образцы для оценки степени сходимости. Я обнаружил одну простую в использовании диагностику - диагностику Гьюке , которая вычисляет разницу между двумя значениями выборки, деленную на оцененную стандартную ошибку. Стандартная ошибка оценивается по спектральной плотности на нуле. Zn=θ¯A−θ¯B1nASAθ^(0)+1nBSBθ^(0)−−−−−−−−−−−−−−−−√,Zn=θ¯A−θ¯B1nASθA^(0)+1nBSθB^(0),Z_n=\frac{\bar{\theta}_A-\bar{\theta}_B}{\sqrt{\frac{1}{n_A}\hat{S_{\theta}^A}(0)+\frac{1}{n_B}\hat{S_{\theta}^B}(0)}}, где , B …

14 mcmc  diagnostic 

Случайная прогулка Метрополис-Хаситингс с симметричным предложением q(x|y)=g(|y−x|)q(x|y)=g(|y−x|)q(x|y)= g(|y-x|) обладает свойством вероятности принятия P(accept y)=min{1,f(y)/f(x)}P(accept y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} не зависит от предложения g(⋅)g(⋅)g(\cdot) . Означает ли это, что я могу изменить g(⋅)g(⋅)g(\cdot) как функцию предыдущей производительности цепочки, не влияя на марковитость цепочки? Особый интерес для меня представляет корректировка масштабирования …

14 mcmc  metropolis-hastings 

Кто-нибудь знает какой-нибудь хорошо написанный код (в Matlab или R) для обратимого перехода MCMC? Желательно простое демонстрационное приложение для комплимента работ по теме, что было бы полезно для понимания процесса.

14 r  matlab  references  mcmc 

Я пытался понять алгоритм Метрополиса-Гастингса, чтобы написать код для оценки параметров модели (т.е. е( х ) = а * хе(Икс)знак равноa*Иксf(x)=a*x ). Согласно библиографии алгоритм Метрополиса-Гастингса имеет следующие этапы: Сгенерировать YT∼ д( у| ИксT)YT~Q(Y|ИксT)Y_t \sim q(y|x^t) Икст + 1= { YT,ИксT,с вероятностьюρ ( хT, YT) ,с вероятностью1 - ρ ( …

14 mcmc  metropolis-hastings 

Я только начал учиться использовать Стэн и rstan. Если я не всегда был озадачен тем, как работают JAGS / BUGS, я думал, что вы всегда должны были определять какое-то предварительное распределение для каждого параметра в модели, из которой нужно извлечь. Похоже, что вам не нужно делать это в Stan на …

14 mcmc  prior  jags  graphical-model  stan 

Есть ли хорошие обзоры (обзоры, книги) о различных применениях цепи Маркова Монте-Карло (MCMC)? Я видел Марковскую цепь Монте-Карло на практике , но эта книга кажется немного старой. Есть ли еще книги с обновлениями по различным приложениям MCMC в таких областях, как машинное обучение, компьютерное зрение и вычислительная биология?

14 machine-learning  mcmc  inference  references  application