Вопросы с тегом «mcmc»

Я хочу реализовать (в R) следующую очень простую динамическую линейную модель, для которой у меня есть 2 неизвестных изменяющихся во времени параметра (дисперсия ошибки наблюдения и дисперсия ошибки состояния ). ε 2 тε1Tϵt1\epsilon^1_tε2Tϵt2\epsilon^2_t YTθт + 1знак равнознак равноθT+ ϵ1TθT+ ϵ2TYt=θt+ϵt1θt+1=θt+ϵt2 \begin{matrix} Y_t & = & \theta_t + \epsilon^1_t\\ \theta_{t+1} & …

11 r  mcmc  dlm  particle-filter 

Отладка программ MCMC общеизвестно сложна. Трудность возникает из-за нескольких проблем, некоторые из которых: (а) Циклическая природа алгоритма Мы итеративно рисуем параметры, зависящие от всех остальных параметров. Таким образом, если реализация не работает должным образом, трудно выделить ошибку, поскольку проблема может быть где-то в итеративном сэмплере. (б) Правильный ответ не обязательно …

11 mcmc 

На своей вики-странице разработчики Стэна заявляют: Некоторые принципы нам не нравятся: инвариантность, Джеффрис, энтропия Вместо этого я вижу много нормальных рекомендаций по распространению. До сих пор я использовал байесовские методы, которые не основывались на выборке, и был отчасти рад, что понял, почему был хорошим выбором для биномиальных вероятностей.θ ∼ бета …

11 bayesian  mcmc  prior  pymc  stan 

mgcvПакет Rимеет две функции для установки взаимодействия Тензор продукта: te()и ti(). Я понимаю основное разделение труда между ними (подгонка нелинейного взаимодействия против разложения этого взаимодействия на основные эффекты и взаимодействие). Чего я не понимаю, так это почему te(x1, x2)и ti(x1) + ti(x2) + ti(x1, x2)может дать (немного) разные результаты. MWE …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

Я продолжаю читать о необходимости проверки автокорреляции в MCMC. Почему важно, чтобы автокорреляция была низкой? Что это измеряет в контексте MCMC?

11 sampling  autocorrelation  mcmc 

Мне нужно изучить методы Марковской цепочки Монте-Карло, чтобы быть более конкретным, мне нужно изучить алгоритм Метрополиса Гастингса и все о нем, как критерии сходимости. Кто может назначить мне книгу, или газету, или веб-сайт, который объясняет этот аргумент простыми терминами, но без тривиальности?

11 references  mcmc 

Я моделирую рассредоточение завода, используя обобщенное нормальное распределение ( запись в Википедии ), которое имеет функцию плотности вероятности: b2aΓ(1/b)e−(da)bb2aΓ(1/b)e−(da)b \frac{b}{2a\Gamma(1/b)} e^{-(\frac{d}{a})^b} где - пройденное расстояние, - параметр масштаба, а - параметр формы. Среднее пройденное расстояние определяется стандартным отклонением этого распределения:dddбaaabbb a2Γ(3/b)Γ(1/b)−−−−−−−−√a2Γ(3/b)Γ(1/b) \sqrt{\frac{a^2 \Gamma(3/b)}{\Gamma(1/b)}} Это удобно, потому что учитывает экспоненциальную форму, …

10 distributions  bayesian  mcmc 

В настоящее время я использую байесовский подход для оценки параметров модели, состоящей из нескольких ODE. Поскольку у меня есть 15 параметров для оценки, мое пространство выборки является 15-мерным, и в моем поиске апостериорного распределения, по-видимому, имеется много локальных максимумов, которые очень изолированы большими областями с очень низкой вероятностью. Это приводит …

10 bayesian  mcmc  monte-carlo  ergodic 

Недавно я начал использовать перекрестную проверку сглаживания важности по Парето (PSIS-LOO), описанную в следующих статьях: Vehtari, A. & Gelman, A. (2015). Парето сгладил важность выборки. Препринт arXiv ( ссылка ). Вехтари А., Гельман А. и Габри Дж. (2016). Практическая оценка байесовской модели с использованием кросс-проверки без участия и WAIC. Препринт …

10 machine-learning  cross-validation  mcmc  pareto-distribution  importance-sampling 

Я строю довольно сложную иерархическую байесовскую модель для мета-анализа с использованием R и JAGS. Упрощенно, два ключевых уровня модели имеют α j = ∑ h γ h ( j ) + ϵ j, где y i j - i- е наблюдение за конечной точкой (в данном случае , GM против …

10 autocorrelation  multilevel-analysis  mcmc  jags 

После записи можно ли напрямую использовать итерации MCMC для оценки плотности, например, путем построения гистограммы или оценки плотности ядра? Меня беспокоит то, что итерации MCMC не обязательно независимы, хотя в большинстве случаев они распределены одинаково. Что если мы дополнительно применим прореживание к итерациям MCMC? Меня беспокоит то, что итерации MCMC …

10 distributions  mcmc  asymptotics 

У меня довольно хороший практический опыт работы с выборками Метрополиса-Гастингса и Гиббса, но я хочу получить лучшее математическое понимание этих алгоритмов. Какие есть хорошие учебники или статьи, которые доказывают правильность этих сэмплеров (больше алгоритмов также было бы здорово)?

10 bayesian  references  mcmc 

Я работаю над исследовательским проектом, который связан с оптимизацией, и недавно у меня появилась идея использовать MCMC в этих условиях. К сожалению, я довольно плохо знаком с методами MCMC, поэтому у меня было несколько вопросов. Я начну с описания проблемы, а затем задам свои вопросы. Наша проблема сводится к оценке …

10 sampling  mcmc  matlab  expected-value 

У меня есть вопрос о том, как вписать проблему цензуры в JAGS. Я наблюдаю нормальную двумерную смесь, где значения Х имеют погрешность измерения. Я хотел бы смоделировать истинные базовые «средства» наблюдаемых цензурированных значений. ⌈ хт т у й+ ϵ ⌉ = xО Ь сек е г V е г ε …

10 mcmc  censoring  truncation  jags 

Я работаю над функцией Монте-Карло для оценки нескольких активов с частично коррелированной доходностью. В настоящее время я просто генерирую ковариационную матрицу и подаю rmvnorm()функцию в R. (Генерирует коррелированные случайные значения.) Однако, глядя на распределение доходности актива, он обычно не распределяется. Это действительно вопрос, состоящий из двух частей: 1) Как я …

10 mcmc  monte-carlo  pdf