Диагностика сходимости Гельмана и Рубина, как обобщить работу с векторами?

Диагностика Гельмана и Рубина используется для проверки сходимости нескольких параллельных цепочек mcmc. Он сравнивает дисперсию внутри цепочки с дисперсией между цепями, описание приведено ниже:

Шаги (для каждого параметра):

Запустите m ≥ 2 цепочки длиной 2n из перераспределенных начальных значений.
Откажитесь от первых n розыгрышей в каждой цепочке.
Рассчитайте дисперсию внутри цепи и между цепями.
Рассчитайте оценочную дисперсию параметра как взвешенную сумму дисперсии внутри цепи и между цепями.
Рассчитайте потенциальный коэффициент уменьшения масштаба.
Пункт списка

Я хочу использовать эту статистику, но переменные, с которыми я хочу использовать это случайные векторы.

Имеет ли смысл в этом случае брать среднее значение ковариационных матриц?

mcmc convergence covariance-matrix

— Тим
источник

Рекомендация: просто рассчитайте PSRF отдельно для каждого скалярного компонента

Оригинальная статья Gelman & Rubin [1], а также учебник по анализу байесовских данных Gelman et al. [2] рекомендует рассчитывать потенциальный коэффициент уменьшения масштаба (PSRF) отдельно для каждого интересующего скалярного параметра. Чтобы вывести сходимость, требуется, чтобы все PSRF были близки к 1. Неважно, что ваши параметры интерпретируются как случайные векторы, их компоненты являются скалярами, для которых вы можете вычислять PSRF.

Брукс и Гельман [3] предложили многовариантное расширение PSRF, которое я рассмотрю в следующем разделе этого ответа. Однако, чтобы процитировать Gelman & Shirley [4]:

[...] эти методы могут иногда представлять избыточное количество: отдельные параметры могут быть хорошо оценены, даже если приблизительная сходимость моделирования многомерного распределения может занять очень много времени.

Альтернатива: многомерное расширение Брукса и Гельмана

$W$ $B$

\hat{V} = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = max_{a} \frac{a^{T} \hat{V} a}{a^{T} W a} = \frac{n - 1}{n} + (\frac{m + 1}{m}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

Ссылки

[1] Гельман, Эндрю и Дональд Б. Рубин. «Вывод из итеративного моделирования с использованием нескольких последовательностей». Статистическая наука (1992): 457-472.

[2] Gelman, Andrew, et al. Байесовский анализ данных. CRC press, 2013.

[3] Брукс, Стивен П. и Эндрю Гельман. «Общие методы контроля сходимости итерационного моделирования». Журнал вычислительной и графической статистики 7.4 (1998): 434-455.

[4] Гельман, Эндрю и Кеннет Ширли. «Вывод из моделирования и мониторинга конвергенции». (Глава 6 в Brooks, Steve, et al., Eds. Handbook of Markov Chain Monte Carlo. CRC Press, 2011.)

Все статьи, кроме учебника [2], доступны на веб-сайте Эндрю Гельмана Эндрю Гельман .

— Юхо Коккала
источник