Центральная предельная теорема для цепей Маркова

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ Центральная предельная теорема (CLT) утверждает, что для $X_1,X_2,\dots$ независимы и одинаково распределены (iid) с $\E[X_i]=0$ и $\operatorname{ Var} (X_i)<\infty$ , сумма сходится к нормальному распределению при $n\to\infty$ :

Σ_{я знак равно 1}^{N} {Икс}_{я} \to N (0, \sqrt{N}),

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Предположим вместо этого, что $X_1,X_2,\dots$ образуют цепь Маркова с конечным состоянием со стационарным распределением $\P_\infty$ с ожиданием 0 и ограниченной дисперсией. Есть ли простое расширение CLT для этого случая?

В статьях, которые я нашел на CLT для цепей Маркова, обычно рассматриваются гораздо более общие случаи. Я был бы очень благодарен за указатель на соответствующий общий результат и объяснение того, как он применяется.

markov-process central-limit-theorem

— tom4everitt
источник

В статье Лин и Тегмарка « Критическое поведение от Deep Dynamics» подробно рассказывается об «ограничениях» марковских процессов и анализа ... доступно здесь ... ai2-s2-pdfs.s3.amazonaws.com/5ba0/…

— Майк Хантер,

Ответы:

Ответа Алексея Р. почти достаточно, но я добавлю еще несколько деталей. В « О центральной предельной теореме Маркова - Галин Л. Джонс» , если вы посмотрите на теорему 9, там сказано:

Если - эргодическая цепь Маркова Харриса со стационарным распределением , то CLT имеет место для если равномерно эргодичен и . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

Для конечных пространств состояний все неприводимые и апериодические цепи Маркова равномерно эргодичны. Доказательством этого является наличие значительного фона в теории цепей Маркова. Ссылка хорошо бы Page 32, в нижней части теоремы 18 здесь .

Следовательно, цепь Маркова CLT будет иметь место для любой функции , имеющей конечный второй момент. Форма, которую принимает CLT, описывается следующим образом. $f$

Пусть будет усредненной по времени оценкой , тогда, как указывает Алекс Р., при , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{е}}_{N} знак равно \frac{1}{N} Σ_{я знак равно 1}^{N} е ({Икс}_{я}) \overset{в виде}{\to} Е_{π} [е],

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

CLT цепи Маркова имеет вид

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

где

σ^{2} знак равно \underset{Ожидаемый срок}{\underset{⏟}{{Var}_{π} (е ({Икс}_{1}))}} + \underset{Срок за счет цепи Маркова}{\underset{⏟}{2 Σ_{К знак равно 1}^{\infty} {Cov}_{π} (е ({Икс}_{1}), е ({Икс}_{1 + К}))}},

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

Вывод термина можно найти на странице 8 и странице 9 примечаний Чарльза Гейера MCMC здесь. $\sigma^2$

— Greenparker
источник

Спасибо, это очень ясно! Есть ли простой аргумент, почему конечные состояния, неприводимые и апериодические цепи Маркова равномерно эргодичны? (не то чтобы я тебе не доверял ^^).

— Tom4everitt

@ tom4everitt К сожалению, определение «легкий» субъективно. Если вы знакомы с условиями дрейфа и миноризации цепей Маркова, то аргумент прост. Если нет, то это будет длинный аргумент. Я постараюсь найти ссылку вместо этого. Может занять некоторое время.

— Greenparker

Это было бы круто. Если вы не найдете ничего, пара предложений, намекающих на основные шаги, все равно будет полезна.

— Tom4everitt

@ tom4everitt Добавлена ссылка на ответ. Надеюсь, этого достаточно.

— Greenparker

@ Greenparker Могу ли я попросить вас помочь понять, как происходит отклонение в вашем ответе? Я просмотрел ссылку в вашем ответе, но не нашел там никакого вывода. У меня есть источник MC для MCsist, но я не до конца понимаю, как он там получен. То есть, как получается термин ? Спасибо!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer

«Обычный» результат для цепей Маркова - эргодическая теорема Биркгофа, которая гласит, что

\frac{1}{N} Σ_{я знак равно 1}^{N} е ({Икс}_{я}) \to Е_{π} [е],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

где - стационарное распределение, а удовлетворяет , и сходимость почти наверняка. $\pi$ $f$ $E|f(X_1)|<\infty$

К сожалению, колебания этой конвергенции, как правило, довольно сложны. Это происходит главным образом из-за чрезвычайной сложности определения полных вариационных границ того, насколько быстро сходится к стационарному распределению . Известны случаи, когда флуктуации аналогичны CLT, и вы можете найти некоторые условия на дрейфе, которые подтверждают аналогию: о центральной предельной теореме цепи Маркова - Галин Л. Джонс (см. Теорему 1). $X_i$ $\pi$

$P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— Алекс Р.
источник

Я не думаю, что он спрашивает о почти уверенной конвергенции. Я думаю, что он хочет своего рода «перевод» некоторых CLT в общих пространствах: вероятно, объяснение того, что означают требуемые предположения в конкретном контексте цепей пространства конечных состояний

— Тейлор

Спасибо. Будет ли нормальная, хорошая конечная цепь Маркова с конечным состоянием тривиально удовлетворять условию дрейфа? Я даже был бы счастлив, зная это только для цепочки из двух государств, но для меня далеко не очевидно, как это доказать.

— Tom4everitt