Как ACF & PACF определяют порядок терминов MA и AR?

Уже более 2 лет я работаю над разными временными рядами. Я читал во многих статьях, что ACF используется для определения порядка терминов MA и PACF для AR. Существует правило большого пальца, что для MA задержка, при которой ACF внезапно отключается, составляет порядок MA и аналогично для PACF и AR.

Вот одна из статей, которые я читал в PennState Eberly Science College.

Мой вопрос, почему это так? Для меня даже ACF может дать термин AR. Мне нужно объяснение правила большого пальца, упомянутого выше. Я не могу понять правило большого пальца интуитивно / математически, поэтому -

Определение модели AR часто лучше всего сделать с помощью PACF.
Определение модели MA часто лучше всего делать с помощью ACF, а не PACF.

Пожалуйста, обратите внимание: - Мне не нужно, как, но "ПОЧЕМУ". :)

Цитаты взяты по ссылке в ОП:

Определение модели AR часто лучше всего сделать с помощью PACF.

Для модели AR теоретический PACF «отключается» после порядка модели. Фраза «отключается» означает, что в теории частичные автокорреляции равны 0 за пределами этой точки. Иными словами, число ненулевых частичных автокорреляций дает порядок модели AR. Под «порядком модели» мы подразумеваем самое экстремальное отставание от x, которое используется в качестве предиктора.

... авторегрессия порядка , записанная как AR (k), представляет собой множественную линейную регрессию, в которой значение ряда в любой момент времени t является (линейной) функцией значений от времени$k^{\text{th}}$$t-1,t-2,\ldots,t-k:$

$$\begin{equation*} y_{t}=\beta_{0}+\beta_{1}y_{t-1}+\beta_{2}y_{t-2}+\cdots+\beta_{2}y_{t-k}+\epsilon_{t}. \end{equation*}$$

Это уравнение выглядит как регрессионная модель, как указано на связанной страничке ... Итак, какова возможная интуиция того, что мы делаем ...

На китайском шепот или телефонная игра, как показано здесь

сообщение искажается, поскольку оно перешептывается от человека к человеку, и все следы сходства (любые правдивые слова, если хотите) теряются после красного участника (за исключением статьи «а»). PACF сообщит нам, что коэффициенты для синего и желтого участников не учитываются, если учесть влияние коричневого и красного участников (зеленый участник в конце строки не искажает сообщение).

Нетрудно подойти очень близко к фактическому результату функции R, фактически получая последовательные регрессии OLS через начало более отстающих последовательностей и собирая коэффициенты в вектор. Схематически

процесс, очень похожий на телефонную игру, - наступит момент, когда не будет никакой изменчивости в сигнале фактического начального временного ряда, обнаруженного в прогрессивно более отдаленных фрагментах самого себя.

---

Определение модели MA часто лучше всего делать с помощью ACF, а не PACF .

Для модели MA теоретический PACF не отключается, а вместо этого некоторым образом сужается к 0. Более четкая схема для модели MA в ACF. ACF будет иметь ненулевые автокорреляции только при наличии задержек в модели.

Член скользящей средней в модели временного ряда является прошлой ошибкой (умноженной на коэффициент).

-порядок скользящая средняя модель, обозначаемый МА (д)$q^{\text{th}}$

$$x_t = \mu + w_t +\theta_1w_{t-1}+\theta_2w_{t-2}+\dots + \theta_qw_{t-q}$$

с$w_t \overset{iid}{\sim} N(0, \sigma^2_w).$

Здесь, это не сходство сообщения во временных точках, которое ищется назад во времени шаг за шагом, а скорее вклад шума, который я представляю как часто массовые отклонения, которые случайное блуждание может привести по временной шкале:

Здесь есть несколько последовательно смещенных последовательностей, которые коррелируют, отбрасывая любой вклад промежуточных этапов. Это будет график операций:

В связи с этим "CV это круто!" не совсем отличается от "Наоми есть бассейн". С точки зрения шума, рифмы все еще там до самого начала игры.

Роберт Нау из Duke's Fuqua School of Business дает подробное и несколько интуитивное объяснение того, как графики ACF и PACF могут использоваться для выбора ордеров AR и MA здесь и здесь . Я даю краткое изложение его аргументов ниже.

Простое объяснение того, почему PACF определяет порядок AR

Частичные автокорреляции могут быть вычислены путем подбора последовательности моделей AR, начиная только с первого лага и постепенно добавляя больше лагов. Коэффициент запаздывания в модели AR ( ) дает частичную автокорреляцию при запаздывании . Учитывая это, если частичная автокорреляция «обрезается» / перестает быть значимой при определенном запаздывании (как видно на графике ACF), это указывает на то, что это запаздывание не добавляет объяснительной силы к модели и, следовательно, что порядок AR должен быть предыдущее отставание$k$$k$$k$

Более полное объяснение, которое также касается использования ACF для определения порядка MA

Временные ряды могут иметь подписи AR или MA:

• Подпись AR соответствует графику PACF, отображающему резкое обрезание и более медленно затухающий ACF;
• Подпись MA ​​соответствует графику ACF с резким обрезанием и графику PACF, который затухает медленнее.

Сигнатуры AR часто ассоциируются с положительной автокорреляцией при лаге 1, что позволяет предположить, что ряд немного «недифференцирован» (это означает, что для полного устранения автокорреляции необходимо дальнейшее дифференцирование). Поскольку термины AR достигают частичного дифференцирования (см. Ниже), это можно исправить, добавив термин AR в модель (отсюда и название этой подписи). Следовательно, график PACF с резким обрезанием (сопровождаемый медленно затухающим графиком ACF с положительным первым запаздыванием) может указывать порядок AR-члена. Нау выражает это следующим образом:

Если PACF разностного ряда показывает резкое обрезание и / или автокорреляция lag-1 положительна - то есть, если ряд выглядит слегка «недифференцированным» - тогда рассмотрите возможность добавления члена AR в модель. Задержка, с которой PACF обрезается, является указанным числом терминов AR.

С другой стороны, подписи MA обычно ассоциируются с отрицательными первыми лагами, что позволяет предположить, что ряд является «чрезмерно дифференцированным» (т. Е. Необходимо частично отменить различие, чтобы получить стационарный ряд). Так как термины MA могут отменить порядок дифференцирования (см. Ниже), график ACF ряда с подписью MA указывает необходимый порядок MA:

Если ACF разностного ряда показывает резкое обрезание и / или автокорреляция lag-1 отрицательна, т. Е. Если ряд выглядит слегка «переопределенным», то рассмотрите возможность добавления термина MA в модель. Задержка, с которой отключается ACF, является указанным количеством терминов MA.

Почему условия AR достигают частичной разницы, а условия MA частично отменяют предыдущую разницу

Возьмем базовую модель ARIMA (1,1,1), представленную без константы для простоты:

$y_t = Y_t - Y_{t-1}$

$y_t = \phi y_{t-1} + e_t - \theta e_{t-1}$

Определяя как оператор задержки / обратного сдвига , это можно записать следующим образом:$B$

$y_t = (1-B)Y_t$

$y_t = \phi B y_t + e_t - \theta B e_t$

который может быть дополнительно упрощен, чтобы дать:

$(1-\phi B) y_t = (1-\theta B) e_t$

или эквивалентно:

$(1-\phi B)(1-B) Y_t = (1-\theta B)e_t$ .

Мы можем видеть, что член AR (1) дал нам член , таким образом частично (если ) увеличивая порядок дифференцирования. Более того, если мы манипулируем как числовой переменной (что мы можем сделать, потому что это линейный оператор), мы можем видеть, что член MA (1) дал нам член , таким образом, частично отменяя исходный разностный термин - - в левой части.ϕ ∈ ( 0 , 1 ) B ( 1 - θ B ) ( 1 - B $(1-\phi B)$$\phi \in (0,1)$$B$$(1-\theta B)$$(1-B)$

На более высоком уровне, вот как это понять. (Если вам нужен более математический подход, я с удовольствием остановлюсь на некоторых моих заметках по анализу временных рядов)

ACF и PACF являются теоретическими статистическими конструкциями, такими же, как ожидаемое значение или дисперсия, но в разных областях. Так же, как ожидаемые значения возникают при изучении случайных величин, ACF и PACF появляются при изучении временных рядов.

При изучении случайных величин встает вопрос о том, как оценить их параметры, куда входят метод моментов, MLE и другие процедуры и конструкции, а также проверить оценки, их стандартные ошибки и т. Д.

Проверка предполагаемых ACF и PACF основана на одной и той же идее, оценивая параметры процесса случайных временных рядов. Получите идею?

Если вы считаете, что вам нужен более математически склонный ответ, пожалуйста, дайте мне знать, и я постараюсь выяснить, смогу ли я что-нибудь сделать к концу дня.