ARIMA против ARMA на дифференцированной серии

В R (2.15.2) я однажды установил ARIMA (3,1,3) для временного ряда и один раз ARMA (3,3) для разностных временных рядов. Установленные параметры отличаются, что я приписал методу подбора в ARIMA.

Кроме того, подгонка ARIMA (3,0,3) к тем же данным, что и ARMA (3,3), не приведет к идентичным параметрам, независимо от используемого мной метода подгонки.

Я заинтересован в том, чтобы определить, откуда взялась разница и с какими параметрами я могу (если вообще смогу) соответствовать ARIMA, чтобы получить те же коэффициенты соответствия, что и ARMA.

Пример кода для демонстрации:

library(tseries)
set.seed(2)
#getting a time series manually
x<-c(1,2,1)
e<-c(0,0.3,-0.2)
n<-45
AR<-c(0.5,-0.4,-0.1)
MA<-c(0.4,0.3,-0.2)
for(i in 4:n){
tt<-rnorm(1)
t<-x[length(x)]+tt+x[i-1]*AR[1]+x[i-2]*AR[2]+x[i-3]*AR[3]+e[i-1]*MA[1]+e[i-2]*MA[2]+e[i-3]*MA[3]
x<-c(x,t)
e<-c(e,tt)
}
par(mfrow=c(2,1))
plot(x)
plot(diff(x,1))

#fitting different versions. What I would like to get is fit1 with ARIMA()
fit1<-arma(diff(x,1,lag=1),c(3,3),include.intercept=F)
fit2<-arima(x,c(3,1,3),include.mean=F)
fit3<-arima(diff(x,1),c(3,0,3),include.mean=F)
fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F)
fit5<-arima(diff(x,1),c(3,0,3),method="CSS",include.mean=F)

cbind(fit1$coe,fit2$coe,fit3$coe,fit4$coe,fit5$coe)

Редактировать: Использование условной суммы квадратов довольно близко, но не совсем там. Спасибо за подсказку для fit1!

Edit2: я не думаю, что это дубликат. Пункты 2 и 3 решают проблемы, отличные от моих, и даже если я переопределю инициализацию, упомянутую в пункте 1,

fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F,init=fit1$coe)

Я все еще получаю разные коэффициенты

Есть три незначительных проблемы по tseries::armaсравнению с тем, stats::arimaкоторые приводят к несколько отличному результату в модели ARMA для использования разностных рядов tseries::armaи ARIMA в stats::arima.

• Начальные значения коэффициентов: stats::arimaустанавливает нулевые начальные коэффициенты AR и MA, а tseries::armaдля получения начальных значений коэффициентов используется процедура, описанная в Hannan и Rissanen (1982).

• Шкала целевой функции: целевая функция в tseries::armaвозвращает значение условной суммы квадратов, RSS; stats::arimaвозвращается 0.5*log(RSS/(n-ncond)).

• Алгоритм оптимизации: по умолчанию используется Nelder-Mead, в tseries::armaто время как stats::arimaиспользуется алгоритм BFGS.

Последний из них можно изменить с помощью аргумента optim.methodв stats::arimaа другие потребуют модификации кода. Ниже я показываю сокращенную версию исходного кода (минимальный код для этой конкретной модели), для stats::arimaкоторой три упомянутые выше проблемы изменены так, чтобы они были такими же, как в tseries::arma. После решения этих проблем tseries::armaполучается тот же результат, что и в .

Минимальная версия stats::arima(с изменениями, упомянутыми выше):

# objective function, conditional sum of squares
# adapted from "armaCSS" in stats::arima
armaCSS <- function(p, x, arma, ncond)
{
  # this does nothing, except returning the vector of coefficients as a list
  trarma <- .Call(stats:::C_ARIMA_transPars, p, arma, FALSE)
  res <- .Call(stats:::C_ARIMA_CSS, x, arma, trarma[[1L]], trarma[[2L]], as.integer(ncond), FALSE)
  # return the conditional sum of squares instead of 0.5*log(res), 
  # actually CSS is divided by n-ncond but does not relevant in this case
  #0.5 * log(res)
  res
}
# initial values of coefficients  
# adapted from function "arma.init" within tseries::arma
arma.init <- function(dx, max.order, lag.ar=NULL, lag.ma=NULL)
{
  n <- length(dx)
  k <- round(1.1*log(n))
  e <- as.vector(na.omit(drop(ar.ols(dx, order.max = k, aic = FALSE, demean = FALSE, intercept = FALSE)$resid)))
      ee <- embed(e, max.order+1)
      xx <- embed(dx[-(1:k)], max.order+1)
      return(lm(xx[,1]~xx[,lag.ar+1]+ee[,lag.ma+1]-1)$coef) 
}
# modified version of stats::arima
modified.arima <- function(x, order, seasonal, init)
{
  n <- length(x)
  arma <- as.integer(c(order[-2L], seasonal$order[-2L], seasonal$period, order[2L], seasonal$order[2L]))
      narma <- sum(arma[1L:4L])
      ncond <- order[2L] + seasonal$order[2L] * seasonal$period
      ncond1 <- order[1L] + seasonal$period * seasonal$order[1L]
      ncond <- as.integer(ncond + ncond1)
      optim(init, armaCSS, method = "Nelder-Mead", hessian = TRUE, x=x, arma=arma, ncond=ncond)$par
}

Теперь сравните обе процедуры и убедитесь, что они дают один и тот же результат (требуется ряд, xсгенерированный ОП в теле вопроса).

Используя начальные значения, выбранные в tseries::arima:

dx <- diff(x)
fit1 <- arma(dx, order=c(3,3), include.intercept=FALSE)
coef(fit1)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33139827  0.80013071 -0.45177254  0.67331027 -0.14600320 -0.08931003 
init <- arma.init(diff(x), 3, 1:3, 1:3)
fit2.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit2.coef
# xx[, lag.ar + 1]1 xx[, lag.ar + 1]2 xx[, lag.ar + 1]3 ee[, lag.ma + 1]1 
#        0.33139827        0.80013071       -0.45177254        0.67331027 
# ee[, lag.ma + 1]2 ee[, lag.ma + 1]3 
#       -0.14600320       -0.08931003 
all.equal(coef(fit1), fit2.coef, check.attributes=FALSE)
# [1] TRUE

Используя начальные значения, выбранные в stats::arima(нули):

fit3 <- arma(dx, order=c(3,3), include.intercept=FALSE, coef=rep(0,6))
coef(fit3)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624 
init <- rep(0, 6)
fit4.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit4.coef
# [1]  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624
all.equal(coef(fit3), fit4.coef, check.attributes=FALSE)
# [1] TRUE

Насколько я могу судить, разница полностью связана с условиями МА. То есть, когда я сопоставляю ваши данные только с терминами AR, ARMA разностного ряда и ARIMA соглашаются.