Оценка случайного блуждания с AR (1)

Когда я оцениваю случайное блуждание с AR (1), коэффициент очень близок к 1, но всегда меньше.

Какова математическая причина того, что коэффициент не больше единицы?

По МНК мы оцениваем модель

$$x_{t} = \rho x_{t-1} + u_t,\;\; E(u_t \mid \{x_{t-1}, x_{t-2},...\}) =0,\;x_0 =0$$

Для выборки размера T оценка составляет

$$\hat \rho = \frac {\sum_{t=1}^T x_{t}x_{t-1}}{\sum_{t=1}^T x_{t-1}^2} = \rho + \frac {\sum_{t=1}^T u_tx_{t-1}}{\sum_{t=1}^T x_{t-1}^2}$$

Если механизм генерации истинных данных является чисто случайным блужданием, то , и$\rho=1$

$$x_{t} = x_{t-1} + u_t \implies x_t= \sum_{i=1}^t u_i$$

Распределение выборки МНК - оценки, или , что эквивалентно, распределение выборки р - 1 , не является симметричным около нуля, а это перекос влево от нуля, с ≈ 68 % от полученных значений (т.е. ≈ вероятность массы) отрицательна, и поэтому мы получаем чаще всего ρ < 1 . Вот относительное распределение частот$\hat \rho - 1$$\approx 68$$\approx$$\hat \rho < 1$

$$\begin{align} \text{Mean:} -0.0017773\\ \text{Median:} -0.00085984\\ \text{Minimum: } -0.042875\\ \text{Maximum: } 0.0052173\\ \text{Standard deviation: } 0.0031625\\ \text{Skewness: } -2.2568\\ \text{Ex. kurtosis: } 8.3017\\ \end{align}$$

Это иногда называют распределением «Дики-Фуллера», потому что оно является базой для критических значений, используемых для выполнения тестов с единичным корнем с тем же именем.

Я не помню, чтобы видел попытку обеспечить интуицию для формы распределения выборки. Мы смотрим на выборочное распределение случайной величины

$$\hat \rho - 1 = \left(\sum_{t=1}^T u_tx_{t-1}\right)\cdot \left(\frac {1}{\sum_{t=1}^T x_{t-1}^2}\right)$$

$u_t$$\hat \rho - 1$$\hat \rho - 1$

$T=5$

Если мы суммируем независимые Нормы Продукта, мы получим распределение, которое остается симметричным относительно нуля. Например:

Но если мы суммируем независимые Нормы Продукта, как в нашем случае, мы получим

который смещен вправо, но с большей вероятностью, распределенной по отрицательным значениям. И масса, кажется, будет сдвинута еще больше влево, если мы увеличим размер выборки и добавим больше связанных элементов к сумме.

Обратная величина суммы несамостоятельных гамм является неотрицательной случайной величиной с положительным перекосом.

$\hat \rho -1$

Это не совсем ответ, но слишком длинный для комментария, поэтому я все равно отправляю.

Мне удалось получить коэффициент больше, чем 1 два раза из ста для выборки размером 100 (используя «R»):

N=100                   # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~y[-T])    # regress y on its own first lag, with intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1

Реализации 84 и 95 имеют коэффициент выше 1, поэтому он не всегда ниже единицы. Тем не менее, явно прослеживается тенденция к снижению оценки. Остается вопрос, почему ?

Изменить: вышеупомянутые регрессии включали термин перехват, который, кажется, не принадлежит модели. Как только перехват удален, я получаю намного больше оценок выше 1 (3158 из 10000) - но все же оно явно ниже 50% всех случаев:

N=10000                 # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~-1+y[-T]) # regress y on its own first lag, without intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1