Можем ли мы использовать образцы начальной загрузки, которые меньше исходного?

Я хочу использовать начальную загрузку для оценки доверительных интервалов для оценочных параметров из набора панельных данных с N = 250 фирмами и T = 50 месяцем. Оценка параметров является вычислительно дорогой (несколько дней вычислений) из-за использования фильтрации Калмана и сложной нелинейной оценки. Поэтому отбор (с заменой) B (сотнями и более) выборок M = N = 250 фирм из исходной выборки и оценка параметров B раз вычислительно невозможны, даже если это основной метод начальной загрузки.

Поэтому я рассматриваю возможность использования меньшего M (например, 10) для выборок начальной загрузки (а не полного размера N = 250), сделанного случайным образом с заменой из оригинальных фирм, и затем масштабируемой по начальной загрузке ковариационной матрицы параметров модели с помощью (в примере выше на 1/25), чтобы вычислить ковариационную матрицу для параметров модели, оцененных по полной выборке.$\frac{1}{\frac{N}{M}}$

Затем желаемые доверительные интервалы могут быть аппроксимированы на основе предположения о нормальности или эмпирических интервалов для более мелкой выборки, масштабированной с использованием аналогичной процедуры (например, уменьшенной с коэффициентом ,$\frac{1}{\sqrt{\frac{N}{M}}}$

Имеет ли этот обходной путь смысл? Есть ли теоретические результаты, подтверждающие это? Есть ли альтернативы для решения этой проблемы?

Этот вопрос задавался очень давно, но я публикую ответ на тот случай, если кто-нибудь обнаружит его в будущем. Короче говоря, ответ «да»: вы можете сделать это во многих настройках, и вы можете исправить изменение размера выборки с помощью . Этот подход обычно называют boostrap out of , и он работает в большинстве настроек, как это делает «традиционный» загрузчик, а также в некоторых настройках, в которых он не работает.$\sqrt{\frac{M}{N}}$$M$$N$

Причина в том, что во многих аргументах согласованности начальной загрузки используются оценщики в форме , где - случайные величины, а - некоторый параметр базовое распределение. Например, для выборочного среднего значения и .$\frac{1}{\sqrt{N}} (T_N - \mu)$$X_1, \ldots, X_N$$\mu$$T_N = \frac{1}{N} \sum_{i=1}^N X_i$$\mu = \mathbb{E}(X_1)$

Многие доказательства непротиворечивости начальной загрузки утверждают, что, как , учитывая некоторую конечную выборку и связанную оценку точки , где взяты из истинного базового распределения, а нарисованы с заменой из .$N \to \infty$$\{x_1, \ldots, x_N\}$$\hat{\mu}_N = T_N(x_1, \ldots, x_N)$

$$\sqrt{N}(T_N(X_1^*, \ldots, X_N^*) - \hat{\mu}_N) \overset{D}{\to} \sqrt{N}(T_N(X_1, \ldots, X_N) - \mu) \tag{1} \label{convergence}$$ $X_i$$X_i^*$$\{x_1, \ldots, x_N\}$

Однако мы могли бы также использовать более короткие выборки длины и рассмотреть оценщик Оказывается, что, как и , оценщик ( ) имеет то же предельное распределение, что и выше, в большинстве настроек, где ( ) держит и кое где нет. В этом случае ( ) и ( ) имеют одинаковое предельное распределение, мотивируя поправочный коэффициент например, в стандартном отклонении выборки.$M < N$

$$\sqrt{M}(T_M(X_1^*, \ldots, X_M^*) - \hat{\mu}_N). \tag{2} \label{m_out_of_n}$$ $M, N \to \infty$$\ref{m_out_of_n}$$\ref{convergence}$$\ref{convergence}$$\ref{m_out_of_n}$$\sqrt{\frac{M}{N}}$

Все эти аргументы являются асимптотическими и имеют место только в пределе . Чтобы это работало, важно не выбирать слишком маленьким. Существует некоторая теория (например, Биккель и Саков ниже) о том, как выбрать оптимальный как функцию от чтобы получить наилучшие теоретические результаты, но в вашем случае вычислительные ресурсы могут быть решающим фактором.$M, N \to \infty$$M$ $M$$N$

Для некоторой интуиции: во многих случаях у нас есть как , так что можно считать немного похожим на из начальной загрузки с и (я использую строчные буквы, чтобы избежать путаницы в обозначениях ). Таким образом, эмуляция распределения ( ) с использованием начальной загрузки из с является более "правильной" вещью, чем традиционная ( из$\hat{\mu}_N \overset{D}{\to} \mu$$N \to \infty$

$$\sqrt{N}(T_N(X_1, \ldots, X_N) - \mu), \tag{3} \label{m_out_of_n_intuition}$$ $m$$n$$m=N$$n = \infty$MNM<NNN$\ref{m_out_of_n_intuition}$$M$$N$$M < N$$N$$N$) своего рода. Дополнительным бонусом в вашем случае является то, что это менее затратно для вычислений.

Как вы упомянули, Политис и Романо - основная статья. Я нахожу Bickel et al (1997) под хорошим обзором бутстрапа из$M$$N$

Источники :

PJ Bickel, F Goetze, WR van Zwet. 1997. Повторная выборка менее чем наблюдений: выгоды, потери и средства защиты от потерь. Statistica Sinica.$n$

PJ Bickel, A Sakov. 2008. О выборе в nuf из начальной загрузки и доверительных границ для экстремумов. Statistica Sinica.$m$$m$$n$

После прочтения этой темы кажется, что в рамках «подвыборки» установлена ​​теория, позволяющая проводить такой тип оценки доверительного интервала. Ключевой ссылкой является «Политис, DN; Романо, JP (1994). Большие доверительные области выборки, основанные на подвыборках при минимальных допущениях. Annals of Statistics, 22, 2031-2050».

Идея состоит в том, чтобы извлечь выборки с размером M <N, «без замены» для каждой выборки (но с заменой на разные выборки размера B), из N исходных точек данных (рядов в моем случае) и оценить доверительный интервал интересующий параметр, используя эти образцы и общий метод начальной загрузки. Затем масштабируйте доверительный интервал на основе скорости изменения дисперсии базового распределения параметра с изменениями в M. Эта скорость равна 1 / M во многих общих настройках, но ее можно было бы эмпирически оценить, если мы повторим процедуру с несколькими различными M значения и посмотреть на изменения в размере межперсентильных диапазонов.