Разница между усреднением данных, затем подгонкой и подбором данных, затем усреднением

Если таковые имеются, между подгонкой линии к нескольким отдельным «экспериментам», затем усреднением подгонки или усреднением данных из отдельных экспериментов, затем подгонкой усредненных данных. Позвольте мне уточнить:

Я выполняю компьютерное моделирование, которое генерирует кривую, показанную ниже. Мы извлекаем количество, давайте назовем его «A», подгоняя линейную область графика (длительное время). Значение - это просто наклон линейной области. Конечно, есть ошибка, связанная с этой линейной регрессией.

Обычно мы запускаем около 100 таких симуляций с различными начальными условиями, чтобы вычислить среднее значение «А». Мне сказали, что лучше усреднить необработанные данные (на графике ниже) в группы, скажем, 10, затем выбрать «А» и усреднить эти 10 «А» вместе.

У меня нет интуиции в отношении того, есть ли в этом какая-либо заслуга или она лучше, чем подгонка 100 отдельных значений «А» и их усреднение.

Представьте, что мы находимся в контексте данных панели, где существуют различия во времени и между фирмами . Думайте о каждом периоде времени как об отдельном эксперименте. Я понимаю ваш вопрос как эквивалентно ли оценивать эффект, используя:$t$$i$$t$

• Поперечное сечение в средних временных рядах.
• Средние временные ряды изменения поперечного сечения.

Ответ в целом - нет.

Настройка:

В моей формулировке мы можем рассматривать каждый период времени как отдельный эксперимент.$t$

Допустим, у вас есть сбалансированная панель длиной по фирмам. Если мы разбиваем каждый период времени т. Д. ..., мы можем записать общие данные как:$T$$n$$(X_t, \mathbf{y}_t)$

$$Y = \begin{bmatrix} \mathbf{y}_1 \\ \mathbf{y}_2 \\ \ldots \\ \mathbf{y}_n \end{bmatrix} \quad \quad X = \begin{bmatrix} X_1 \\ X_2 \\ \ldots \\ X_n \end{bmatrix}$$

Среднее соответствует:

$$\begin{align*} \frac{1}{T} \sum_t \mathbf{b}_t &= \frac{1}{T} \sum_t \left(X_t'X_t \right)^{-1} X_t' \mathbf{y}_t \\ &= \frac{1}{T} \sum_t S^{-1}_t \left( \frac{1}{n} \sum_i \mathbf{x}_{t,i} y_{t,i}\right) \quad \text{where } S_t = \frac{1}{n} \sum_i \mathbf{x}_{t,i} \mathbf{x}_{t,i}' \end{align*}$$

Подгонка средних:

В целом это не равно оценке, основанной на поперечном изменении средних временных рядов (то есть, между оценками).

$$\left( \frac{1}{n} \sum_i \bar{\mathbf{x}}_i \bar{\mathbf{x}}_i' \right)^{-1} \frac{1}{n} \sum_i \bar{\mathbf{x}}_i \bar{y}_i$$

Где т. Д ...$\bar{\mathbf{x}}_i = \frac{1}{T} \sum_t \mathbf{x}_{t, i}$

Общая оценка OLS:

Что-то, возможно, полезно подумать, это объединенная оценка OLS. Что это? Затем используйте

$$\begin{align*} \hat{\mathbf{b}} &= \left(X'X\right)^{-1}X'Y \\ &= \left( \frac{1}{nT} \sum_t X_t'X_t \right)^{-1} \left( \frac{1}{nT} \sum_t X_t' \mathbf{y}_i \right) \end{align*}$$ $\mathbf{b}_t = \left(X_t'X_t \right)^{-1}X_t' \mathbf{y}_i$ $$\begin{align*} &= \left( \frac{1}{nT} \sum_t X_t'X_t \right)^{-1} \left( \frac{1}{nT} \sum_t X_t'X_t \mathbf{b}_t \right) \end{align*}$$

Пусть и будут нашими оценками по всей выборке и в период соответственно. Тогда мы имеем:$S = \frac{1}{nT} \sum_i X'X$$S_t = \frac{1}{n} X_t'X_t$$\operatorname{E}[\mathbf{x}\mathbf{x}']$$t$

$$\begin{align*} \hat{\mathbf{b}} &= \frac{1}{T} \sum_t \left( S^{-1} S_t \right) \mathbf{b}_t \end{align*}$$

Это что-то вроде среднего значения разных временных оценок , но это немного по-другому. В некотором смысле вы придаете больший вес периодам с большей дисперсией правосторонних переменных.$\mathbf{b}_t$

Особый случай: правые переменные не зависят от времени и фирмы

Если правая переменные для каждой фирмы являюсь постоянными во время (т.е. для любого и ) , то для все , и мы имеем:$i$$X_{t_1} = X_{t_2}$$t_1$$t_2$$S = S_t$$t$

$$\hat{\mathbf{b}} = \frac{1}{T} \sum_t \mathbf{b}_t$$

Веселый комментарий:

Это тот случай, когда Fama и Macbeth применили этот метод усреднения поперечных оценок для получения непротиворечивых стандартных ошибок при оценке того, как ожидаемая доходность варьируется в зависимости от ковариации фирм с рынком (или других факторов нагрузки).

Процедура Fama-Macbeth - это интуитивно понятный способ получения согласованных стандартных ошибок в контексте панели, когда термины ошибок коррелируют с поперечным сечением, но не зависят от времени. Более современная техника, которая дает похожие результаты, - это кластеризация по времени.

(Примечание: у меня недостаточно репутации, чтобы комментировать, поэтому я публикую это как ответ.)

Для конкретного поставленного вопроса ответ с помощью fcop является правильным: подгонка среднего значения аналогична усреднению подгонки (по крайней мере, для линейных наименьших квадратов). Однако стоит упомянуть, что любой из этих наивных « онлайн » подходов может дать необъективные результаты по сравнению с подборкой всех данных одновременно. Поскольку они эквивалентны, я остановлюсь на подходе «соответствовать среднему». По существу, подгонки осредненных кривых игнорирует относительную неопределенность в значений между различными точками. Например, если , и , то$\bar{y}[x]=\langle y[x]\rangle$$y$$x$$y_1[x_1]=y_2[x_1]=2$$y_1[x_2]=1$$y_1[x_2]=3$$\bar{y}[x_1]=\bar{y}[x_2]=2$ , но любое соответствие кривой должно больше заботить несоответствие в по сравнению с .х $x_1$$x_2$

Обратите внимание, что большинство научных программных платформ должны иметь инструменты для вычисления / обновления истинного «онлайнового» соответствия наименьших квадратов (известного как рекурсивные наименьшие квадраты ). Таким образом, все данные могут быть использованы (если это желательно).