Начальная загрузка остатков: я делаю это правильно?

Прежде всего: Из того, что я понял, остатки начальной загрузки работают следующим образом:

1. Подгоните модель к данным
2. Рассчитать остатки
3. Пересчитайте остатки и добавьте их к 1.
4. Подгоните модель к новому набору данных из 3.
5. Повторите nвремя, но всегда добавляйте пересчитанные остатки к подгонке от 1.

Пока это правильно?

Я хочу сделать что-то немного другое:

Я хочу оценить параметр и неопределенность прогноза для алгоритма, который оценивает некоторую переменную среды.

У меня есть безошибочный временной ряд (из симуляции) этой переменной x_true, к которому я добавляю некоторый шум x_noise, для генерации синтетического набора данных x. Затем я пытаюсь найти оптимальные параметры, подбирая в своем алгоритме сумму квадратов sum((x_estimate - x_true)^2)(! Не x_estimate - x!) В качестве целевой функции. Чтобы увидеть, как работает мой алгоритм и создать образцы распределений моих параметров, я хочу сделать повторную выборку x_noise, добавить ее x_true, снова подогнать мою модель, промыть и повторить. Это правильный подход для оценки неопределенности параметров? Могу ли я интерпретировать совпадения для загруженных наборов данных как неопределенность прогноза, или я должен следовать процедуре, которую я опубликовал выше?

/ edit: я думаю, что я не совсем понял, что делает моя модель. Думайте об этом как о чем-то вроде шумоподавляющего метода. Это не прогнозирующая модель, это алгоритм, который пытается извлечь основной сигнал из шумного временного ряда данных об окружающей среде.

/ edit ^ 2: Для пользователей MATLAB я написал несколько быстрых и грязных примеров линейной регрессии того, что я имею в виду.

Это то, что я считаю "обычной" начальной загрузкой остатков (пожалуйста, исправьте меня, если я ошибаюсь): http://pastebin.com/C0CJp3d1

Это то, что я хочу сделать: http://pastebin.com/mbapsz4c

Вот более общий алгоритм (полупараметрический-бутстрап):

$\text{B}$

$y = x\beta + \epsilon$

$\hat{\epsilon}$

1. $\hat\beta$$\hat\epsilon$
2. $\hat\epsilon_\text{B}$
3. $y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$
4. $y_B$$x$$\hat\beta_\text{B}$
5. $\text{B}$

Я не уверен, что мое понимание верно. Но вот мое предложение изменить ваш код ("обычная начальная загрузка остатков", строки 28-34) в:

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

Идея заключается в том, что каждый раз, когда вы используете остатки не с первого запуска, а с предыдущего подгонки начальной загрузки. Что касается меня, то все остальное кажется верным.

Это пересмотренная версия, которая была проверена в MATLAB. Две ошибки были исправлены.

Чтобы увидеть, как алгоритм работает с точки зрения точности прогнозирования / среднеквадратичной ошибки, вам, вероятно, понадобится загрузчик «оптимизма» Эфрона-Гонга. Это реализовано для удобства использования в rmsпакете R. См своих функций ols, validate.ols, calibrate.