Определение естественных кубических сплайнов для регрессии

16

Я изучаю сплайны из книги Hastie et al. "Элементы статистического изучения данных: добыча, вывод и прогнозирование". На странице 145 я обнаружил, что естественные кубические сплайны линейны за граничными узлами. В есть узлов, и о таком сплайне в книге дается следующее. $K$ $\xi_1, \xi_2, ... \xi_K$

Вопрос 1: Как освобождаются 4 степени свободы? Я не понимаю эту часть.

Вопрос 2 : В определении когда тогда . Что автор пытается сделать в этой формуле? Как это помогает убедиться, что сплайны линейны за граничными узлами? $d_k(X)$ $k=K$ $d_K(X) = \frac 0 0$

— Durin
источник

17

Начнем с рассмотрения простых кубических сплайнов. Они кубичны между каждой парой узлов и кубичны за пределами граничных узлов. Мы начинаем с 4df для первой кубики (слева от первого граничного узла), и каждый узел добавляет один новый параметр (потому что непрерывность кубических сплайнов и производных и вторых производных добавляет три ограничения, оставляя один свободный параметр), в результате чего получается параметра для узлов. $K+4$ $K$

Естественный кубический сплайн является линейным с обоих концов. Это ограничивает кубические и квадратные части там до 0, каждый уменьшая ФР на 1. Именно 2 ДФ на каждом из двух концов кривой, уменьшая к . $K+4$ $K$

Представьте, что вы решили, что можете потратить некоторое общее количество степеней свободы ( скажем, ) на непараметрическую оценку кривой. Поскольку для наложения естественного сплайна используется на 4 степени свободы меньше, чем для обычного кубического сплайна (для того же числа узлов), с этими параметрами можно иметь еще 4 узла (и, следовательно, еще 4 параметра) для моделирования кривой между граничными узлами. , $p$ $p$
Следует отметить , что определение для (поскольку всего базисных функций). Таким образом, последняя базисная функция в этом списке, . Таким образом, наибольшее необходимое для определения относится к $N_{k+2}$ $k=1,2,...,K-2$ $K$ $N_{K}=d_{K-2}-d_{K-1}$ $k$ $d_k$ $k=K-1$ , (То есть, нам не нужно , чтобы попытаться выяснить , что некоторые могли бы сделать, так как мы не используем его.) $d_K$

— Glen_b - Восстановить Монику
источник

4

Я детализирую утверждение: «Это освобождает четыре степени свободы (два ограничения каждое в обеих граничных областях)» в примере с узлами . Связанными интервалами являются , и (поэтому существуют интервала и $2$ $\xi_1, \xi_2$ $]-\infty, \xi_1[$ $]\xi_1, \xi_2[$ $]\xi_2, +\infty[$ $|I|=3$ $|I|-1=2$ узлы).

Для (общих) кубических сплайнов

Без ограничений регулярности имеем уравнений: $4|I|=12$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X; 1 (X < ξ_{1}) X^{2}; 1 (X < ξ_{1}) X^{3};

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~\mathbf{1}(X < \xi_1)X^2~~;~~\mathbf{1}(X < \xi_1)X^3~~;$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X; 1 (ξ_{2} \leq X) X^{2}; 1 (ξ_{2} \leq X) X^{3} .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X~~;~~\mathbf{1}(\xi_2 \leq X)X^2~~;~~\mathbf{1}(\xi_2 \leq X)X^3.$

$\mathcal{C}^r$ $r=2$ $(r+1)\times(|I|-1) = 3\times(|I|-1) = 6$

$12-6=6$

Для естественных кубических сплайнов

« Естественные кубические сплайны добавляют дополнительные ограничения, а именно, эта функция является линейной за граничными узлами».

$4|I|-4=12-4$ $4$ $2$

1 (X < ξ_{1}); 1 (X < ξ_{1}) X;

$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~$

1 (ξ_{1} \leq X < ξ_{2}); 1 (ξ_{1} \leq X < ξ_{2}) X; 1 (ξ_{1} \leq X < ξ_{2}) X^{2}; 1 (ξ_{1} \leq X < ξ_{2}) X^{3};

$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$

1 (ξ_{2} \leq X); 1 (ξ_{2} \leq X) X .

$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X.$

$3\times(|I|-1) = 6$

$8-6=2$

— ahstat
источник