МЕНЬШЕ, что позволяет разрывы

14

Существует ли метод моделирования, такой как LOESS, который допускает ноль, один или несколько разрывов, где время разрывов не известно априори?
Если метод существует, есть ли существующая реализация в R?

— Джером англим
источник

1

разрывы при известных значениях x или при неизвестных значениях x? (известный х достаточно просто)

— Glen_b

@glen Я обновил вопрос: меня интересуют ситуации, когда сроки разрывов не известны априори.

— Джером Энглим

Это может быть спорный / глупый вопрос, но вы говорите «время»: это для использования с временными рядами? Я полагаю, что большинство ответов ниже предполагают это («точка изменения и т. Д.»), Хотя LOESS может применяться в ситуациях, не связанных с временными рядами, с разрывами. Я думаю.

— Уэйн

15

Звучит так, как будто вы хотите выполнить обнаружение нескольких точек изменения с последующим независимым сглаживанием внутри каждого сегмента. (Обнаружение может быть онлайн или нет, но ваше приложение вряд ли будет онлайн.) Об этом много литературы; Поиски в интернете плодотворны.

Д. А. Стивенс написал полезное введение в обнаружение байесовской точки изменения в 1994 г. (Приложение. Стат. 43 # 1, стр. 159-178: JSTOR ).
Совсем недавно Пол Фирнхед проделал хорошую работу (например, Точный и эффективный байесовский вывод для множественных проблем с точками изменения , Stat Comput (2006) 16: 203-213: Free PDF ).
Существует рекурсивный алгоритм, основанный на прекрасном анализе D Barry & JA Hartigan
- Модели разделения продуктов для моделей точек изменения, Ann. Стат. 20: 260-279: JSTOR ;
- Байесовский анализ для проблем с переменными точками, JASA 88: 309-319: JSTOR .
Одна реализация алгоритма Барри и Хартигана описана в O. Seidou & TBMJ Ourda, Обнаружение множественных точек изменения на основе рекурсии в многомерной линейной регрессии и применении к речным потокам, Water Res. Рез., 2006: Бесплатный PDF .

Я не искал никаких реализаций R (я кодировал одну из них в Mathematica некоторое время назад), но был бы признателен, если бы вы нашли такую.

— Whuber
источник

3

Я нашел пакет bcp R jstatsoft.org/v23/i03/paper, который реализует алгоритм Барри и Хартигана

— Jeromy Anglim

@Jeromy: Спасибо за пакет R и за вставку ссылок на ссылки.

— whuber

7

сделать это с помощью регрессии ломаной линии Кенкера, см. стр. 18 этой виньетки

http://cran.r-project.org/web/packages/quantreg/vignettes/rq.pdf

В ответ на Уубер последний комментарий:

Эта оценка определяется следующим образом.

, $x\in\mathbb{R}$ , $x_{(i)}\geq x_{(i-1)}\;\forall i$

, $e_i:=y_{i}-\beta_{i}x_{(i)}-\beta_0$

, , $z^+=\max(z,0)$ $z^-=\max(-z,0)$

, $\tau \in (0,1)$ $\lambda\geq 0$

$\underset{\beta\in\mathbb{R}^n|\tau, \lambda}{\min.} \sum_{i=1}^{n} \tau e_i^++\sum_{i=1}^{n}(1-\tau)e_i^-+\lambda\sum_{i=2}^{n}|\beta_{i}-\beta_{i-1}|$

дает желаемый квантиль (т.е. в примере ). направляет количество точек останова: прибольших значениях эта оценка сокращается до точкиостанова(соответствует классической оценке линейной квантильной регрессии). $\tau$ $\tau=0.9$ $\lambda$ $\lambda$

Квантильные сглаживающие сплайны Roger Koenker, Pin Ng, Stephen Portnoy Biometrika, Vol. 81, No. 4 (Dec., 1994), pp. 673-680

PS: есть открытый рабочий документ с таким же названием, но не одно и то же.

— user603
источник

Это хорошая идея: спасибо за ссылку. Тем не менее, остатки этого конкретного соответствия выглядят довольно плохо, что заставляет меня задуматься, насколько хорошо он определяет потенциальные точки изменения.

— whuber

whuber: я не знаю, насколько вы знакомы с теорией квантильной регрессии. Эти линии имеют главное преимущество перед сплайнами: они не предполагают какого-либо распределения ошибок (т.е. они не предполагают, что невязки являются гауссовыми).

— user603

@kwak Это выглядит интересно. Не предполагая, что нормальное распределение ошибок будет полезно для одного из моих приложений.

— Джером Энглим

Действительно, из этой оценки вы получаете фактические условные квантили: в двух словах, это сплайны / LOESS-регрессии, которые представляют собой боксы для пары (среднее, sd): гораздо более богатое представление о ваших данных. Они также сохраняют свою валидность в негауссовском контексте (например, асимметричные ошибки, ...).

— user603

@kwak: остатки сильно коррелируют с координатой х. Например, существуют длинные серии отрицательных или небольших положительных остатков. Независимо от того, имеют ли они распределение Гаусса или нет, это не имеет значения (а также не имеет значения в любом исследовательском анализе): эта корреляция показывает, что соответствие является плохим.

— whuber

6

Вот некоторые методы и связанные пакеты R для решения этой проблемы

Оценка вейвлет- порога в регрессии учитывает разрывы. Вы можете использовать пакет wavethresh в R.

Многие древовидные методы (недалеко от идеи вейвлета) полезны, когда у вас есть разрывы. Отсюда пакет Treethresh, пакет дерева!

В семействе методов " местного максимального правдоподобия " ... среди прочего: Работа Пожеля и Спокойны: адаптивное сглаживание весов (пакет aws) Работа Екатерины Лоадер: пакет locfit

Я предполагаю, что любое ядро, более гладкое с локально изменяющейся пропускной способностью, имеет смысл, но я не знаю R пакета для этого.

примечание: я на самом деле не понимаю, в чём разница между LOESS и регрессией ... Является ли идея, что в алгоритмах LOESS должны быть "на линии"?

— Робин Жирар
источник

1

Re LOESS: Возможно, моя терминология не совсем верна. Под LOESS я имею в виду модели, которые предсказывают Y из X, используя некоторую форму подгонки кривой. например, как видно на большинстве этих графиков: google.com/…

— Jeromy Anglim

2

Должна быть возможность кодировать решение в R, используя нелинейную регрессионную функцию nls, b splines (например, функцию bs в пакете spline) и функцию ifelse.

— Эндрю Робинсон
источник