ЛАССО предположения

В сценарии регрессии LASSO, где

$y= X \beta + \epsilon$ ,

и оценки LASSO задаются следующей задачей оптимизации

$\min_\beta ||y - X \beta|| + \tau||\beta||_1$

Существуют ли какие-либо предположения относительно распределения $\epsilon$ ?

В сценарии OLS можно ожидать, что $\epsilon$ являются независимыми и нормально распределенными.

Имеет ли смысл анализировать остатки в регрессии LASSO?

Я знаю, что оценка LASSO может быть получена как апостериорная мода при независимых двойных экспоненциальных для $\beta_j$ . Но я не нашел никакой стандартной "фазы проверки предположений".

Заранее спасибо (:

— deps_stats
источник

Я не эксперт по LASSO, но вот мое мнение.

Прежде всего обратите внимание, что OLS довольно устойчив к нарушениям независимости и нормальности. Затем, исходя из теоремы 7 и приведенного выше обсуждения в статье « Робастная регрессия и лассо» (X. Хуан, С. Караманис и С. Маннор), я предполагаю, что в регрессии LASSO нас больше волнует не распределение , но в совместном распределении . Теорема основана на предположении, что является выборкой, так что это сравнимо с обычными допущениями OLS. Но LASSO менее ограничен, он не ограничивает создание из линейной модели. $\varepsilon_i$ $(y_i,x_i)$ $(y_i,x_i)$ $y_i$

Подводя итог, ответ на ваш первый вопрос - нет. На нет распределительных предположений , все распределительные предположения на . Кроме того, они слабее, поскольку в LASSO нет постулата об условном распределении . $\varepsilon$ $(y,X)$ $(y|X)$

Сказав это, ответ на второй вопрос также нет. Поскольку не играет никакой роли, нет смысла анализировать их так, как вы анализируете их в OLS (тесты нормальности, гетероскедастичность, Дурбин-Ватсон и т. Д.). Однако вы должны проанализировать их в контексте того, насколько хорошо подходила модель. $\varepsilon$

— mpiktas
источник