Это интересный вопрос, в котором я хочу вначале указать на некоторые основные моменты.
- Две оценки соответствуют
- β 2β^1 более эффективен, чем так как он меньше вариацийβ^2
- Функции потери не совпадают
- один метод усадки применяется к одному так, чтобы он уменьшал изменение, которое само по себе в итоге дает лучшую оценку
- Вопрос : Другими словами, если усадка применяется умно, всегда ли она
работает лучше для более эффективных оценщиков?
Фундаментально, можно улучшить оценку в определенной структуре, такой как беспристрастный класс оценок. Однако, как вы указали, различные функции потерь усложняют ситуацию, поскольку одна функция потерь может минимизировать квадратичные потери, а другая минимизирует энтропию. Более того, использование слова «всегда» очень сложно, поскольку, если один оценщик является лучшим в классе, вы не можете претендовать на лучшую оценку, логически говоря.
Для простого примера (в той же самой структуре), давайте две оценки, а именно, Мост ( регрессия с нормы) и Лассо (штраф штрафовал за первую норму вероятности) и разреженный набор параметров, а именно , линейная модель , нормальность члена ошибки, , известная , квадратичная функция потерь (ошибки наименьших квадратов) и независимость ковариат по . Давайте выберем для для первой оценки и для второй оценки. Тогда вы можете улучшить оценки, выбрав β y = x β + e e ∼ N ( 0 , σ 2 < ∞ ) σ x l p p = 3 p = 2 p → 1lpβy=xβ+ee∼N(0,σ2<∞)σxlpp=3p=2p→1что в итоге дает лучшую оценку с меньшей дисперсией. Тогда в этом примере есть шанс улучшить оценку.
Итак, мой ответ на ваш вопрос - да, учитывая, что вы принимаете ту же группу оценок и ту же функцию потерь, а также предположения.