Процентные функции потери

Решение проблемы:

$$\min_{m} \; E[|m-X|]$$

Хорошо известно, что это медиана , но как выглядит функция потерь для других процентилей? Пример: 25-й процентиль X является решением для:$X$

$$\min_{m} \; E[ L(m,X) ]$$

Что такое $L$ в этом случае?

Позвольте $I$ быть индикаторной функцией: она равна $1$ для истинных аргументов и $0$ противном случае. Выберите $0\lt\alpha\lt 1$ и установите

$$\Lambda_\alpha(x)=\alpha x\, I(x\ge 0) - (1-\alpha)x\, I(x\lt 0).$$

Эта фигура строит $\Lambda_{1/5}$ . Он использует точное соотношение сторон, чтобы помочь вам измерить уклоны, которые равны $-4/5$ на левой стороне и $+1/5$ на правой. В этом случае экскурсии выше $0$ сильно снижены по сравнению с экскурсиями ниже $0$ .

Это естественная функция, которую нужно попробовать, потому что она взвешивает значения $x$ которые превышают $0$ другому, чем$x$ , которые меньше . Давайте вычислим связанный убыток и затем оптимизируем его.$0$

Запись $F$ для функции распределения L α ( m , x ) = Λ α ( x - m $X$ и установка , вычислить$L_\alpha(m,x) = \Lambda_\alpha(x-m)$

$$\eqalign{ \mathbb{E}_F(L_\alpha(m,X))&=\int_\mathbb{R} \Lambda_\alpha(x-m)dF(x)\\ &=\alpha\int_\mathbb{R} I(x\ge m)(x-m) dF(x) - (1-\alpha)\int_\mathbb{R} (x-m)I(x\lt m) dF(x)\\ &=\alpha\int_m^\infty(x-m)dF(x) - (1-\alpha)\int_{-\infty}^m(x-m) dF(x). }$$

Поскольку на этой иллюстрации изменяется со стандартным нормальным распределением , общая взвешенная по вероятности область . (Кривая - это график .) Правый график дляF Λ 1 / 5 Λ 1 / 5 ( х - т ) д Р ( х ) м = 0 Е Р ( L 1 / 5 ( м , Х ) $m$$F$$\Lambda_{1/5}$$\Lambda_{1/5}(x-m)dF(x)$$m=0$ наиболее четко показывает эффект уменьшения положительных значений, поскольку без этого уменьшения график будет быть симметричным относительно происхождения. Средний график показывает оптимальное значение, когда общее количество синих чернил (представляющее ) настолько мало, насколько это возможно.$\mathbb{E}_F(L_{1/5}(m,X))\ $

Эта функция дифференцируема, и поэтому ее экстремумы можно найти путем проверки критических точек. Применение правила цепочки и основной теоремы исчисления для получения производной по$m$ дает

$$\eqalign{ \frac{\partial}{\partial m}\mathbb{E}_F(L_\alpha(m,X))&=\alpha\left(0-\int_m^\infty dF(x)\right) - (1-\alpha)\left(0 - \int_{-\infty}^m dF(x)\right)\\ &= F(m) - \alpha. }$$

Для непрерывных распределений это всегда имеет решение , который, по определению, представляет собой любой - квантиль . Для не непрерывных распределений это может не иметь решения, но будет хотя бы один для которого для всех и для всех : это также (по определению) является квантилемα X m F ( x ) - α < 0 x < m F ( x ) - α ≥ 0 x ≥ m α $m$$\alpha$$X$$m$$F(x)-\alpha\lt 0$$x\lt m$$F(x)-\alpha\ge 0$$x\ge m$$\alpha$$X$ .

Наконец, поскольку и , ясно, что ни ни не уменьшат эту потерю. Это исчерпывает проверку критических точек, показывая, чтоα ≠ 1 m → - ∞ m → ∞ Λ $\alpha\ne 0$$\alpha\ne 1$$m\to-\infty$$m\to\infty$$\Lambda_\alpha$ отвечает всем требованиям.

Как особый случай, - это потери, проявленные в вопрос.$\mathbb{E}_F(2L_{1/2}(m,X)) = \mathbb{E}_F\left(\left|m-x\right|\right)$

В этой статье есть ваш ответ. Чтобы быть конкретным, Функция потерь может быть интерпретирована как «уравновешивание» различных областей вероятности массы около посредством вычитания . Для медианы эти массовые области равны: делая функцию потерь пропорциональной (в ожидании, что константа пренебрежимо мала) в что дает желаемое заключение для медианы.0,25 0,25 - 1 { X > м } L 0,5 ( м , Х ) = | ( Х - м ) ( 0,5 - 1 { Х > м } )

$$L_{0.25}(m,X) = \left| \left( X - m \right) \left(0.25 - \mathbf{1}\{ X > m \} \right) \right|.$$ $0.25$$0.25 - \mathbf{1}\{ X > m \}$| X - м | $$L_{0.5}(m,X) = \left| \left( X - m \right) \left(0.5 - \mathbf{1}\{ X > m \} \right) \right| = \left| \left( X - m \right) \times \pm 0.5 \right|,$$ $$\left| X - m\right|,$$