порог расчета для минимального классификатора риска?

Предположим, что два класса и имеют атрибут и имеют распределение и . если мы имеем равный для следующей матрицы затрат: $C_1$ $C_2$ $x$ $\cal{N} (0, 0.5)$ $\cal{N} (1, 0.5)$ $P(C_1)=P(C_2)=0.5$

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix}$

почему $x_0 < 0.5$ является порогом для классификатора минимального риска (стоимости)?

Это мой пример заметки, который я неправильно понимаю (т.е. как достигается этот порог?)

Редактировать 1: Я думаю, что для порогов отношения правдоподобия мы можем использовать P (C1) / P (C2).

Редактировать 2: я добавляю из Duda Book на Pattern немного текста о пороге. введите описание изображения здесь

— user153695
источник

Для матрицы затрат

L = [\begin{matrix} 0 & 0.5 \\ 1 & 0 \end{matrix}] \begin{matrix} c_{1} \\ c_{2} \end{matrix} prediction \begin{matrix} c_{1} & c_{2} \end{matrix} truth

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix} \begin{matrix} c_1 \\ c_2 \end{matrix} \;\text{prediction} \\ \hspace{-1.9cm} \begin{matrix} c_1 & c_2 \end{matrix} \\ \hspace{-1.9cm}\text{truth}$

потеря прогнозирования класса когда истина - это класс составляет , а стоимость прогнозирования класса когда истина - это класс составляет . За правильные прогнозы плата не взимается, . Тогда условный риск для прогнозирования любого класса равен $c_1$ $c_2$ $L_{12} = 0.5$ $c_2$ $c_1$ $L_{21} = 1$ $L_{11} = L_{22} = 0$ $R$ $k$

\begin{aligned} р (с_{1} | Икс) & знак равно L_{11} Pr (с_{1} | Икс) + L_{12} Pr (с_{2} | Икс) знак равно L_{12} Pr (с_{2} | Икс) \\ р (с_{2} | Икс) & знак равно L_{22} Pr (с_{2} | Икс) + L_{21} Pr (с_{1} | Икс) знак равно L_{21} Pr (с_{1} | Икс) \end{aligned}

$\begin{align} R(c_1|x) &= L_{11} \Pr (c_1|x) + L_{12} \Pr (c_2|x) = L_{12} \Pr (c_2|x) \\ R(c_2|x) &= L_{22} \Pr (c_2|x) + L_{21} \Pr (c_1|x) = L_{21} \Pr (c_1|x) \end{align}$ Для см. эти примечания на стр. 15.

Чтобы минимизировать риск / убыток, вы прогнозируете если цена из-за ошибки при этом (это потеря неправильного прогноза, умноженная на последующую вероятность того, что прогноз неверен, ) меньше, чем стоимость ошибочного прогнозирования альтернативы, $c_1$ $L_{12} \Pr (c_2|x)$

\begin{aligned} L_{12} Pr (с_{2} | Икс) & < L_{21} Pr (с_{1} | Икс) \\ L_{12} Pr (Икс | с_{2}) Pr (с_{2}) & < L_{21} Pr (Икс | с_{1}) Pr (с_{1}) \\ \frac{L_{12} Pr (с_{2})}{L_{21} Pr (с_{1})} & < \frac{Pr (Икс | с_{1})}{Pr (Икс | с_{2})} \end{aligned}

$\begin{align} L_{12} \Pr (c_2|x) &< L_{21} \Pr (c_1|x) \\ L_{12} \Pr (x|c_2) \Pr (c_2) &< L_{21} \Pr (x|c_1) \Pr (c_1) \\ \frac{L_{12} \Pr (c_2)}{L_{21} \Pr (c_1)} &< \frac{\Pr (x|c_1)}{ \Pr (x|c_2)} \end{align}$ где вторая строка использует правило Байеса . При равных априорных вероятностях вы получаете

Pr (c_{2} | x) \propto Pr (x | c_{2}) Pr (c_{2})

$\Pr (c_2|x) \propto \Pr (x|c_2) \Pr (c_2)$

Pr (c_{1}) = Pr (c_{2}) = 0.5

$\Pr (c_1) = \Pr (c_2) = 0.5$

\frac{1}{2} < \frac{Pr (Икс | с_{1})}{Pr (Икс | с_{2})}

$\frac{1}{2} < \frac{\Pr (x|c_1)}{ \Pr (x|c_2)}$

поэтому вы решили классифицировать наблюдение как , если отношение правдоподобия превышает этот порог. Теперь мне неясно, хотели ли вы знать «наилучший порог» с точки зрения отношения правдоподобия или с точки зрения атрибута . Ответ меняется в зависимости от функции стоимости. Использование гауссиана в неравенстве с и , , $c_1$ $x$ $\sigma_1 = \sigma_2 = \sigma$ $\mu_1 = 0$ $\mu_2 = 1$

\begin{aligned} \frac{1}{2} & < \frac{\frac{1}{\sqrt{2 π} σ} ехр [- \frac{1}{2 σ^{2}} (Икс - μ_{1})^{2}]}{\frac{1}{\sqrt{2 π} σ} ехр [- \frac{1}{2 σ^{2}} (Икс - μ_{2})^{2}]} \\ журнал (\frac{1}{2}) & < журнал (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (Икс - 0)^{2} - [журнал (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (Икс - 1)^{2}] \\ журнал (\frac{1}{2}) & < - \frac{{Икс}^{2}}{2 σ^{2}} + \frac{{Икс}^{2}}{2 σ^{2}} - \frac{2 Икс}{2 σ^{2}} + \frac{1}{2 σ^{2}} \\ \frac{Икс}{σ^{2}} & < \frac{1}{2 σ^{2}} - журнал (\frac{1}{2}) \\ Икс & < \frac{1}{2} - журнал (\frac{1}{2}) σ^{2} \end{aligned}

$\begin{align} \frac{1}{2} &< \frac{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_1)^2 \right]}{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_2)^2 \right]} \\ \log \left(\frac{1}{2}\right) &< \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-0)^2 - \left[ \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-1)^2 \right] \\ \log \left(\frac{1}{2}\right) &< -\frac{x^2}{2\sigma^2} + \frac{x^2}{2\sigma^2} - \frac{2x}{2\sigma^2} + \frac{1}{2\sigma^2} \\ \frac{x}{\sigma^2} &< \frac{1}{2\sigma^2} - \log \left(\frac{1}{2}\right) \\ x &< \frac{1}{2} - \log \left(\frac{1}{2}\right) \sigma^2 \end{align}$ поэтому порог предсказания в терминах

x

$x$ поиск может быть достигнут только в том случае, если потери от ложных прогнозов одинаковы, т.е. потому что только тогда вы можете иметь и вы получите .

L_{12} = L_{21}

$L_{12} = L_{21}$

\log (\frac{L_{12}}{L_{21}}) = \log (1) = 0

$\log \left( \frac{L_{12}}{L_{21}} \right) = \log (1) = 0$

x_{0} < \frac{1}{2}

$x_0 < \frac{1}{2}$

— Энди
источник

Хороший ответ, но смутил меня! если вы хотите выбрать или , какой из них правильный?

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

Таким образом, прямо на границе решения вы не можете точно сказать, должно ли наблюдение находиться в классе один или два (потому что оно точно на границе). Поэтому выбирая ли наблюдение должен быть в классе 1 , если или до вас. При достаточно больших выборках это должно произойти для очень небольшого количества наблюдений, поэтому на полях это будет иметь значение для вашего результата.

x_{0} = 0.5

$x_0=0.5$

i

$i$

x_{0} \leq 0.5

$x_0 \leq 0.5$

x_{0} < 0.5

$x_0 < 0.5$

— Энди

все мои проблемы, которые привели к награде, что мой проф. рассчитывается и не принимается см. мои правки, о которых идет речь, тонкий порог должен быть .

x_{0} < 0.5

$x_0<0.5$

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

возможно 0.5-ln :)

— user153695

@ whuber спасибо, я полностью пропустил это, поэтому я начал с совершенно неправильного конца.

— Энди