Сравнение байесовских оценок

1. Рассмотрим квадратичную потерю , с заранее заданным \ pi (\ theta), где \ pi (\ theta) \ sim U (0,1 / 2) . Пусть f (x | \ theta) = \ theta x ^ {\ theta-1} \ mathbb {I} _ {[0,1]} (x), \ theta> 0 вероятности. Найти оценку Байеса \ delta ^ \ pi .$L(\theta,\delta)=(\theta-\delta)^2$$\pi(\theta)$$\pi(\theta)\sim U(0,1/2)$$f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$$\delta^\pi$

2. Рассмотрим взвешенную квадратичную потерю $L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2$ где $w(\theta)=\mathbb{I}_{(-\infty,1/2)}$ с предшествующим $\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)$ . Пусть $f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$ - вероятность. Найдите оценку Байеса $\delta^\pi_1$ .

3. Сравните $\delta^\pi$ и $\delta^\pi_1$

Сначала я заметил, что $f(x|\theta)\sim Beta(\theta,1)$ , и я предположил, что это вероятность, иначе я не получу апостериор, тогда

$$\pi(\theta|x)\propto f(x|\theta)\pi(\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}*2\mathbb{I}_{(0,1/2)}(\theta)\sim Beta(\theta,1)$$ поэтому оценка Байеса в отношении квадратичной потери равна $$\mathbb{E}[\pi(\theta|x)]=\frac{\theta}{\theta+1}$$

Я смотрю в книге «Байесовский выбор», и есть теорема об оценке Байеса, связанной с взвешенными квадратичными потерями, и она задается как

$$\delta^\pi(x)=\frac{\mathbb{E}^\pi[w(\theta)\theta|x]}{\mathbb{E}^\pi[w(\theta)|x]}$$

Может кто-нибудь объяснить мне, как я это вычисляю?

То, что я пытался это:

$$\delta^\pi(x)=\frac{\frac{\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x|\theta)\pi(\theta)d\theta}}{\frac{\int f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x\theta)\pi(\theta)d\theta}}$$

Я знаю, что поддержка , но когда я пытался интегрировать в числитель$[0,\frac{1}{2}]$

$$\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta=\int_0^\frac{1}{2}\theta\theta x^{\theta-1}d\theta=\frac{1}{x}\int_0^\frac{1}{2}\theta^2 x^\theta d\theta$$

Я не получаю хороших результатов.

Во-первых, обратите внимание, что я исправил первоначальную формулировку вопроса относительно функций индикатора в ваших определениях вероятности, поскольку они должны быть функциями not . Следовательно, вероятность равна который однозначно интегрируется в один:θ е ( х ) = θ х θ - 1 Я [ 0 , 1 ] ( х ) ∫ 1 0 θ х θ - 1 д х = $x$$\theta$

$$f(x)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x)$$ $$\int_0^1 \theta x^{\theta-1}\text{d}x = 1$$

Во-вторых, апостериор в не является бета-функцией, поскольку, как указывает Greenparker Из-за ограничений для значений это также не гамма-распределение, а усечение гамма-распределения.π ( θ | x ) $\theta$

$$\pi(\theta|x)\propto\, \mathbb{I}_{[0,1/2]}(\theta)\theta x^{\theta-1}\propto \mathbb{I}_{[0,1/2]}(\theta)\,\theta \exp\{\log(x)\theta\}$$ $\theta$

Следовательно, оценка Байеса - это апостериорное ожидание который может показаться требующим использования неполной гамма-функции, но который может быть получен в закрытой форме путем интегрирования по : начиная с

$$\begin{align*}\mathbb{E}[\theta|x] &= \int_0^{1/2} \theta\times\theta \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\&= \int_0^{1/2} \theta^2 \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\\end{align*}$$ $$\int_0^{1/2} \theta^k \exp\{-\alpha\theta\}\text{d}\theta = \frac{-1}{\alpha}\left[\theta^k \exp\{-\alpha\theta\}\right]_0^{1/2} + \frac{k}{\alpha}\int_0^{1/2} \theta^{k-1} \exp\{-\alpha\theta\}\text{d}\theta$$ $$\int_0^{1/2} \exp\{-\alpha\theta\}\text{d}\theta = \frac{1-\exp\{-\alpha/2\}}{\alpha}$$

Последнее, как указано в моей книге , действительно, минимизация в эквивалентна минимизации в что само по себе эквивалентно минимизации в что эквивалентно замене исходного предшествующего значения новым предшествующим значением который необходимо перенормировать в плотность, то есть $\delta$

$$\int w(\theta)(\theta-\delta)^2 \pi(\theta|x) \text{d}\theta$$ $\delta$ $$\int w(\theta)(\theta-\delta)^2 \pi(\theta)f(x|\theta) \text{d}\theta$$ $\delta$ $$\int (\theta-\delta)^2 w(\theta)\pi(\theta)f(x|\theta) \text{d}\theta$$ $\pi$$w(\theta)\pi(\theta)$ $$\pi_1(\theta)=w(\theta)\pi(\theta) \Big/\int w(\theta)\pi(\theta)\text{d}\theta$$

Ваш ответ для квадрата ошибки потери является неправильным.

$$\pi(\theta|x) \propto f(x|\theta) \pi(\theta) = 2\theta x^{\theta-1}I_{(0,1/2)}(\theta).$$

Это распределение по , а не по , а случайная величина в апостериорной области равна . Таким образом, ваш ответ неверен, и правильный ответ будет последним средним этого распределения.$Beta(\theta,1)$$x$$\theta$$\theta$

Для второй части

(Предыдущее значение для функции взвешенных потерь - но вы называете ее . Я переключаю нотацию обратно на .)$\pi_1$$\pi$$\pi_1$

Пусть , где - нормализующая константа. Вам нужно рассчитать$\pi'(\theta) = cw(\theta) \pi_1(\theta)$$c$

$$\begin{align*} \delta^{\pi_1}(x) & = \dfrac{E^{\pi_1}[w(\theta) \theta |x ]}{E^{\pi_1}[w(\theta|x)]}\\ & = \dfrac{\int w(\theta) \theta f(x|\theta) \pi_1(\theta)\, d\theta}{\int w(\theta) f(x|\theta)\pi_1(\theta)\, d\theta}\\ & = \dfrac{\int \theta f(x|\theta) \pi'(\theta) \,d\theta}{\int f(x|\theta) \pi'(\theta) \, d\theta}\\ & = E^{\pi'}[\theta|x] \end{align*}$$

Таким образом, для взвешенной функции наименьших квадратов в теореме говорится, что байесовская оценка является последним средним по отношению к другому априорному значению. Предыдущее существо

$$\pi'(\theta) \propto w(\theta) \pi_1(\theta).$$

Нормализующей константой является .$\int_{\theta} w(\theta) \pi(\theta) d\theta = E_{\pi_1}[w(\theta)]$

$$\begin{align*} E_{\pi_1}[w(\theta)] & = \int_{0}^{1/2} I_{0,1}(\theta) d(\theta) = \frac{1}{2}. \end{align*}$$

Таким образом, предыдущий является . Это то же самое, что и у вас в первом вопросе.$\pi'(\theta) = 2I_{(0,1/2)}(\theta)$

Таким образом, ответ для сценариев (что бы это ни было) будет одинаковым. Вы можете найти интеграл здесь . Хотя, может быть, достаточно исправить форму ответа, а не завершить интеграл.