Нег Бином и Приор Джеффриса

Я пытаюсь получить априор Джеффриса для отрицательного биномиального распределения. Я не вижу, где я иду не так, поэтому, если кто-то может помочь указать на это, это будет оценено.

Итак, ситуация такова: я должен сравнить предыдущие распределения, полученные с использованием бинома и отрицательного бинома, где (в обоих случаях) есть испытаний и успехов. Я получаю правильный ответ для биномиального случая, но не для отрицательного бинома. $n$ $m$

Давайте назовем Джеффриса предшествующий . Потом, $\pi_J(\theta)$

π_{J} (θ) \propto [I (θ)]^{1 / 2} .

$\pi_J(\theta)\propto [I(\theta)]^{1/2}.$

В условиях регулярности (выполняется, когда мы имеем дело с экспоненциальным семейством),

I (θ) = - E (\frac{\partial^{2} \log L (θ | x)}{\partial θ^{2}})

$I(\theta)=-E\left(\frac{\partial^2 \log L(\theta|x)}{\partial \theta^2}\right)$ где для отрицательного бинома равно в приведенном выше выражение (общее количество успехов фиксировано, - нет). Распределение - я думаю -

n

$n$

x

$x$

m

$m$

n

$n$

p (m | θ) \propto θ^{m} (1 - θ)^{n - m}

$p(m|\theta)\propto\theta^m(1-\theta)^{n-m}$ поскольку определяется как вероятность успеха, а - количество успехов. Это также вероятность, так как является скаляром, а не вектором. Следовательно,

θ

$\theta$

m

$m$

m

$m$

L (θ | n) \propto θ^{m} (1 - θ)^{n - m} \log L (θ | n) = m \log θ + (n - m) \log (1 - θ) \frac{\partial \log L (θ | n)}{\partial θ} = \frac{m}{θ} - \frac{n - m}{1 - θ} \frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}} = - \frac{m}{θ^{2}} - \frac{n - m}{(1 - θ)^{2}}

$L(\theta|n)\propto\theta^m(1-\theta)^{n-m}\\ \log L(\theta|n)=m\log\theta +(n-m)\log (1-\theta)\\ \frac{\partial\log L(\theta|n)}{\partial \theta}=\frac{m}{\theta}-\frac{n-m}{1-\theta}\\ \frac{\partial^2\log L(\theta|n)}{\partial \theta^2}=-\frac{m}{\theta^2}-\frac{n-m}{(1-\theta)^2}$ так что информация Фишера

I (θ) = - E (\frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}}) = \frac{m}{θ^{2}} + \frac{E (n) - m}{(1 - θ)^{2}} = \frac{m}{θ^{2}} + \frac{\frac{m θ}{1 - θ} - m}{(1 - θ)^{2}} = \frac{m (1 - θ)^{2} + \frac{m θ^{3}}{(1 - θ)} - m θ^{2}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) + \frac{m θ^{3}}{(1 - θ)}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) (1 - θ) + m θ^{3}}{θ^{2} (1 - θ)^{3}} = \frac{m (1 - 3 θ + 2 θ^{2} + θ^{3})}{θ^{2} (1 - θ)^{3}} \propto \frac{1 - 3 θ + 2 θ^{2} + θ^{3}}{θ^{2} (1 - θ)^{3}}

$I(\theta)=-E\left(\frac{\partial^2\log L(\theta|n)}{\partial \theta^2}\right)=\frac{m}{\theta^2}+\frac{E(n)-m}{(1-\theta)^2}=\frac{m}{\theta^2}+\frac{\frac{m\theta}{1-\theta}-m}{(1-\theta)^2}\\ =\frac{m(1-\theta)^2+\frac{m\theta^3}{(1-\theta)}-m\theta^2}{\theta^2(1-\theta)^2}=\frac{m(1-2\theta)+\frac{m\theta^3}{(1-\theta)}}{\theta^2(1-\theta)^2}\\ =\frac{m(1-2\theta)(1-\theta)+m\theta^3}{\theta^2(1-\theta)^3}=\frac{m(1-3\theta+2\theta^2+\theta^3)}{\theta^2(1-\theta)^3}\\ \propto\frac{1-3\theta+2\theta^2+\theta^3}{\theta^2(1-\theta)^3}$

Это, однако, не дает мне правильного ответа. Правильный ответ

π_{J} (θ) \propto \frac{1}{θ (1 - θ)^{1 / 2}}

$\pi_J(\theta)\propto \frac{1}{\theta(1-\theta)^{1/2}}$ что означает, что информация, которую я получаю, должна быть

I (θ) = \frac{1}{θ^{2} (1 - θ)}

$I(\theta)=\frac{1}{\theta^2(1-\theta)}$ поскольку предыдущий должен быть пропорционален квадратному корню из информации.

Кто-нибудь может найти какие-либо ошибки? Я не удивлюсь, если я что-то напортачу с настройкой распределения (успехи против сбоев с их вероятностями и т. Д.).

Я использовал ожидаемое значение из Википедии, и я знаю правильный ответ отсюда (страница 3) .

— hejseb
источник

Проблема возникает потому, что отрицательное биномиальное распределение может быть сформулировано по-разному. Как следствие, ожидание отличается для разных формулировок. Как вы указали отрицательное биномиальное распределение, ожидаемое значение равно (например, см. Здесь на стр. 3). При этом информация Фишера упрощается до $n$ $E(n) = m/\theta$

I (θ) = m (\frac{1}{θ^{2} (1 - θ)})

$I(\theta) = m\left(\frac{1}{\theta^2(1-\theta)}\right)$

Таким образом, априор Джеффриса

π_{J} (θ) = | I (θ) |^{1 / 2} \propto θ^{- 1} (1 - θ)^{- 1 / 2}

$\pi_{J}(\theta) = |I(\theta)|^{1/2}\propto \theta^{-1}(1-\theta)^{-1/2}$

как вы уже заметили.

— COOLSerdash
источник

Потрясающе! Это очень полезно, а также является отличным справочным материалом, поскольку в нем рассказывается о самой проблеме, с которой я боролся. Спасибо!

— Хейзеб

Я нашел решение, которое использует другую формулировку, смотрите здесь . Рад, что смог помочь. Пожалуйста.

— COOLSerdash