Джеффрис до приёма биномиальной вероятности

Если я использую предварительное значение Джеффриса для параметра биномиальной вероятности то это подразумевает использование распределения . $\theta$ $\theta \sim beta(1/2,1/2)$

Если я перейду на новую систему координат то ясно, что также не распространяется как . $\phi = \theta^2$ $\phi$ $beta(1/2,1/2)$

Мой вопрос в том, в каком смысле Джеффрис ранее инвариантен к репараметризации? Я думаю, что я неправильно понимаю тему, если честно ...

Лучший,

Бен

bayesian jeffreys-prior

— ben18785
источник

Приор Джеффриса инвариантен в том смысле, что начиная с априора Джеффриса для одной параметризации и выполняя соответствующее изменение переменной, идентично получению априора Джеффриса непосредственно для этой новой параметризации. На самом деле, эквивариантный будет более подходящим термином, чем инвариантный .

— Сиань

@ ben18785: взгляните на stats.stackexchange.com/questions/38962/…

— Zen

См. Также math.stackexchange.com/questions/210607/… (более или менее тот же вопрос, я думаю, но на другом сайте).

— Натаниэль

См. Также stats.stackexchange.com/questions/139001/…

— Кристоф Ханк

Пусть , где - монотонная функция от и пусть - обратное к , так что . Мы можем получить предварительное распределение Джеффри двумя способами: $\phi = g(\theta)$ $g$ $\theta$ $h$ $g$ $\theta = h(\phi)$ $p_{J}(\phi)$

Начните с биномиальной модели (1) повторно параметризовать модель с помощью чтобы получить и получите предварительное распределение Джеффри для этой модели. $п (Y | θ) знак равно (\binom{N}{Y}) θ^{Y} (1 - θ)^{N - Y}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ $\phi = g(\theta)$ $п (Y | φ) знак равно (\binom{N}{Y}) час (φ)^{Y} (1 - час (φ))^{N - Y}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ $p_{J}(\phi)$
Получите предварительное распределение Джеффри из исходной биномиальной модели 1 и примените формулу замены переменных, чтобы получить индуцированную априорную плотность при $p_{J}(\theta)$ $\phi$ $п_{J} (φ) знак равно п_{J} (час (φ)) | \frac{d час}{d φ} |,$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Быть инвариантным к репараметризации означает, что плотности полученные обоими способами, должны быть одинаковыми. Приор Джеффри обладает такой характеристикой [Ссылка: Первый курс по байесовским статистическим методам П. Хоффа .] $p_{J}(\phi)$

Ответить на ваш комментарий. Чтобы получить предварительное распределение Джеффри из вероятности для биномиальной модели мы должны вычислить информацию Фишера, взяв логарифм вероятности и вычислить вторую производную от и информация о Фишере $p_{J}(\theta)$

п (Y | θ) знак равно (\binom{N}{Y}) θ^{Y} (1 - θ)^{N - Y}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$

l

$l$

l

$l$

\begin{aligned} L знак равно журнал (п (Y | θ)) & α Y журнал (θ) + (N - Y) журнал (1 - θ) \\ \frac{\partial L}{\partial θ} & знак равно \frac{Y}{θ} - \frac{N - Y}{1 - θ} \\ \frac{\partial^{2} L}{\partial θ^{2}} & знак равно - \frac{Y}{θ^{2}} - \frac{N - Y}{(1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$

\begin{aligned} я (θ) & знак равно - Е (\frac{\partial^{2} L}{\partial θ^{2}} | θ) \\ знак равно \frac{N θ}{θ^{2}} + \frac{N - N θ}{(1 - θ)^{2}} \\ знак равно \frac{N}{θ (1 - θ)} \\ α θ^{- 1} (1 - θ)^{- 1}, \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ Приоритет Джеффри для этой модели: что равно .

\begin{aligned} п_{J} (θ) & знак равно \sqrt{я (θ)} \\ α θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$

— Марко Лалович
источник

Спасибо за Ваш ответ. Боюсь, я немного медлителен. В каком смысле мы можем получить априор по вероятности? Это две разные вещи, и последнее не подразумевает первое ...

— ben18785

Я ответил выше, получив предварительную Джеффри из вероятности биномиальной модели.

p_{J} (θ)

$p_{J}(\theta)$

— Марко Лалович