Информация Фишера в иерархической модели

Учитывая такую иерархическую модель, и, , где является нормальным распределением. Есть ли способ получить точное выражение для информации Фишера о предельном распределении учетом . То есть, что такое информация Фишера:

X \sim N (μ, 1),

$X \sim {\mathcal N}(\mu,1),$

μ \sim L a p l a c e (0, c)

$\mu \sim {\rm Laplace}(0, c)$

N (\cdot, \cdot)

$\mathcal{N}(\cdot,\cdot)$

X

$X$

c

$c$

Я могу получить выражение для предельного распределения

учетом

, но дифференцирование по

и затем получение ожиданий кажется очень трудным. Я что-то упускаю из виду? Любая помощь будет оценена.

p (x | c) = \int p (x | μ) p (μ | c) d μ

$p(x | c) = \int p(x|\mu) p(\mu|c) d\mu$

X

$X$

c

$c$

c

$c$

multilevel-analysis information fisher-information

— emakalic
источник

Я сам попробовал, но это не в моих силах. Абсолютные функции разрушают все! Вы в основном застряли с численными методами.

— вероятностная

μ \geq 0

$\mu \ge 0$

μ < 0

$\mu \lt 0$

x

$x$

e x p (- x^{2})

$exp(-x^2)$

X

$X$

Нижняя граница для информации Фишера в этом случае составляет

1 / (1 + 2 c^{2})

$1/(1+2c^2)$

1 + 1 / c^{2}

$1 + 1/c^2$

В то время как аналитическое решение было бы проблемой с точки зрения способности человека к обучению (вне математической дисциплины), существует ли восприимчивость к приближенному вычислительному решению? Можно сделать стохастическое моделирование, а затем посмотреть на приближения для подгонки.

— EngrStudent - Восстановить Монику

Ответы:

Для информации Фишера для предоставленной вами иерархической модели не существует аналитического выражения в замкнутой форме. На практике информация Фишера может быть вычислена аналитически только для экспоненциальных семейств распределений. Для экспоненциальных семейств логарифмическое правдоподобие является линейным в достаточной статистике, и достаточная статистика имеет известные ожидания. Для других дистрибутивов логарифмическая вероятность не упрощается таким образом. Ни распределение Лапласа, ни иерархическая модель не являются экспоненциальными семейными распределениями, поэтому аналитическое решение будет невозможно.

— Гордон Смит
источник

Два из нормального и Лапласа из экспоненциального семейства. Если вы можете записать распределение в экспоненциальной форме, то информационная матрица Фишера является вторым градиентом логарифмического нормализатора экспоненциального семейства.

— A.Yazdiha
источник

\frac{1}{2} \exp (- | x - μ |)

$\frac12 \exp(-|x-\mu|)$