Примеры того, когда доверительный интервал и вероятный интервал совпадают

В статье в Википедии о Credible Interval говорится:

Для случая одного параметра и данных, которые могут быть сведены в одну достаточную статистику, можно показать, что вероятный интервал и доверительный интервал совпадут, если неизвестный параметр является параметром местоположения (т.е. функция прямой вероятности имеет вид Pr (x | μ) = f (x - μ)) с априором, который является равномерным плоским распределением; [5], а также, если неизвестный параметр является масштабным параметром (то есть прямая функция вероятности имеет вид Pr (x) | s) = f (x / s)), с предшествующим Джеффрисом [5] - последующим последующим, потому что при взятии логарифма такого масштабного параметра он превращается в параметр местоположения с равномерным распределением. Но это явно особые (хотя и важные) случаи; в общем, такая эквивалентность невозможна ».

Могут ли люди привести конкретные примеры этого? Когда 95% CI фактически соответствует «вероятности 95%», таким образом, «нарушая» общее определение CI?

confidence-interval credible-interval

— Wayne
источник

нормальное распределение:

Возьмите нормальное распределение с известной дисперсией. Мы можем принять эту дисперсию равной 1, не теряя общности (просто разделив каждое наблюдение на квадратный корень из дисперсии). Это имеет распределение выборки:

п ({Икс}_{1},,, {Икс}_{N} | μ) знак равно {(2 π)}^{- \frac{N}{2}} ехр (- \frac{1}{2} Σ_{я знак равно 1}^{N} ({Икс}_{я} - μ)^{2}) знак равно A ехр (- \frac{N}{2} (\bar{Икс} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Где - это константа, которая зависит только от данных. Это показывает, что выборочное среднее является достаточной статистикой для среднего населения. Если мы используем равномерный априор, то апостериорное распределение для будет: $A$ $\mu$

(μ | {Икс}_{1},,, {Икс}_{N}) ~ N о р м a L (\bar{Икс}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{Икс}) | {Икс}_{1},,, {Икс}_{N}) ~ N о р м a L (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Таким образом, вероятный интервал будет иметь вид: $1-\alpha$

(\bar{Икс} + \frac{1}{\sqrt{N}} L_{α}, \bar{Икс} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Где и выбираются так, чтобы стандартная нормальная случайная величина удовлетворяла: $L_{\alpha}$ $U_{\alpha}$ $Z$

п р (L_{α} < Z < U_{α}) знак равно 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Теперь мы можем начать с этой «ключевой величины» для построения доверительного интервала. Распределение выборки при фиксированномявляется стандартным нормальным распределением, таким образоммы можем подставить это в приведенном выше вероятность: $\sqrt{N}(\mu-\overline{X})$ $\mu$

п р (L_{α} < \sqrt{N} (μ - \bar{Икс}) < U_{α}) знак равно 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Затем переупорядочить, чтобы решить для , и доверительный интервал будет таким же, как доверительный интервал. $\mu$

Параметры шкалы:

Для параметров масштаба файлы pdf имеют вид . Мы можем взять, что соответствует. Совместное распределение выборки: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

п ({Икс}_{1},,, {Икс}_{N} | s) знак равно s^{- N} 0 < {Икс}_{1},,, {Икс}_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

$X_{max}$

п р ({Икс}_{м a Икс} < Y | s) знак равно п р ({Икс}_{1} < Y, {Икс}_{2} < Y,,, {Икс}_{N} < Y | s) знак равно {(\frac{Y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

$y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

п р (L_{α} < Q < U_{α}) знак равно 1 - α знак равно U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

И мы подставляем основное количество:

п р (L_{α} < s^{- 1} {Икс}_{м a Икс} < U_{α}) знак равно 1 - α знак равно п р ({Икс}_{м a Икс} L_{α}^{- 1} > s > {Икс}_{м a Икс} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

И есть наш доверительный интервал. Для байесовского решения с джефри до этого имеем:

п (s | {Икс}_{1},,, {Икс}_{N}) знак равно \frac{s^{- N - 1}}{\int_{{Икс}_{м a Икс}}^{\infty} р^{- N - 1} d р} знак равно N ({Икс}_{м a Икс})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ п р (s > T | {Икс}_{1},,, {Икс}_{N}) знак равно N ({Икс}_{м a Икс})^{N} \int_{T}^{\infty} s^{- N - 1} d s знак равно {(\frac{{Икс}_{м a Икс}}{T})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Теперь мы подключаем доверительный интервал и рассчитываем его достоверность.

п р ({Икс}_{м a Икс} L_{α}^{- 1} > s > {Икс}_{м a Икс} U_{α}^{- 1} | {Икс}_{1},,, {Икс}_{N}) знак равно {(\frac{{Икс}_{м a Икс}}{{Икс}_{м a Икс} U_{α}^{- 1}})}^{N} - {(\frac{{Икс}_{м a Икс}}{{Икс}_{м a Икс} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

знак равно U_{α}^{N} - L_{α}^{N} знак равно п р (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

$1-\alpha$

— probabilityislogic
источник

Шедевр, спасибо! Я надеялся, что может быть такой ответ: «при расчете среднего значения выборки из нормального распределения 95% -й доверительный интервал на самом деле также является 95-процентным доверительным интервалом» или что-то простое в этом роде. (Просто составив этот предполагаемый ответ, я не имею ни малейшего понятия о конкретных примерах.)

— Уэйн

Я считаю, что частый 95% интервал прогнозирования / толерантности соответствует байесовскому интервалу прогнозирования с регрессией МНК и нормальными ошибками. Похоже, что когда я сравниваю прогнозируемый ответ с имитированным ответом. Это правда?

— Уэйн

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

Большое спасибо! Я пытался объяснить CI для регрессии, которую я сделал, с точки зрения доверительного интервала, и он просто не связан с непрофессионалом, который ожидает Credible Interval. Делает жизнь намного проще для меня ... хотя, возможно, это плохо для всего статистического мира, так как это укрепит непонимание непрофессионала с КИ.

— Уэйн

@Wayne - ситуация немного более общая, чем просто семейства масштаба. Обычно CI будет эквивалентен вероятному интервалу, если он основан на «достаточной статистике» (как это было два), где он существует. Если нет достаточной статистики, тогда CI должен обусловить то, что называется «вспомогательной статистикой», чтобы иметь достоверную интервальную интерпретацию.

— вероятностная