Доверительный интервал для дисперсии с учетом одного наблюдения

Это проблема из «7-й Колмогоровской студенческой олимпиады по теории вероятностей»:

Учитывая одно наблюдение из распределения с неизвестными обоими параметрами, задайте доверительный интервал для с уровнем достоверности не менее 99%.Нормальный ( μ , σ 2 ) σ $X$$\operatorname{Normal}(\mu,\sigma^2)$$\sigma^2$

Мне кажется, что это должно быть невозможно. У меня есть решение, но я еще не читал его. Есть предположения?

Я выложу решение через пару дней.

[Последующее редактирование: официальное решение опубликовано ниже. Решение кардинала длиннее, но дает лучший доверительный интервал. Спасибо также Максу и Glen_b за их вклад.]

Если смотреть сквозь призму вероятностных неравенств и связей со случаем многократного наблюдения, этот результат может показаться не таким уж невозможным или, по крайней мере, может показаться более правдоподобным.

Пусть с μ и σ 2 неизвестны. Мы можем записать X = σ Z + μ для Z ∼ N ( 0 , 1 ) .$\renewcommand{\Pr}{\mathbb P}\newcommand{\Ind}[1]{\mathbf 1_{(#1)}}X \sim \mathcal N(\mu,\sigma^2)$$\mu$$\sigma^2$$X = \sigma Z + \mu$$Z \sim \mathcal N(0,1)$

Основное утверждение : - это ( 1 - α ) доверительный интервал для σ 2, где q α - квантиль α- уровня распределения хи-квадрат с одной степенью свободы. Кроме того, поскольку этот интервал имеет ровно ( 1 - α ) покрытие при μ = 0 , это самый узкий возможный интервал вида [ 0 , b X 2$[0,X^2/q_\alpha)$$(1-\alpha)$$\sigma^2$$q_\alpha$$\alpha$ $(1-\alpha)$$\mu = 0$$[0,b X^2)$для некоторого .$b \in \mathbb R$

Повод для оптимизма

Напомним , что в случая, с Т = Е п I = 1 ( Х я - ˉ Х ) 2 , то типичная ( 1 - α ) доверительный интервал для сг 2 является ($n \geq 2$$T = \sum_{i=1}^n (X_i - \bar X)^2$ $(1-\alpha)$$\sigma^2$ Где Q к , являетсяуровневый квантиль хи-квадрат с K степенями свободы. Это, конечно, верно для любого µ . Хотя этосамый популярныйинтервал (называемый интервалом сравными хвостамипо понятным причинам), он не является ни единственным, ни дажеинтерваломнаименьшей ширины! Как должно быть очевидно, другой действительный выбор ( 0 ,

$$\Big(\frac{T}{q_{n-1,(1-\alpha)/2}}, \frac{T}{q_{n-1,\alpha/2}} \Big) \>,$$ $q_{k,a}$$a$$k$$\mu$ $$\Big(0,\frac{T}{q_{n-1,\alpha}}\Big) \>.$$

Так, , то ( 0 , Е п я = 1 X 2 $T \leq \sum_{i=1}^n X_i^2$ Также имеет покрытие по меньшей мере ( 1 - & alpha ; ) .

$$\Big(0,\frac{\sum_{i=1}^n X_i^2}{q_{n-1,\alpha}}\Big) \>,$$ $(1-\alpha)$

В этом свете мы можем быть оптимистичны в том, что интервал в главном утверждении истинен для . Основное отличие состоит в том, что для случая одного наблюдения не существует распределения хи-квадрат с нулевой степенью свободы, поэтому мы должны надеяться, что использование квантиля с одной степенью свободы будет работать.$n = 1$

Полшага к нашему месту назначения ( Эксплуатация правого хвоста )

Прежде чем углубиться в доказательство основного утверждения, давайте сначала посмотрим на предварительное утверждение, которое не так сильно или статистически не удовлетворяет, но, возможно, дает некоторое дополнительное понимание происходящего. Вы можете перейти к доказательству основной претензии ниже, без особых (если таковые имеются) потерь. В этом и следующем разделах доказательства, хотя и немного тонкие, основаны только на элементарных фактах: монотонности вероятностей, симметрии и унимодальности нормального распределения.

Дополнительное требование : является ( 1 - α ) доверительный интервал для сг 2 до тех пор , как & alpha ; > 1 / 2 . Здесь z α - квантиль α- уровня стандартной нормали.$[0,X^2/z^2_\alpha)$$(1-\alpha)$$\sigma^2$$\alpha > 1/2$$z_\alpha$$\alpha$

Доказательство . и | σ Z + μ | д = | - σ Z + μ | по симметрии, поэтому в дальнейшем мы можем взять μ ≥ 0 без потери общности. Теперь, для & thetas ; ≥ 0 и ц ≥ 0 , Р ( | Х | > & thetas ; ) ≥ Р ( Х > & thetas ; $|X| = |-X|$$|\sigma Z + \mu| \stackrel{d}{=} |-\sigma Z+\mu|$$\mu \geq 0$$\theta \geq 0$$\mu \geq 0$ И так с θ = г & alpha ; сг , мы видимчто Р ( 0 & le ; сг 2 < Х 2 / г 2 & alpha ; ) ≥ 1 -

$$\Pr(|X| > \theta) \geq \Pr( X > \theta) = \Pr( \sigma Z + \mu > \theta) \geq \Pr( Z > \theta/\sigma) \>,$$ $\theta = z_{\alpha} \sigma$ Это работает только для альфа > 1 / 2 , такэто точто нужно для г α > 0 . $$\Pr(0 \leq \sigma^2 < X^2 / z^2_\alpha) \geq 1 - \alpha \>.$$ $\alpha > 1/2$$z_\alpha > 0$

Это доказывает вспомогательное требование. Хотя это показательно, с статистической точки зрения это неутешительно, поскольку для работы требуется абсурдно большое значение .$\alpha$

Обоснование основной претензии

Уточнение приведенного выше аргумента приводит к результату, который будет работать для произвольного уровня достоверности. Во-первых, отметим, что Положим a = μ / σ ≥ 0 и b = θ / σ ≥ 0 . Тогда P ( | Z + a | > b ) = Φ ( a - b ) + Φ ( - a - b

$$\Pr(|X| > \theta) = \Pr(|Z + \mu/\sigma| > \theta / \sigma ) \>.$$ $a = \mu/\sigma \geq 0$$b = \theta / \sigma \geq 0$ Если мы можем показать, что правая часть увеличивается в a для каждого фиксированного b , то мы можем использовать аргумент, аналогичный предыдущему. Это, по крайней мере, правдоподобно, поскольку мы хотели бы верить, что если среднее значение увеличивается, то становится более вероятным, что мы увидим значение с модулем, который превышает b . (Тем не менее, мы должны следить за тем, как быстро уменьшается масса в левом хвосте!) $$\Pr(|Z + a| > b) = \Phi(a-b) + \Phi(-a-b) \>.$$ $a$$b$$b$

Положим . Тогда f ′ b ( a ) = φ ( a - b ) - φ ( - a - b ) = φ ( a - b ) - φ ( a + b $f_b(a) = \Phi(a-b) + \Phi(-a-b)$ Заметимчто F ' б ( 0 ) = 0 и для положительного U , φ ( U ) убывает по ц . Теперь для a ∈ ( 0 , 2 b ) легко видеть, что φ ( a - b ) ≥ φ ( - b ) = φ ( b ) . Эти факты, взятые вместе, легко означают, что f ′ b (

$$f'_b(a) = \varphi(a-b) - \varphi(-a-b) = \varphi(a-b) - \varphi(a+b) \>.$$ $f'_b(0) = 0$$u$$\varphi(u)$$u$$a \in (0,2b)$$\varphi(a-b) \geq \varphi(-b) = \varphi(b)$ для всех a ≥ 0 и любых фиксированных b ≥ 0 . $$f'_b(a) \geq 0$$ $a \geq 0$$b \geq 0$

Таким образом, мы показали , что при ≥ 0 и б ≥ 0 , Р ( | Z + | > б ) ≥ P ( | Z | > б ) = 2 Ф ( - б )$a \geq 0$$b \geq 0$

$$\Pr(|Z + a| > b) \geq \Pr(|Z| > b) = 2\Phi(-b) \>.$$

Распутывая все это, если мы возьмем $\theta = \sqrt{q_\alpha} \sigma$

$$\Pr(X^2 > q_\alpha \sigma^2) \geq \Pr(Z^2 > q_\alpha) = 1 - \alpha \>,$$

Заключительное замечание : внимательное прочтение приведенного выше аргумента показывает, что он использует только симметричные и унимодальные свойства нормального распределения. Следовательно, подход работает аналогично для получения доверительных интервалов из одного наблюдения из любого симметричного унимодального семейства масштабов местоположений, например, распределений Коши или Лапласа.

Время следить за! Вот решение, которое мне дали:

$[0,T(X))$$T(\cdot)$

$$(\forall \mu \in \mathbb R )(\forall \sigma > 0)\; \mathbb P_{\mu,\sigma_2}(\sigma^2 > T(X)) < 0.01.$$ $\mathcal{N}(\mu,\sigma^2)$$1/\sigma\sqrt{2\pi}$$\mathbb{P}(|X| \leq a) \leq a/\sigma$$a \geq 0$ $$t \geq \mathbb P (|X|/\sigma \leq t) = \mathbb P (X^2 \leq t^2\sigma^2) = \mathbb P (\sigma^2 \geq X^2/t^2).$$ $t = 0.01$$T(X) = 10000X^2.$

Доверительный интервал (который является очень широким) является слегка консервативным в моделировании, при этом эмпирическое покрытие (в 100 000 моделированиях) ниже 99,15%, так как я изменял CV на многие порядки.

$6300X^2$$10000X^2$в предоставленном решении. Эмпирическое покрытие прямо на номинальном уровне, опять же на много порядков для CV. Так что его интервал определенно выигрывает.

У меня не было времени внимательно посмотреть на статью Макса, но я планирую посмотреть на нее и могу добавить некоторые комментарии по этому поводу позже (то есть не раньше, чем через неделю). Этот документ претендует на 99% доверительный интервал$(0,4900X^2)$, который имеет эмпирическое покрытие немного ниже (около 98,85%), чем номинальное покрытие для больших резюме в моих кратких моделированиях.

КИ $(0,\infty)$ предположительно.