Каковы некоторые иллюстративные применения эмпирической вероятности?

Я слышал об эмпирической вероятности Оуэна, но до недавнего времени не обращал на это внимания, пока не наткнулся на интересную статью ( Mengersen et al. 2012 ).

В моих попытках понять это я выяснил, что вероятность наблюдаемых данных представляется в виде

$$L = \prod_i p_i = \prod_i P(X_i=x) = \prod_i P(X_i \le x) - P(X_i \lt x)$$ , где и .р я > $\sum_i p_i = 1$$p_i > 0$

Однако мне не удалось совершить мысленный скачок, связывающий это представление с тем, как его можно использовать для заключения о наблюдениях. Возможно, я слишком укоренен в мысли о вероятности относительно параметров модели?

Несмотря на это, я искал в Google Scholar некоторую бумагу, использующую эмпирическую вероятность, которая помогла бы мне усвоить концепцию ... безрезультатно. Очевидно, что есть книга Арт Оуэна об Эмпирическом правдоподобии , но в Google Книгах пропущены все вкуснятины, и я все еще нахожусь в медленном процессе получения межбиблиотечного кредита.

В то же время, может ли кто-нибудь любезно указать мне на документы и документы, которые ясно иллюстрируют предпосылку эмпирической вероятности и как она используется? Иллюстративное описание самого EL также приветствуется!

Я не могу придумать лучшего места, чем книга Оуэна, чтобы узнать об эмпирической вероятности.

Один практический способ думать о - это вероятность многочленного распределения по наблюдаемым точкам данных x 1 , … , x n . Таким образом, вероятность является функцией вектора вероятности ( p 1 , … , p n ) , пространство параметров на самом деле является n- мерным симплексом векторов вероятности, и MLE помещает вес 1 /$L = L(p_1, \ldots, p_n)$$x_1, \ldots, x_n$$(p_1, \ldots, p_n)$$n$$1/n$на каждом из наблюдений (предположим, что они все разные). Размерность пространства параметров увеличивается с увеличением количества наблюдений.

Центральным моментом является то, что эмпирическое правдоподобие дает метод для вычисления доверительных интервалов путем профилирования без указания параметрической модели. Если интересующим параметром является среднее значение, , то для любого вектора вероятности p = ( p 1 , … , p n ) мы имеем среднее значение μ ( p ) = n ∑ i = 1 x i p i , и мы может вычислить вероятность профиля как L prof ( μ ) = $\mu$$p = (p_1, \ldots, p_n)$

$$\mu(p) = \sum_{i=1}^n x_i p_i,$$ Тогда мы можем вычислить доверительные интервалы вида I r = { μ ∣ L prof ( μ ) ≥ r L prof ( ˉ x ) } с r ∈ ( 0 , 1 ) . Здесь ˉ x - эмпирическое среднее, а L prof ( ˉ x ) $$L_{\text{prof}}(\mu) = \max \{ L(p) \mid \mu(p) = \mu \}.$$ $$I_r = \{ \mu \mid L_{\text{prof}}(\mu) \geq r L_{\text{prof}}(\bar{x}) \}$$ $r \in (0,1)$$\bar{x}$ . Интервалы I r, возможно, следует просто называть (профильными) интервалами правдоподобия, поскольку никаких заявлений об охвате не делается заранее. С уменьшением r интервалы I r (да, это интервалы) образуют вложенное, увеличивающееся семейство доверительных интервалов. Скажем, асимптотическую теорию или бутстрап можно использовать для калибровки r для достижения охвата 95%.$L_{\text{prof}}(\bar{x}) = n^{-n}$$I_r$$r$$I_r$$r$

Книга Оуэна подробно описывает это и предоставляет расширения для более сложных статистических задач и других представляющих интерес параметров.

$$E[g(X,\theta)] = 0$$ $X$$g$$q$$\theta \in \Theta \subseteq \mathbb{R}^p$$q \geq p$$g$$\theta$

$\theta$

$$\hat{\theta}_\text{GMM} = \text{argmin}_{\theta \in \Theta} \; \bar{g}_n(\theta) 'W \bar{g}_n(\theta)$$ $W$ $$\bar{g}_n(\theta) := \frac{1}{n} \sum_{i=1}^n g(X_i,\theta).$$ $\theta$ $$L(\theta) = \max_{p_1,\ldots,p_n} \; \prod_{i=1}^n p_i$$ $$\sum_{i=1}^n p_i=1, \qquad p_i \geq 0, \qquad \sum_{i=1}^n p_i \cdot g(X_i,\theta) = 0.$$ $\theta$ $$\hat{\theta}_\text{EL} = \text{argmax}_{\theta \in \Theta} \; \log L(\theta).$$

Конечно, есть много других причин, по которым EL привлекла внимание эконометрикой, но я надеюсь, что это полезная отправная точка. Модели равенства моментов очень распространены в эмпирической экономике.

$S(t) = Pr(T > t)$$T$$\hat{S}$