Беспристрастная оценка экспоненты меры множества?

Предположим, что у нас есть (измеримое и соответственно хорошо себя ведущее) множество , где компактно. Кроме того, предположим, что мы можем извлечь образцы из равномерного распределения по относительно меры Лебега и что мы знаем меру . Например, возможно представляет собой коробку , содержащий . $S\subseteq B\subset\mathbb R^n$ $B$ $B$ $\lambda(\cdot)$ $\lambda(B)$ $B$ $[-c,c]^n$ $S$

Для фиксированного , существует ли простой непредвзятый способ оценки путем равномерной выборки точек в и проверки, находятся ли они внутри или вне ? $\alpha\in\mathbb R$ $e^{-\alpha \lambda(S)}$ $B$ $S$

В качестве примера чего-то, что не совсем работает, предположим, что мы точек . Тогда мы можем использовать оценку Монте-Карло Но, хотя - это объективная оценка , я не думаю, что - это объективная оценка . Есть ли способ изменить этот алгоритм? $k$ $p_1,\ldots,p_k\sim\textrm{Uniform}(B)$

λ (S) \approx \hat{λ} := \frac{# {p_{i} \in S}}{k} λ (B) .

$\lambda(S)\approx \hat\lambda:= \frac{\#\{p_i\in S\}}{k}\lambda(B).$

\hat{λ}

$\hat\lambda$

λ (S)

$\lambda(S)$

e^{- α \hat{λ}}

$e^{-\alpha\hat\lambda}$

e^{- α λ (S)}

$e^{-\alpha\lambda(S)}$

— Джастин Соломон
источник

Ответы:

Предположим, что вам доступны следующие ресурсы:

У вас есть доступ к оценщику . $\hat{\lambda}$
$\hat{\lambda}$ беспристрастен для . $\lambda ( S )$
$\hat{\lambda}$ почти несомненно , ограничена сверху . $C$
Вы знаете постоянную , и $C$
Вы можете формировать независимые реализации столько раз, сколько захотите. $\hat{\lambda}$

Теперь обратите внимание, что для любого место следующее (в силу разложения Тейлора ): $u > 0$ $\exp x$

\begin{aligned} e^{- α λ (S)} & = e^{- α C} \cdot e^{α (C - λ (S))} \\ = e^{- α C} \cdot \sum_{k ⩾ 0} \frac{{(α [C - λ (S)])}^{k}}{k!} \\ = e^{- α C} \cdot e^{u} \cdot \sum_{k ⩾ 0} \frac{e^{- u} \cdot {(α [C - λ (S)])}^{k}}{k!} \\ = e^{u - α C} \cdot \sum_{k ⩾ 0} \frac{u^{k} e^{- u}}{k!} {(\frac{α [C - λ (S)]}{u})}^{k} \end{aligned}

$\begin{align} e^{-\alpha \lambda ( S ) } &= e^{-\alpha C} \cdot e^{\alpha \left( C - \lambda ( S ) \right)} \\ &= e^{- \alpha C} \cdot \sum_{k \geqslant 0} \frac{ \left( \alpha \left[ C - \lambda ( S ) \right] \right)^k}{ k! } \\ &= e^{- \alpha C} \cdot e^u \cdot \sum_{k \geqslant 0} \frac{ e^{-u} \cdot \left( \alpha \left[ C - \lambda ( S ) \right] \right)^k}{ k! } \\ &= e^{u -\alpha C} \cdot \sum_{k \geqslant 0} \frac{ u^k e^{-u} }{ k! } \left(\frac{ \alpha \left[ C - \lambda ( S ) \right]}{u} \right)^k \end{align}$

Теперь сделайте следующее:

Пример . $K \sim \text{Poisson} ( u )$
Форма как несмещенная оценка . $\hat{\lambda}_1, \cdots, \hat{\lambda}_K$ $\lambda(S)$
Вернуть оценку

\hat{Λ} = e^{u - α C} \cdot {(\frac{α}{u})}^{K} \cdot \prod_{i = 1}^{K} {C - {\hat{λ}}_{i}} .

$\hat{\Lambda} = e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \cdot \prod_{i = 1}^K \left\{ C - \hat{\lambda}_i \right\}.$

$\hat{\Lambda}$ является неотрицательной, непредвзятой оценкой . Это потому что $\lambda(S)$

\begin{aligned} E [\hat{Λ} | K] & = e^{u - α C} \cdot {(\frac{α}{u})}^{K} E [\prod_{i = 1}^{K} {C - {\hat{λ}}_{i}} | K] \\ = e^{u - α C} \cdot {(\frac{α}{u})}^{K} \prod_{i = 1}^{K} E [C - {\hat{λ}}_{i}] \\ = e^{u - α C} \cdot {(\frac{α}{u})}^{K} \prod_{i = 1}^{K} [C - λ (S)] \\ = e^{u - α C} \cdot {(\frac{α}{u})}^{K} {[C - λ (S)]}^{K} \end{aligned}

$\begin{align} \mathbf{E} \left[ \hat{\Lambda} | K \right] &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \mathbf{E} \left[ \prod_{i = 1}^K \left\{ C - \hat{\lambda}_i \right\} | K \right] \\ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \prod_{i = 1}^K \mathbf{E} \left[ C - \hat{\lambda}_i \right] \\ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \prod_{i = 1}^K \left[ C - \lambda ( S ) \right] \\ &= e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \end{align}$

и поэтому

\begin{aligned} E [\hat{Λ}] & = E_{K} [E [\hat{Λ} | K]] \\ = E_{K} [e^{u - α C} \cdot {(\frac{α}{u})}^{K} {[C - λ (S)]}^{K}] \\ = e^{u - α C} \cdot \sum_{k ⩾ 0} P (K = k) {(\frac{α}{u})}^{K} {[C - λ (S)]}^{K} \\ = e^{u - α C} \cdot \sum_{k ⩾ 0} \frac{u^{k} e^{- u}}{k!} {(\frac{α [C - λ (S)]}{u})}^{k} \\ = e^{- α λ (S)} \end{aligned}

$\begin{align} \mathbf{E} \left[ \hat{\Lambda} \right] &= \mathbf{E}_K \left[ \mathbf{E} \left[ \hat{\Lambda} | K \right] \right] \\ &= \mathbf{E}_K \left[ e^{u -\alpha C} \cdot \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \right] \\ &= e^{u -\alpha C} \cdot \sum_{k \geqslant 0} \mathbf{P} ( K = k ) \left(\frac{ \alpha }{u} \right)^K \left[ C - \lambda ( S ) \right]^K \\ &= e^{u -\alpha C} \cdot \sum_{k \geqslant 0} \frac{ u^k e^{-u} }{ k! } \left(\frac{ \alpha \left[ C - \lambda ( S ) \right]}{u} \right)^k \\ &= e^{-\alpha \lambda ( S ) } \end{align}$

по более раннему расчету.

— πr8
источник

Интересный! Разве оценщик для описанный в вопросе, не работает здесь, так как он ограничен выше ? Кроме того, почему это не противоречит ответу @whuber ниже? Есть ли простой аргумент, почему это непредвзято? Извините за многие вопросы, моя теория вероятностей слабая :-)

\hat{λ}

$\hat\lambda$

λ (B) < \infty

$\lambda(B)<\infty$

— Джастин Соломон

Оценщик, который вы описываете, работает, так как вы знаете . Я думаю, что это не противоречит другому ответу из-за предположения ; учитывая ограниченный доступ к объективным оценкам, я не думаю, что эта конструкция будет работать. Беспристрастность приходит путем сравнения ожиданий со степенным рядом выше; Я сделаю это более ясным в ответе.

λ (B)

$\lambda (B)$

5

$5$

\hat{Λ}

$\hat{\Lambda}$

— πr8

Вы уверены, что можете поменять продукт и ожидания во второй строке доказательства непредвзятости?

— jbowman

Похоже, что это нормально, потому что они вычисляются внутри, верно?

— Джастин Соломон

+1 Я думаю, что это интересный и учебный пример. Это удается, не делая предположения, неявные для моего ответа: размер выборки либо указан, либо, по крайней мере, ограничен.

— whuber

Ответ отрицательный.

Достаточной статистикой для равномерной выборки является количество точек, которые находятся в Это число имеет биномиальное распределение . Напишите и $X$ $S.$ $(n,\lambda(S)/\lambda(B))$ $p=\lambda(S)/\lambda(B)$ $\alpha^\prime = \alpha\lambda(B).$

Для размера выборки пусть будет любой (нерандомизированной) оценкой Ожидание $n,$ $t_n$ $\exp(-\alpha \lambda(S)) = \exp(-(\alpha\lambda(B)) p) = \exp(-\alpha^\prime p).$

E [t_{n} (X)] = \sum_{x = 0}^{n} (\binom{n}{x}) p^{x} (1 - p)^{n - x} t_{n} (x),

$E[t_n(X)] = \sum_{x=0}^n \binom{n}{x}p^x (1-p)^{n-x}\, t_n(x),$

который равен многочлену степени не более в Но если экспонента не может быть выражена как многочлен от (Одно доказательство: возьмите производную. Результат для ожидания будет равен нулю, но производная экспоненты, которая сама является экспонентой по не может быть равна нулю.) $n$ $p.$ $\alpha^\prime p \ne 0,$ $\exp(-\alpha^\prime p)$ $p.$ $n+1$ $p,$

Демонстрация для рандомизированных оценок почти такая же: взяв ожидания, мы снова получаем многочлен от $p.$

Следовательно, не существует объективной оценки.

— Whuber
источник

Ах, это депрессант! Спасибо за хорошее доказательство. Но ряд Тейлора для сходится довольно быстро - возможно, существует "приблизительно непредвзятая" оценка? Не уверен, что это значит (я не большой статистик :-))

\exp (t)

$\exp(t)$

— Джастин Соломон

Как быстро, точно? Ответ зависит от значения - и в этом ваша проблема, потому что вы не знаете, что это за значение. Вы знаете только то, что он лежит между и Вы можете использовать это, чтобы установить границу смещения, если хотите.

α^{'} p

$\alpha^\prime p$

0

$0$

α .

$\alpha.$

— whuber

В моем приложении я ожидаю занимать большую часть . Я хотел бы использовать это значение в псевдо-маргинальном соотношении

S

$S$

B

$B$

— Джастин Соломон

Кстати, я очень ценю ваши мысли о другом ответе на этот вопрос!

— Джастин Соломон