Результаты оценок Монте-Карло, полученные с помощью выборки по важности

В течение прошлого года я довольно тесно работал над выборкой важных данных, и у меня есть несколько открытых вопросов, с которыми я надеялся получить некоторую помощь.

Мой практический опыт работы со схемами выборки по важности заключался в том, что они могут иногда давать фантастические оценки с низким отклонением и смещением. Однако чаще они, как правило, дают оценки с высокой ошибкой, которые имеют низкую дисперсию выборки, но очень высокую погрешность.

Мне интересно, может ли кто-нибудь объяснить, какие именно факторы влияют на достоверность выборочных оценок важности? В частности мне интересно:

1) Гарантируются ли оценки выборки важности к правильному результату, когда распределение смещения имеет ту же поддержку, что и исходное распределение? Если так, то почему на практике это занимает так много времени?

2) Существует ли количественная связь между ошибкой в ​​оценке, полученной в результате выборки по важности, и "качеством" распределения смещения (т. Е. Насколько оно соответствует распределению с нулевой дисперсией)

3) Частично основанный на 1) и 2) - есть ли способ количественно определить, «сколько» вы должны знать о распределении, прежде чем вам лучше будет использовать выборочный анализ важности, чем простой метод Монте-Карло.

Выборка по важности имеет ту же валидацию, что и базовый подход Монте-Карло. По своей сути это основной Монте-Карло . Действительно, это просто изменение контрольной меры, переходящее от к ∫ h ( x ) f ( x

$$\int h(x) f(x) \text{d}x$$ Таким образом, сходимость гарантируется законом больших чисел в обоих случаях, т.е. независимо от того, моделируете ли вы изfили изg. Кроме того, если слагаемое ∫h2(x),f2(x $$\int h(x) \dfrac{f(x)}{g(x)} g(x) \text{d}x$$ $f$$g$ конечно, также применима центральная предельная теорема и скорость сходимости равнаO(1/ $$\int h^2(x) \dfrac{f^2(x)}{g(x)} \text{d}x$$ . Если на практике это «занимает много времени», то это потому, что вышеуказанный коэффициент дисперсии в CLT может быть довольно большим. Но, и я настаиваю, скорость такая же, как с обычным Монте-Карло,O(1/$\text{O}(1/\sqrt{n})$.$\text{O}(1/\sqrt{n})$

Таким образом, качество важного распределения выборки напрямую связано с вышеуказанным коэффициентом дисперсии, который сводится к нулю для «распределения нулевой дисперсии», пропорционального .$|h(x)|f(x)$

$f$$g$

$$\delta=\int h(x)f(x)\text{d}x$$ $x_1,\ldots,x_n$$g(x)$ $$\hat{\delta}=\frac{\sum_{i=1}^n h(x)f(x)/g(x)}{\sum_{i=1}^n f(x)/g(x)}.$$ Using the delta method (basically taking up to the linear terms of the taylor series of $X/Y$) and letting $\omega(X)=f(x)/g(X)$ we get $$E_g(\hat{\delta})\approx \delta + \frac{\delta \text{Var}_g(\omega(X))-\text{Cov}_g(\omega(X),h(X)\omega(X))}{n}$$ and $$\text{Var}_g(\hat{\delta})\approx\frac{\text{Var}_g(h(X)\omega(X))-2\delta\text{Cov}_g(\omega(X),h(X)\omega(X))+\delta^2\text{Var}_g(\omega(X))}{n}.$$

So, intuitvely, to get small bias and small variance, you want $\text{Var}_g(\omega(X))$ to be small and $\text{Cov}_g(\omega(X),h(X)\omega(X))$ to be positive. Unfortunately these approximations are not perfect (and accurately determining the variances and covariances is likely to be as difficult as solving the initial problem).