Как рассчитать вероятность, связанную с нелепо большими Z-показателями?

Пакеты программ для обнаружения сетевых мотивов могут возвращать чрезвычайно высокие Z-оценки (самый высокий показатель, который я видел, составляет 600 000+, но Z-оценки более 100 встречаются довольно часто). Я планирую показать, что эти Z-оценки являются поддельными.

Огромные Z-оценки соответствуют чрезвычайно низким вероятностям. Значения связанных вероятностей приведены, например, на странице википедии нормального распределения (и, вероятно, в каждом учебнике статистики) для Z-показателей до 6. Итак ...

Вопрос : Как вычислить функцию ошибки $1-\mathrm{erf}(n/\sqrt{2})$для n до 1000000, говорите?

Я особенно после уже реализованного пакета для этого (если это возможно). Лучшее, что я нашел до сих пор, это WolframAlpha, которому удается вычислить его для n = 150 ( здесь ).

Вопрос касается дополнительной функции ошибок

$$\textrm{erfc}(x) = \frac{2}{\sqrt{\pi}}\int_{x}^{\infty}\exp(-t^2) d t$$

для «больших» значений ( = n / $x$ в исходном вопросе) - то есть между 100 и 700 000 или около того. (На практике любое значение, большее, чем примерно 6, следует рассматривать как «большое», как мы увидим.) Обратите внимание, что поскольку оно будет использоваться для вычисления p-значений, при получении более трех значащих (десятичных) цифр мало значения. ,$=n/\sqrt{2}$

Для начала рассмотрим приближение, предложенное @Iterator,

$$f(x) = 1 - \sqrt{1 - \exp \left(-x^2 \left(\frac{4 + ax^2}{\pi + ax^2}\right)\right)},$$

где

$$a = \frac{8(\pi-3)}{3(4-\pi)} \approx 0.439862.$$

Хотя это отличное приближение к самой функции ошибки, это ужасное приближение к . Однако есть способ систематически исправить это.$\textrm{erfc}$

Для значений p, связанных с такими большими значениями , нас интересует относительная ошибка f ( x ) / erfc ( x ) - 1 : мы надеемся, что ее абсолютное значение будет менее 0,001 для трех значащих цифр точности. К сожалению, это выражение трудно изучить для больших x из-за недостаточного вычисления при двойной точности. Вот одна попытка, которая показывает относительную ошибку по сравнению с x для 0 ≤ x ≤ 5,8 :$x$ $f(x)/\textrm{erfc}(x) - 1$$x$$x$$0 \le x \le 5.8$

Расчет становится нестабильным, когда превышает 5,3 или около того и не может поставить одну значащую цифру после 5,8. Это неудивительно: exp ( - 5.8 2 ) ≈ 10 - 14.6 расширяет границы арифметики двойной точности. Поскольку нет никаких доказательств того, что относительная погрешность будет приемлемо мала для больших x , мы должны сделать лучше.$x$$\exp(-5.8^2) \approx 10^{-14.6}$$x$

Выполнение вычислений в расширенной арифметике (с Mathematica ) улучшает нашу картину происходящего:

Ошибка быстро увеличивается с и не показывает никаких признаков выравнивания. В прошлом х = 10 или около того, это приближение даже не доставляет одну достоверную цифру информации!$x$$x=10$

Тем не менее, сюжет начинает выглядеть линейно. Можно предположить, что относительная ошибка прямо пропорциональна . (Это имеет смысл с теоретической точки зрения : erfc является явно нечетной функцией, а f явно четной, поэтому их отношение должно быть нечетной функцией. Таким образом, можно ожидать, что относительная ошибка, если она возрастет, будет вести себя как нечетная степень x .) Это приводит нас к изучению относительной ошибки, деленной на х . Эквивалентно, я выбираю изучить x ⋅ erfc ( x ) / f ( x $x$$\textrm{erfc}$$f$$x$ $x$$x \cdot \textrm{erfc}(x)/f(x)$Потому что надежда на это должна иметь постоянное предельное значение. Вот его график:

Наше предположение, похоже, подтверждается: это соотношение, похоже, приближается к пределу около 8 или около того. Когда спрошено, Mathematica предоставит это:

a1 = Limit[x (Erfc[x]/f[x]), x -> \[Infinity]]

Значение 1 = 2. Это позволяет нам улучшить оценку:мы берем$a_1 = \frac{2 }{\sqrt{\pi }}e^{\frac{3 (-4+\pi )^2}{8 (-3+\pi )}} \approx 7.94325$

$$f_1(x) = f(x) \frac{a_1}{x}$$

в качестве первого уточнения приближения. Когда действительно велико - больше нескольких тысяч - это приближение просто отлично. Поскольку он все еще не будет достаточно хорош для интересного диапазона аргументов между 5.3 и 2000 или около того, давайте повторим процедуру. На этот раз обратная относительная ошибка - в частности, выражение 1 - erfc ( x ) / f 1 ( x ) - должна вести себя как 1 / x 2 для больших x (в силу предыдущих соображений четности). Соответственно умножаем на х $x$$5.3$$2000$$1 - \textrm{erfc}(x)/f_1(x)$$1/x^2$$x$$x^2$ и найдите следующий предел:

a2 = Limit[x^2 (a1 - x (Erfc[x]/f[x])), x -> \[Infinity]] 

Значение

$$a_2 = \frac{1}{32 \sqrt{\pi }} e^{\frac{3 (-4+\pi )^2}{8 (-3+\pi )}} \left(32-\frac{9 (-4+\pi )^3 \pi }{(-3+\pi )^2}\right) \approx 114.687.$$

Этот процесс может продолжаться сколько угодно. Я сделал еще один шаг, найдя

a3 = Limit[x^2 (a2 - x^2 (a1 - x (Erfc[x]/f[x]))), x -> \[Infinity]] 

со значением приблизительно 1623,67. (Полное выражение включает рациональную функцию степени восьмого и слишком длинное, чтобы быть здесь полезным.)$\pi$

Разматывание этих операций дает наше окончательное приближение

$$f_3(x) = f(x)\left(a_1 - a_2/x^2 + a_3/x^4\right)/x.$$

The error is proportional to $x^{-6}$. Of import is the constant of proportionality, so we plot $x^6(1 - \textrm{erfc}(x) / f_3(x))$:

It rapidly approaches a limiting value around 2660.59. Using the approximation $f_3$, we obtain estimates of $\textrm{erfc}(x)$ whose relative accuracy is better than $2661/x^6$ for all $x \gt 0$. Once $x$ exceeds 20 or so, we have our three significant digits (or far more, as $x$ gets larger). As a check, here is a table comparing the correct values to the approximation for $x$ between $10$ and $20$:

 x  Erfc    Approximation      
10  2.088*10^-45    2.094*10^-45
11  1.441*10^-54    1.443*10^-54
12  1.356*10^-64    1.357*10^-64
13  1.740*10^-75    1.741*10^-75
14  3.037*10^-87    3.038*10^-87
15  7.213*10^-100   7.215*10^-100
16  2.328*10^-113   2.329*10^-113
17  1.021*10^-127   1.021*10^-127
18  6.082*10^-143   6.083*10^-143
19  4.918*10^-159   4.918*10^-159
20  5.396*10^-176   5.396*10^-176

$x=8$NormSDist

$f$. However, that's not hard: when $x$ is large enough to cause underflows in the exponential, the square root is well approximated by half the exponential,

$$f(x) \approx \frac{1}{2} \exp \left(-x^2 \left(\frac{4 + ax^2}{\pi + ax^2}\right)\right).$$

Computing the logarithm of this (in base 10) is simple, and readily gives the desired result. For example, let $x=1000$. The common logarithm of this approximation is

$$\log_{10}(f(x)) \approx \left(-1000^2 \left(\frac{4 + a \cdot 1000^2}{\pi + a \cdot 1000^2}\right) - \log(2)\right) / \log(10) \sim -434295.63047.$$

Exponentiating yields

$$f(1000) \approx 2.34169 \cdot 10^{-434296}.$$

Applying the correction (in $f_3$) produces

$$\textrm{erfc}(1000) \approx 1.86003\ 70486\ 32328 \cdot 10^{-434298}.$$

Note that the correction reduces the original approximation by over 99% (and indeed, $a_1/x \approx 1\text{%}$.) (This approximation differs from the correct value only in the last digit. Another well-known approximation, $\exp(-x^2)/(x\sqrt{\pi})$, equals $1.860038 \cdot 10^{-434298}$, erring in the sixth significant digit. I'm sure we could improve that one, too, if we wanted, using the same techniques.)

A simple upper bound

For very large values of the argument in the calculation of upper tail probability of a normal, excellent bounds exist that are probably as good as one will get using any other methods with double-precision floating point. For $z > 0$, let

$$\renewcommand{\Pr}{\mathbb{P}}\newcommand{\rd}{\mathrm{d}} S(z) := \Pr(Z > z) = \int_z^\infty \varphi(z) \rd z \>,$$ where $\varphi(z) = (2\pi)^{-1/2} e^{-z^2/2}$ is the standard normal pdf. I've used the notation $S(z)$ in deference to the standard notation in survival analysis. In engineering contexts, they call this function the $Q$-function and denote it by $Q(z)$.

Then, a very simple, elementary upper bound is

$$\newcommand{\Su}{\hat{S}_u} \newcommand{\Sl}{\hat{S}_\ell} S(z) \leq \frac{\varphi(z)}{z} =: \Su(z) \> ,$$ where the notation on the right-hand side indicates this is an upper-bound estimate. This answer gives a proof of the bound.

There are several nice complementary lower bounds as well. One of the handiest and easiest to derive is the bound

$$S(z) \geq \frac{z}{z^2+1} \varphi(z) =: \Sl(z) \> .$$ There are at least three separate methods for deriving this bound. A rough sketch of one such method can be found in this answer to a related question.

A picture

Below is a plot of the two bounds (in grey) along with the actual function $S(z)$.

How good is it?

From the plot, it seems that the bounds become quite tight even for moderately large $z$. We might ask ourselves how tight they are and what sort of quantitative statement in that regard can be made.

One useful measure of tightness is the absolute relative error

$$\newcommand{\err}{\mathcal{E}} \err(z) = \left|\frac{\Su(z) - S(z)}{S(z)}\right| \>.$$ This gives you the proportional error of the estimate.

Now, note that, since all of the involved functions are nonnegative, by using the bounding properties of $\Su(z)$ and $\Sl(z)$, we get

$$\err(z) = \frac{\Su(z) - S(z)}{S(z)} \leq \frac{\Su(z) - \Sl(z)}{\Sl(z)} = z^{-2} \> ,$$ and so this provides a proof that for $z \geq 10$ the upper-bound is correct to within 1%, for $z \geq 28$ it is correct to within 0.1% and for $z \geq 100$ it is correct to within 0.01%.

In fact, the simple form of the bounds provides a good check on other "approximations". If, in the numerical calculation of more complicated approximations, we get a value outside these bounds, we can simply "correct" it to take the value of, e.g., the upper bound provided here.

There are many refinements of these bounds. The Laplace bounds mentioned here provide a nice sequence of upper and lower bounds on $S(z)$ of the form $R(z) \varphi(z)$ where $R(z)$ is a rational function.

Finally, here is another somewhat-related question and answer.

You can approximate it with much simpler functions - see this Wikipedia section for more information. The basic approximation is that $\textrm{erf}(x) \approx \textrm{sgn}(x)\sqrt{1 - \exp(-x^2 \frac{4/\pi + ax^2}{1+ax^2}})$

Статья содержит неправильную ссылку на этот раздел. Ссылочный PDF-файл можно найти в файлах Сергея Виницкого или по этой ссылке .