Плотность нормального распределения при увеличении размеров

Вопрос, который я хочу задать, заключается в следующем: как изменяется доля выборок в пределах 1 SD от среднего значения нормального распределения с увеличением числа вариаций?

(Почти) всем известно, что при одномерном нормальном распределении 68% выборок можно найти в пределах 1 стандартного отклонения от среднего. Как насчет 2, 3, 4, ... размеров? Я знаю, что становится меньше ... но на сколько (точно)? Было бы удобно иметь таблицу с цифрами для 1, 2, 3 ... 10 измерений, а также 1, 2, 3 ... 10 SD. Кто-нибудь может указать на такую таблицу?

Немного больше контекста - у меня есть датчик, который предоставляет данные до 128 каналов. Каждый канал подвержен (независимому) электрическому шуму. Когда я ощущаю калибровочный объект, я могу усреднить достаточное количество измерений и получить среднее значение по 128 каналам вместе со 128 отдельными стандартными отклонениями.

НО ... когда речь идет об отдельных мгновенных показаниях, данные реагируют не так сильно, как 128 отдельных показаний, а как одно считывание (до) 128-мерной векторной величины. Конечно, это лучший способ обработать несколько критических чтений, которые мы берем (обычно 4-6 из 128).

Я хочу понять, что такое «нормальная» вариация и что является «выбросом» в этом векторном пространстве. Я уверен, что видел таблицу, подобную той, которую я описал, которая применима к такой ситуации - кто-нибудь может указать на одну из них?

normal-distribution multivariate-analysis

— omatai
источник

Пожалуйста - могу ли я иметь только эмпирические ответы - я не понимаю большинство математических обозначений.

— Оматай

Давайте возьмем : каждый является нормальным а независимы - я думаю, это то, что вы имеете в виду с более высокими измерениями. $X = (X_1,\dots,X_d) \sim N(0,I)$ $X_i$ $N(0,1)$ $X_i$

Вы сказали бы, что находится в пределах 1 sd от среднего, когда (расстояние между X и его средним значением меньше 1). Теперь так что это происходит с вероятностью где . Вы можете найти это в хороших квадратных столах ци ... $X$ $||X|| < 1$ $||X||^2 = X_1^2 +\cdots+X_d^2\sim \chi^2(d)$ $P( \xi < 1 )$ $\xi\sim\chi^2(d)$

Вот несколько значений:

\begin{array}{ll} d & п (ξ < 1) \\ 1 & 0,68 \\ 2 & 0,39 \\ 3 & 0,20 \\ 4 & 0,090 \\ 5 & 0,037 \\ 6 & 0,014 \\ 7 & 0,0052 \\ 8 & 0,0018 \\ 9 & 0,00056 \\ 10 & 0,00017 \end{array}

$\begin{array}{ll} d& P(\xi < 1)\\ 1 & 0.68\\ 2 & 0.39 \\ 3 & 0.20 \\ 4 & 0.090 \\ 5 & 0.037 \\ 6 & 0.014 \\ 7 & 0.0052 \\ 8 & 0.0018\\ 9 & 0.00056\\ 10& 0.00017\\ \end{array}$

И за 2 сд:

\begin{array}{ll} d & п (ξ < 4) \\ 1 & 0,95 \\ 2 & 0.86 \\ 3 & 0,74 \\ 4 & 0,59 \\ 5 & 0,45 \\ 6 & 0,32 \\ 7 & 0,22 \\ 8 & 0,14 \\ 9 & 0,089 \\ 10 & 0,053 \end{array}

$\begin{array}{ll} d & P(\xi < 4)\\ 1 & 0.95\\ 2 & 0.86\\ 3 & 0.74\\ 4 & 0.59\\ 5 & 0.45\\ 6 & 0.32\\ 7 & 0.22\\ 8 & 0.14\\ 9 & 0.089\\ 10 & 0.053\\ \end{array}$

Вы можете получить эти значения в R с помощью таких команд, как pchisq(1,df=1:10), pchisq(4,df=1:10)и т. Д.

Постскриптум Как отметил кардинал в комментариях, можно оценить асимптотическое поведение этих вероятностей. CDF переменной имеет вид где - неполная функция , а классика . $\chi^2(d)$

F_{d} (Икс) знак равно п (d / 2, Икс / 2) знак равно \frac{γ (d / 2, Икс / 2)}{Γ (d / 2)}

$F_d(x) = P(d/2,x/2) = {\gamma(d/2, x/2) \over \Gamma(d/2)}$

γ (s, y) = \int_{0}^{y} t^{s - 1} e^{- t} d t

$\gamma(s,y) = \int_0^y t^{s-1} e^{-t} \mathrm d t$

γ

$\gamma$

Γ (s) = \int_{0}^{\infty} t^{s - 1} e^{- t} d t

$\Gamma(s) = \int_0^\infty t^{s-1} e^{-t} \mathrm d t$

Когда является целым числом, повторное интегрирование по частям показывает, что Что является хвостом CDF распределения Пуассона. $s$

п (s, Y) знак равно е^{- Y} Σ_{К знак равно s}^{\infty} \frac{Y^{К}}{К!},

$P(s,y) = e^{-y} \sum_{k=s}^\infty {y^k \over k!},$

Теперь в этой сумме преобладает ее первый член (большое спасибо кардиналу): для больших . Мы можем применить это, когда чётно: для больших четный , предпоследняя эквивалентность по формуле Стирлинга. Из этой формулы мы видим, что асимптотическое затухание очень быстро с ростом . $P(s,y) \sim {y^s \over s!} e^{-y}$ $s$ $d$

п (ξ < Икс) знак равно п (d / 2, Икс / 2) ~ \frac{1}{(d / 2)!} {(\frac{Икс}{2})}^{d / 2} е^{- Икс / 2} ~ \frac{1}{\sqrt{π d}} е^{\frac{1}{2} (d - Икс)} {(\frac{Икс}{d})}^{\frac{d}{2}} ~ \frac{1}{\sqrt{π}} е^{- \frac{1}{2} Икс} d^{- \frac{1}{2} d},

$P(\xi < x) = P(d/2,x/2) \sim {1 \over (d/2)!} \left({x\over 2}\right)^{d/2} e^{-x/2} \sim {1\over\sqrt{\pi d}}e^{{1\over 2}(d-x)} \left({x\over d}\right)^{d\over 2} \sim {1\over\sqrt\pi} e^{-{1\over 2}x} d^{-{1\over 2}d},$

d

$d$

d

$d$

— Элвис
источник

Добро пожаловать на наш сайт, Элвис! Хороший ответ. (+1)

— whuber

(+1) Хороший ответ. Вот несколько предложений для вашего рассмотрения: ( 1 ) для ясности может помочь четко указать, что , ( 2 ) кратко дать интуитивный аргумент в пользу выбора, который вы сделали для значения «одно стандартное отклонение» в этом контексте и почему это даже четко определено в первую очередь, и ( 3 ) добавить утверждение относительно роста этой величины как функции от . (ОП запрашивает только «эмпирические» ответы, но другие читатели могут оценить небольшое математическое дополнение.)

ξ

$\xi$

d

$d$

— Кардинал

Спасибо за ваши Коментарии. Я не думал, что этот ответ получит много внимания! Это правда, что это хорошая форма проклятия размерности ... @cardinal относительно (3) Я не знаю никакого асимптотического эквивалента неполной гамма-функции, когда первые параметры уходят в бесконечность, а вторые фиксируются, это это не легко! Грубое торжество может быть сделано, я могу написать это позже.

— Элвис

Что касается ( 3 ), чтобы избежать вычислений, вы можете использовать следующий аргумент: пусть будет четным и таким, что . Обратите внимание, что является случайной величиной . Итак, . Но тогда - это время до го возобновления пуассоновского процесса со скоростью 1/2. Итак,, В хвосте Пуассона доминирует главный член, поэтому как (опять же:

d

$d$

d = 2 k

$d = 2 k$

Z_{i} = X_{2 i - 1}^{2} + X_{2 i}^{2}

$Z_i = X_{2i-1}^2 + X_{2i}^2$

E x p (1 / 2)

$\mathrm{Exp}(1/2)$

‖ X ‖^{2} = \sum_{i = 1}^{k} Z_{i}

$\|X\|^2 = \sum_{i=1}^k Z_i$

‖ X ‖^{2}

$\|X\|^2$

k

$k$

P (‖ X ‖^{2} < 1) = P (N_{1 / 2} (0, 1) \geq k) = e^{- 1 / 2} \sum_{x = k}^{\infty} 2^{- x} / x!

$\mathbb P(\|X\|^2 < 1 ) = \mathbb P( N_{1/2}(0,1) \geq k) = e^{-1/2} \sum_{x=k}^\infty 2^{-x}/x!$

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1)

$\mathbb P(\|X\|^2 < 1) \sim e^{-1/2} 2^{-k} / \Gamma(k+1)$

d \to \infty

$d\to\infty$

k = d / 2

$k = d/2$ ).

— кардинал

Отчасти из вышеприведенного комментария является то, что мы получаем точный ответ для всех даже . Кроме того, используя приближение Стирлинга, получаем, что .

d

$d$

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1) \sim e^{(d - 1) / 2} d^{- (d + 1) / 2} / \sqrt{π}

$\mathbb P(\|X\|^2 < 1 ) \sim e^{-1/2} 2^{-k} / \Gamma(k+1) \sim e^{(d-1)/2} d^{-(d+1)/2} / \sqrt{\pi}$

— кардинал