Сходится ли нормальное распределение к равномерному распределению, когда стандартное отклонение растет до бесконечности?

18

Сходится ли нормальное распределение к определенному, если стандартное отклонение растет без границ? мне кажется, что pdf начинает выглядеть как равномерное распределение с границами, заданными . Это правда? $[-2 \sigma, 2 \sigma]$

normal-distribution convergence

— Рамон Мартинес
источник

2

Нет, но чтобы правильно ответить на ваш вопрос, нам нужно знать, как вы определяете конвергенцию. Имейте в виду, что формальное обсуждение возможно только тогда, когда правая часть не меняется. Таким образом, вы не можете установить сходимость к Unifrom [

- σ, σ

$-\sigma,\sigma$ ], потому что ваша

σ

$\sigma$ меняется. Посмотрите на формулировку CLT, чтобы понять, что я имею в виду

— Аксакал

только если вы обернули или урезали его до чего-то

o (σ)

$o(\sigma)$ .

— Enthdegree

4

Другие ответы, уже здесь, делают большую работу по объяснению, почему гауссовые RV не сходятся ни к чему, когда дисперсия увеличивается без границ, но я хочу указать на, казалось бы, однородное свойство, которое удовлетворяет такая группа гауссиан , что, я думаю, могло бы достаточно, чтобы кто-то догадался, что они становятся единообразными, но оказывается, что он недостаточно силен, чтобы сделать вывод. $\newcommand{\len}{\text{len}}$

Рассмотрим набор случайных величин $\{X_1,X_2,\dots\}$ где $X_n \sim \mathcal N(0, n^2)$ . Пусть $A = [a_1,a_2]$ - фиксированный интервал конечной длины, и для некоторого $c \in \mathbb R$ определим $B = A +c$ , т. Е. $B$ есть $A$ но просто смещено на $c$ . Для интервала $I = [i_1,i_2]$ определите $\len (I) = i_2-i_1$ как длину $I$ и обратите внимание, что $\len(A) = \len(B)$ .

Сейчас я докажу следующий результат:

Результат : $\vert P(X_n \in A) - P(x_n\in B)\vert \to 0$ при $n \to \infty$ .

Я называю это однородным, потому что он говорит, что распределение все чаще имеет два фиксированных интервала одинаковой длины с одинаковой вероятностью, независимо от того, насколько далеко они могут быть друг от друга. Это определенно очень однородная особенность, но, как мы увидим, это ничего не говорит о фактическом распределении сходящемся к однородному. $X_n$ $X_n$

Pf: обратите внимание, что где поэтому Я могу использовать (очень грубую) оценку, что чтобы получить $X_n = n X_1$ $X_1 \sim \mathcal N(0, 1)$

P (X_{n} \in A) = P (a_{1} \leq n X_{1} \leq a_{2}) = P (\frac{a_{1}}{n} \leq X_{1} \leq \frac{a_{2}}{n})

$P(X_n \in A) = P(a_1 \leq n X_1 \leq a_2) = P\left(\frac{a_1}{n} \leq X_1 \leq \frac{a_2}n\right)$

= \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x .

$= \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx.$

e^{- x^{2} / 2} \leq 1

$e^{-x^2/2} \leq 1$

\frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x \leq \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} 1 d x

$\frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx \leq \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} 1\,\text dx$

= \frac{len (A)}{n \sqrt{2 π}} .

$= \frac{\text{len}(A)}{n\sqrt{2\pi}}.$

Я могу сделать то же самое для чтобы получить $B$

P (X_{n} \in B) \leq \frac{len (B)}{n \sqrt{2 π}} .

$P(X_n \in B) \leq \frac{\text{len}(B)}{n\sqrt{2\pi}}.$

Собрав их вместе, я имею при (здесь я использую неравенство треугольника).

| P (X_{n} \in A) - P (X_{n} \in B) | \leq \frac{\sqrt{2} len (A)}{n \sqrt{π}} \to 0

$\left\vert P(X_n \in A) - P(X_n \in B)\right\vert \leq \frac{\sqrt 2 \text{len}(A) }{n\sqrt{\pi}} \to 0$

n \to \infty

$n\to\infty$

$\square$

Чем это отличается от сходящегося в равномерном распределении? Я только что доказал, что вероятности, заданные для любых двух фиксированных интервалов одной и той же конечной длины, становятся все ближе и ближе, и это интуитивно понятно, так как плотности «сглаживаются» с точки зрения и $X_n$ $A$ $B$

Но для того, чтобы сходился в равномерном распределении, мне нужно, чтобы направлялся к пропорции для любого интервала , и это совсем другое дело, потому что это должно применяться к любому , а не только к одному фиксированному заранее (и, как уже упоминалось, это также невозможно даже для дистрибутива с неограниченной поддержкой). $X_n$ $P(X_n \in I)$ $\text{len}(I)$ $I$ $I$

— JLD
источник

Правильно, вы могли бы почти сказать, что они сходятся в распределении, за исключением того, что предел того, к чему они сходятся, является неправильным распределением. Один тип сходимости, который был бы хорошо определен, - я думаю, вы могли бы показать, что метрика Вассерштейна будет приближаться к нулю как ?

σ \to \infty

$\sigma \rightarrow \infty$

— Клифф А.Б.

36

Распространенная ошибка в вероятности - думать, что распределение однородно, потому что оно выглядит визуально плоским, когда все его значения близки к нулю. Это связано с тем, что мы склонны видеть, что и, тем не менее, , то есть небольшой интервал вокруг в 1000 раз больше вероятно, чем небольшой интервал вокруг . $f(x)=0.001 \approx 0.000001=f(y)$ $f(x)/f(y)=0.001/0.000001=1000$ $x$ $y$

Он определенно не является равномерным по всей реальной линии в пределе, так как нет равномерного распределения по . На даже не приблизительно одинаков . $(-\infty,\infty)$ $[-2\sigma,2\sigma]$

Последнее видно из правила 68-95-99.7, с которым вы, похоже, знакомы. Если бы он был приблизительно одинаковым для , то вероятность нахождения в и должна быть одинаковой, так как два интервала одинаковы длина. Но это не тот случай: , но . $[-2\sigma,2\sigma]$ $[0,\sigma]$ $[\sigma,2\sigma]$ $P([0,\sigma])\approx 0.68/2= 0.34$ $P([\sigma,2\sigma])\approx (0.95-0.68)/2 = 0.135$

При просмотре по всей реальной линии эта последовательность нормальных распределений не сходится ни к какому распределению вероятности. Есть несколько способов увидеть это. Например, cdf нормали со стандартным отклонением имеет вид и для всех , что не является cdf для любой случайной величины. На самом деле это вообще не cdf. $\sigma$ $F_\sigma(x) = (1/2)(1+\mbox{erf}(x/\sqrt{2}\sigma)$ $\lim_{\sigma\rightarrow\infty} F_\sigma(x) = 1/2$ $x$

Причиной этой не сходимости сводится к «потере массы» является предел. Ограничивающая функция нормального распределения фактически «потеряла» вероятность (т.е. она улетела в бесконечность). Это связано с концепцией строгости мер , которая дает необходимые условия для последовательности случайных переменных сходиться к другой случайной переменной.

— Алекс Р.
источник

1

Неправильное «это» было «все его значения близки к нулю». «Это» в «Это распространенная ошибка» было правильным.

— накопление

15

Ваше утверждение, что pdf начинает выглядеть как равномерное распределение с границами, заданными $[−2σ,2σ]$ неверно, если вы настроите для соответствия более широкому стандартному отклонению. $\sigma$

Рассмотрим эту диаграмму двух нормальных плотностей с центром в нуле. Красная кривая соответствует стандартному отклонению а синяя кривая - стандартному отклонению , и это действительно тот случай, когда синяя кривая почти плоская на $1$ $10$ $[-2,2]$

но для синей кривой с мы должны смотреть на ее форму на . Изменение масштаба по осям и по коэффициентам дает следующий график, и вы получаете точно такую же форму для плотности синего цвета на этом более позднем графике, что и плотность красного цвета на предыдущем графике $\sigma=10$ $[-20,20]$ $x$ $y$ $10$

— Генри
источник

2

Ваш вопрос в корне ошибочный. Стандартное нормальное распределение масштабируется таким образом , что . Таким образом, для некоторого другого распределения Гаусса ( ) тогда кривая между границами имеет ту же форму, что и стандартное нормальное распределение. Единственная разница - коэффициент масштабирования. Так что если вы масштабируете гауссиану путем деления на , то вы получите стандартное нормальное распределение. $\sigma = 1$ $\mu = 0, \sigma = \sigma^*$ $[-2\sigma^*, 2\sigma^*]$ $\sigma^*$

Теперь, если у вас есть распределение Гаусса ( ), тогда yes as , область между становится все более плоской. $\mu = 0, \sigma = \sigma^*$ $\sigma^* \rightarrow \infty$ $[-2, 2]$

— MaxW
источник