Центральная предельная теорема доказательство без использования характеристических функций

Есть ли доказательство того, что CLT не использует характеристические функции, более простой метод?

Может быть, методы Тихомирова или Штейна?

Что-то самодостаточное, что вы можете объяснить студенту университета (первый курс по математике или физике) и занимает меньше одной страницы?

mathematical-statistics central-limit-theorem characteristic-function

— скан
источник

Я набросал такой элементарный подход на stats.stackexchange.com/a/3904/919 . Можно утверждать, что использование функций генерации кумулянтов - самый простой из возможных методов: ваш «проще», вероятно, предназначен для чтения «более элементарно».

— uuber

В более ограничительных условиях, чем при использовании характеристических функций, вы можете вместо этого использовать функции, генерирующие моменты (действительно, первый CLT, который я видел, имел такую форму) - но изложение довольно схоже.

— Glen_b

@Glen_b Я также думал, что это может быть проще с моментами. В любом случае, я оставлю открытым вопрос на тот случай, если кто-нибудь еще отправит другую демонстрацию.

— Скан

Как доказательство, на самом деле это не так просто (доказательство с cfs может быть записано в той же форме, что и доказательство с mgfs), но может быть предпочтительным для студентов, которые могут не иметь никакого опыта работы с функциями, связанными с . То есть вы можете сохранить введение новых концепций, но если у них уже есть эти концепции, то доказательство соответствующего утверждения с помощью cfs на самом деле не сложнее (хотя оно носит более общий характер). Будет ли это лучше, зависит от студентов, с которыми вы имеете дело.

i

$i$

— Glen_b

Я вспоминаю, как мой профессор статистики первого года обучения предоставил визуальное «доказательство» CLT, показав выборочные распределения среднего значения с при различных вероятностных моделях. Нормальное, конечно, не показывало тенденции, но экспоненциальное, бернуллиевское и различные распределения с тяжелыми хвостами все «округляли» до привычной формы визуально для каждого увеличения .

n = 10, 100, 1000

$n=10, 100, 1000$

n

$n$

— AdamO

Ответы:

Вы можете доказать это с помощью метода Штейна, однако это спорно , если доказательство элементарно. Плюс метода Штейна в том, что вы получаете немного более слабую форму оценок Берри Эссеена практически бесплатно. Кроме того, метод Штейна - не что иное, как черная магия! Вы можете найти описание доказательства в разделе 6 этой ссылки . Вы также найдете другие доказательства CLT в ссылке.

Вот краткий план:

1) Докажите, используя простую интеграцию по частям и нормальную плотность распределения, то для всех непрерывно дифференцируема тогда и только тогда является распределены. Это проще показать нормальный следует результат и немного сложнее показать обратное, но , возможно , оно может быть принято на веру. $Ef'(A)-Xf(A)=0$ $A$ $N(0,1)$ $A$

2) В более общем смысле, если для каждого непрерывно дифференцируемого с ограниченным, то сходится к в распределении. Доказательством здесь снова является интеграция по частям с некоторыми хитростями. В частности, нам нужно знать, что сходимость в распределении эквивалентна для всех ограниченных непрерывных функций . Исправляя , это используется для переформулировки: $Ef(X_n)-X_nf(X_n)\rightarrow 0$ $f$ $f,f'$ $X_n$ $N(0,1)$ $Eg(X_n)\rightarrow E g(A)$ $g$ $g$

E g (X_{n}) - E g (A) = E f^{'} (X_{n}) - X_{n} f (X_{n}),

$Eg(X_n)-Eg(A)=Ef'(X_n)-X_nf(X_n),$

где один решает для с использованием базовой теории ОДУ, а затем показывает приятно. Таким образом, если мы можем найти такой хороший , по предположению, rhs переходит в 0, и, следовательно, так же, как и в левой части. $f$ $f$ $f$

3) Наконец, докажите центральную предельную теорему для где идентифицированы со средним 0 и дисперсией 1. Это снова использует трюк на шаге 2, где для каждого находим такой, что: $Y_n:=\frac{X_1+\cdots+X_n}{\sqrt{n}}$ $X_i$ $g$ $f$

E g (X_{n}) - E g (A) = E f^{'} (X_{n}) - X_{n} f (X_{n}) .

$Eg(X_n)-Eg(A)=Ef'(X_n)-X_nf(X_n).$

— Алекс Р.
источник

Вот как бы я это сделал, если бы учился в средней школе.

Возьмите любое распределение вероятностей с плотностью , получите его среднее значение и дисперсию . Затем аппроксимируйте его случайной величиной которая имеет следующий вид: где - случайная величина Бернулли с параметром . Вы можете видеть, что и . $f(x)$ $\mu_x,\sigma_x^2$ $z$

z = μ_{x} - σ_{x} + 2 σ_{x} ξ,

$z=\mu_x-\sigma_x+2\sigma_x\xi,$

ξ

$\xi$

p = 1 / 2

$p=1/2$

μ_{z} = μ_{x}

$\mu_z=\mu_x$

σ_{z}^{2} = σ_{x}^{2}

$\sigma_z^2=\sigma_x^2$

Теперь мы можем посмотреть на сумму

S_{n} = \sum_{i = 1}^{n} z_{i}

$S_n=\sum_{i=1}^n z_i$

= n (μ_{x} - σ_{x}) + 2 σ_{x} \sum_{i = 1}^{n} ξ_{i}

$=n(\mu_x-\sigma_x)+2\sigma_x\sum_{i=1}^n\xi_i$

Вы можете распознать биномиальное распределение здесь: , где . Вам не нужна характеристическая функция, чтобы увидеть, что она сходится к форме нормального распределения . $\eta=\sum_{i=1}^n\xi_i$ $\eta\sim B(n,1/2)$

Таким образом, в некотором отношении вы можете сказать, что Бернулли является наименее точным приближением для любого распределения, и даже оно сходится к нормальному.

Например, вы можете показать, что моменты соответствуют нормальным. Давайте определим, посмотрим на переменную: $y=(S_n/n-\mu_x)\sqrt n$

y = σ_{x} (- 1 + 2 η / n) \sqrt{n}

$y=\sigma_x(-1+2\eta/n)\sqrt n$

Давайте посмотрим, что значит среднее и дисперсия:

μ_{y} = σ_{x} (- 1 + 2 (n / 2) / n) \sqrt{n} = 0

$\mu_y=\sigma_x(-1+2(n/2)/n)\sqrt n=0$

V a r [y] = σ_{x}^{2} V a r [2 η / n] n = 4 σ_{x}^{2} / n n (1 / 4) = σ_{x}^{2}

$Var[y]=\sigma_x^2Var[2\eta/n] n=4\sigma_x^2/nn(1/4)=\sigma_x^2$

Асимметрия и избыточный эксцесс сходятся к нулю при , это легко показать, подключив известные формулы для Binomial. $n\to\infty$

— Аксакал
источник

Интересный. Можно ли превратить эту идею в полное доказательство?

— Элвис

@ Элвис, я пытался думать так же, как и сам, много лет назад, и я не особо интересовался доказательствами. Одна вещь, о которой я подумал, - представить непрерывное распределение как комбинацию бернулли, но не уверен, возможно ли это

— Аксакал

То, что вы написали выше, может быть намного лучше. Не нужно приближенно приближать распределение: грубая аппроксимация переменной, принимающей два разных значения, сделает работу.

— Элвис

То есть, если есть возможность получить некоторую оценку точности нормального приближения. Мол, нормальное приближение по крайней мере так же хорошо для исходного распределения, как и для масштабированного Бернулли. Или, скорее, что-то слабее, но все же позволяет сделать вывод.

— Элвис