Почему t-распределение становится более нормальным с увеличением размера выборки?

Согласно Википедии, я понимаю, что t-распределение - это выборочное распределение t-значения, когда выборки представляют собой наблюдения из нормально распределенной популяции. Тем не менее, я не понимаю, почему это приводит к тому, что форма t-распределения меняется с жирнохвостого на почти совершенно нормальный.

Я понимаю, что если вы делаете выборку из нормального распределения, то если вы берете большую выборку, она будет напоминать это распределение, но я не понимаю, почему он начинается с формы с толстым хвостом, которую он делает.

normal-distribution t-distribution

— user1205901 - Восстановить Монику
источник

Я постараюсь дать интуитивное объяснение.

Т-статистика * имеет числитель и знаменатель. Например, статистика в одном образце t-критерия

\frac{\bar{x} - μ_{0}}{s / \sqrt{n}}

$\frac{\bar{x}-\mu_0}{s/\sqrt{n}}$

* (их несколько, но, надеюсь, эта дискуссия должна быть достаточно общей, чтобы охватить те, о которых вы спрашиваете)

Согласно допущениям, числитель имеет нормальное распределение со средним значением 0 и некоторым неизвестным стандартным отклонением.

При том же наборе допущений знаменатель является оценкой стандартного отклонения распределения числителя (стандартная ошибка статистики в числителе). Он не зависит от числителя. Его квадрат является случайной величиной хи-квадрат, деленной на ее степени свободы (которая также является df от t-распределения), умноженную на . $\sigma_\text{numerator}$

Когда степени свободы являются маленькими, знаменатель имеет тенденцию быть довольно правильным. У него высокий шанс быть меньше среднего и относительно хороший шанс быть совсем маленьким. В то же время, он также имеет некоторый шанс быть намного, намного больше, чем его среднее значение.

В предположении нормальности числитель и знаменатель независимы. Таким образом, если мы случайным образом извлекаем из распределения этой t-статистики, мы получим нормальное случайное число, разделенное на второе случайно * выбранное значение из распределения с перекосом вправо, которое в среднем составляет около 1.

* без учета нормального срока

Поскольку он находится в знаменателе, малые значения в распределении знаменателя дают очень большие значения t. Отклонение вправо в знаменателе делает статистику тяжеловесной. Правый хвост распределения, когда на знаменателе делает распределение t более резким, чем нормаль с тем же стандартным отклонением, что и t .

Однако по мере того, как степени свободы становятся большими, распределение становится намного более нормальным и намного более «узким» вокруг своего среднего значения.

введите описание изображения здесь

Таким образом, эффект деления на знаменатель на форму распределения числителя уменьшается с увеличением степеней свободы.

В конце концов - как может предположить нам теорема Слуцкого, - эффект знаменателя становится более похожим на деление на константу, а распределение t-статистики очень близко к норме.

Рассматривается с точки зрения взаимности знаменателя

В комментариях Уабер высказал предположение, что было бы более поучительно взглянуть на взаимность знаменателя. То есть мы могли бы написать нашу t-статистику в виде числителя (нормальное) раз обратного знаменателя (наклон вправо).

Например, наша статистика за одну выборку t будет такой:

\sqrt{n} (\bar{x} - μ_{0}) \cdot 1 / s

${\sqrt{n}(\bar{x}-\mu_0)}\cdot{1/s}$

Теперь рассмотрим стандартное отклонение популяции исходного , . Мы можем умножить и разделить на это, вот так: $X_i$ $\sigma_x$

\sqrt{n} (\bar{x} - μ_{0}) / σ_{x} \cdot σ_{x} / s

${\sqrt{n}(\bar{x}-\mu_0)/\sigma_x}\cdot{\sigma_x/s}$

Первый член стандартно нормален. Затем второе слагаемое (квадратный корень из масштабированной случайной величины с обратным хи-квадратом) масштабирует этот стандартный нормаль значениями, которые больше или меньше 1, «распространяя его».

В предположении нормальности два слагаемых в произведении являются независимыми. Поэтому, если мы случайным образом получим из распределения этой t-статистики, мы получим нормальное случайное число (первое слагаемое в произведении), умноженное на второе случайно выбранное значение (без учета нормального слагаемого) из правостороннего распределения, которое ' как правило, около 1.

Когда df велико, значение имеет тенденцию быть очень близким к 1, но когда df мало, оно довольно искажено и разброс большой, с большим правым хвостом этого коэффициента масштабирования, делающим хвост довольно толстым:

введите описание изображения здесь

— Glen_b - Восстановить Монику
источник

Благодарность! Это многое прояснило, но я все еще был немного неуверен в том, что «его квадрат является случайной величиной хи-квадрат, деленной на ее степени свободы (которая также является df от t-распределения), умноженного на [стандартное отклонение] числителя». ». Вы упомянули об этом просто потому, что это было полезно знать, или это имеет прямое отношение к ответу на мой вопрос? Я понимаю, что именно распределение знаменателя, а не распределение квадрата знаменателя, изображено на вашей фигуре.

— user1205901 - Восстановить Монику

Распределение статистики было бы более тяжелым, чем обычно, даже если бы оно не было конкретно квадратным корнем хи-квадрата на его df; в этом смысле это не будет напрямую изменять ответ, чтобы его опустить. Но, по крайней мере, это служит объяснением того, откуда взялись распределения шкаличи на диаграмме.

— Glen_b

Я думаю, что было бы немного более полезно провести этот анализ на основе обратной величины стандартного отклонения выборки. Это, в сочетании с аргументом о том, что образец SD не зависит от среднего значения выборки (ключевая идея, которая выиграет от чуть большего акцента и объяснения, ИМХО), поможет людям увидеть, что деление выборочного среднего значения на образец SD должно распространять то, что в противном случае было бы нормальным распределением. (Это, конечно, и было

— смыслом

@whuber Я добавил раздел, обсуждающий его с точки зрения взаимности, но также сохранил первоначальное обсуждение (мне кажется, что оно более прямое, но я ценю, что многие люди могут извлечь из этого больше пользы с точки зрения взаимности) , Я также добавлю немного о независимости

— Glen_b

s / \sqrt{n}

$s/\sqrt{n}$

σ / \sqrt{n}

$\sigma/\sqrt{n}$

s / σ

$s/\sigma$

σ / s

$\sigma/s$

σ

$\sigma$

@Glen_b дал вам интуицию о том, почему статистика t выглядит более нормальной по мере увеличения размера выборки. Теперь я дам вам немного более подробное объяснение случая, когда вы уже получили распространение статистики.

$n-1$ $n$

\frac{{(1 + \frac{x^{2}}{n - 1})}^{- n / 2}}{\sqrt{n - 1} B (\frac{n - 1}{2}, \frac{1}{2})} .

$\frac{\left(1+\frac{x^2}{n-1}\right)^{-n/2}}{\sqrt{n-1} B\left(\frac{n-1}{2},\frac{1}{2}\right)}.$

Можно показать, что

\frac{1}{\sqrt{n - 1} B (\frac{n - 1}{2}, \frac{1}{2})} \to \frac{1}{\sqrt{2 π}},

$\frac{1}{\sqrt{n-1} B\left(\frac{n-1}{2},\frac{1}{2}\right)}\rightarrow \frac{1}{\sqrt{2\pi}},$

{(1 + \frac{x^{2}}{n - 1})}^{- n / 2} \to \exp (- x^{2} / 2),

$\left(1+\frac{x^2}{n-1}\right)^{-n/2}\rightarrow \exp(-x^2/2),$

$n\rightarrow \infty$

— Крюгер
источник

1 / n

$1/n$

(1 + (x / n)^{2})^{- 1}

$(1 + (x/n)^2)^{-1}$

t_{n}

$t_n$ толстые хвосты. Возможность такого тонкого поведения делает аргументы, основанные на пределах PDF-файлов, менее чем удовлетворительными. Кроме того, не вопрос действительно спросить о небольшойстепени свободы? Он хочет знать, почему последовательность «начинается с фигуры с толстыми хвостами».

— whuber

- n

$-n$

n

$n$

Я просто хотел поделиться чем-то, что помогло моей интуиции как новичку (хотя это менее строгое, чем другие ответы).

$Z, Z_1, ..., Z_n$

\frac{Z}{\sqrt{\frac{Z_{1}^{2} +,,, + Z_{N}^{2}}{N}}}

$\frac{Z}{\sqrt{\frac{Z_1^2+...+Z_n^2}{n}}}$

имеет Т-распределение с $n$ степени свободы.

В качестве $n$ становится действительно большим, используя закон больших чисел, мы можем видеть, что знаменатель идет к $1$ , Так что вы просто остались с $Z$ который является нормальным нормальным, поэтому распределение t выглядит нормально, как $n$ становится большим.

Для уточнения ... обратите внимание, что $E[Z^2] = 1$ который говорит, что ожидаемое значение Чи в квадрате RV равно единице. Доля в квадратном корне - это просто среднее значение выборки $n$ н.о.р. $Z_i^2$ RVs. Образец означает как $n$ получает супер большой будет равен ожидаемому значению только одного из $Z_i^2$ это что один.

Таким образом $n$ становится действительно большим, вы просто остались с $\frac{Z}{\sqrt{1}} = Z$

— HJ_beginner
источник