Эмпирический CDF против CDF

Я узнаю об эмпирической функции кумулятивного распределения. Но я все еще не понимаю

1. Почему это называется «Эмпирический»?

2. Есть ли разница между Эмпирическим CDF и CDF?

Пусть $X$ - случайная величина.

• Накопительная функция распределения $F(x)$ дает $P(X \leq x)$ .
• Эмпирическая функция кумулятивного распределения $G(x)$ дает $P(X \leq x)$ на основе наблюдений в вашей выборке.

Различие заключается в том, какая мера вероятности используется. Для эмпирического CDF вы используете меру вероятности, определенную частотой в эмпирической выборке.

Простой пример (подбрасывание монеты):

Пусть $X$ - случайная величина, обозначающая результат броска одной монеты, где $X=1$ обозначает головы, а $X=0$ обозначает хвосты.

CDF для честной монеты определяется как:

$$F(x) = \left\{ \begin{array}{ll} 0 & \text{for } x < 0\\ \frac{1}{2} & \text{for } 0 \leq x < 1 \\1 & \text{for } 1 \leq x \end{array} \right.$$

Если бы вы перевернули 2 головы и 1 хвост, эмпирический CDF будет:

$$G(x) = \left\{ \begin{array}{ll} 0 & \text{for } x < 0\\ \frac{2}{3} & \text{for } 0 \leq x < 1 \\1 & \text{for } 1 \leq x \end{array} \right.$$

Эмпирический CDF будет отражать , что в вашей выборке, $2/3$ ваших перестроек были головами.

Другой пример ( $F$ - CDF для нормального распределения):

Пусть $X$ - нормально распределенная случайная величина со средним значением $0$ и стандартным отклонением $1$ .

CDF предоставляется:

$$F(x) = \int_{-\infty}^x \frac{1}{\sqrt{2\pi}} e^{\frac{-x^2}{2}}$$

$x_1 < x_2 < x_3$

$$G(y) = \left\{ \begin{array}{ll} 0 & \text{for } y < x_1\\ \frac{1}{3} & \text{for } x_1 \leq y < x_2 \\\frac{2}{3} & \text{for } x_2 \leq y < x_3 \\1 & \text{for } x_3 \leq y \end{array} \right.$$

При достаточном количестве розыгрышей IID (и соблюдении определенных условий регулярности) эмпирический CDF будет сходиться к базовому CDF популяции.

Есть ли разница между Эмпирическим CDF и CDF?

Да, они разные. Эмпирический cdf - это правильный cdf, но эмпирические cdf всегда будут дискретными, даже если они не взяты из дискретного распределения, в то время как cdf распределения может быть другим, помимо дискретного.

Если вы рассматриваете выборку так, как если бы она была совокупностью значений, каждая из которых одинаково вероятна (т. Е. Поместите вероятность 1 / n в каждое наблюдение), тогда cdf этого распределения будет ECDF данных.

Почему это называется «Эмпирический»?

Это оценка численности населения в формате cdf на основе выборки; в частности, если вы относитесь к пропорциям выборки при каждом отдельном значении данных и относитесь к нему как к вероятности в популяции, вы получаете ECDF.

Эмпирическое имеет значение что-то вроде «наблюдением, а не теорией», и это именно то, что оно означает в данном случае ... использование наблюдений для определения функции распределения.

Эмпирический CDF построен на основе фактического набора данных (на графике ниже я использовал 100 выборок из стандартного нормального распределения). CDF - это теоретическая конструкция - это то, что вы бы увидели, если бы могли брать бесконечно много сэмплов.

Эмпирический CDF обычно очень хорошо аппроксимирует CDF, особенно для больших выборок (на самом деле существуют теоремы о том, как быстро он сходится к CDF при увеличении размера выборки).

Эмпирический это то, что вы строите из данных и наблюдений. Например, предположим, что вы хотите знать о распределении роста людей в стране. Вы начинаете с измерения людей и получаете гистограмму, которая может быть приближена к распределению. Затем вы рассчитываете эмпирический CDF.

Если вы используете статистическое распределение (детерминированная формула, которая дает точно такой же результат с теми же параметрами), вы также можете рассчитать его CDF.

Вы можете сказать: «Рост людей в этой стране распределен аналогично нормальному распределению со средним 1,75 м и стандартным отклонением 0,1 м. Тогда вы можете использовать CDF ~$N(\mu=1.75\ \text{m},\sigma=0.1\ \text{m})$ вместо построенного CDF эмпирического распределения.

Согласно Dictionary.com , определения «эмпирические» включают в себя:

получены или руководствуются опытом или экспериментом.

Следовательно, Empirical CDF - это CDF, который вы получаете из ваших данных. Это контрастирует с теоретическим CDF (часто называемым просто «CDF»), который получается из статистической или вероятностной модели, такой как нормальное распределение.