Являются ли CDF более фундаментальными, чем PDF?

Мой проф проф в основном сказал, если дать один из следующих трех, вы можете найти два других:

Кумулятивная функция распределения
Функция генерирования момента
Функция плотности вероятности

Но мой профессор по эконометрике сказал, что CDF являются более фундаментальными, чем PDF, потому что есть примеры, где вы можете иметь CDF, но PDF не определен.

Являются ли CDF более фундаментальными, чем PDF? Как мне узнать, можно ли получить PDF или MGF из CDF?

— Стэн Шунпайк
источник

Это какой-то фундаментальный конкурс? У нас есть группа судей знаменитостей? Все эти три понятия могут быть использованы для определения меры в пространстве

. Однако для данного ВПР, MGF , и в формате PDF может не существовать, как и в формате PDF определен как производное CDF и ФМГ определяется как

, и этот интеграл не существует необходимости. Однако это не означает, что любое из этих понятий является менее фундаментальным. Фундаментальный - это хорошее прилагательное, у которого нет математического определения. Это синоним важного.

R^{d}

$\mathbb{R}^d$

\int_{R} \exp (t x) d F (x)

$\int_{\mathbb{R}}\exp(tx)dF(x)$

— mpiktas

@mpiktas: Каждое распределение вероятностей на (подмножестве)

имеет CDF, и оно однозначно определяет распределение. Однако не все вероятностные распределения имеют PDF или MGF (но все они имеют характеристическую функцию ).

R^{n}

$\mathbb R^n$

— Ильмари Каронен

@mpiktas Вы можете сделать это с

на

. Тогда

не определено. Тем не менее мне совершенно ясно, почему профессор использовал выражение «более фундаментальный». Прилагательное может не иметь четкого математического значения, но что же? Я говорю (некоторые ) Английский тоже. Каждый PDF-файл, о котором мы знаем, имеет базовый CDF. Здесь «базовый» имеет хорошую связь с «фундаментальным». Обратное неверно.

A = {R, \emptyset}

$\mathcal A=\{\mathbb R,\varnothing\}$

R

$\mathbb R$

P ((- \infty, x])

$P((-\infty,x])$

— drhab

@drhab, естественно, я говорил о производной Радона-Никодима :) Я тоже прекрасно понимаю, что имел в виду профессор, но, по-моему, опасно использовать такие выражения со студентами, потому что тогда вместо того, чтобы пытаться понять разницу между математические понятия они пытаются ранжировать их в соответствии с фундаментальностью, что в корне неверно. Пун намеревался.

— mpiktas

@mpiktas: конечно, нет точного определения понятия «фундаментальный». Но есть большая золотая середина между «строго определенным» и «абсолютно бессмысленным». В самой нашей математике, конечно, все в конечном итоге должно быть абсолютно строгим, поэтому мы очень привыкли отбрасывать все, что не является. Но когда мы говорим и думаем о математике, мы имеем субъективные, но значимые понятия, такие как «фундаментальный», «общий» и т. Д., Как и все остальные; и это нормально.

— PLL

Ответы:

Каждое распределение вероятностей на (подмножестве) имеет кумулятивную функцию распределения , и оно однозначно определяет распределение. Таким образом, в этом смысле CDF действительно столь же фундаментален, как и сам дистрибутив. $\mathbb R^n$

Однако функция плотности вероятности существует только для (абсолютно) непрерывных распределений вероятностей . Простейшим примером распределения, в котором отсутствует PDF, является любое дискретное распределение вероятностей , такое как распределение случайной величины, которая принимает только целые значения.

Конечно, такие дискретные распределения вероятностей могут характеризоваться функцией вероятностной массы , но есть также распределения, которые не имеют ни PDF, ни PMF, такие как любая смесь непрерывного и дискретного распределения:

^{(Схема бесстыдно украдена из ответа Glen_b на связанный вопрос.)}

Есть даже сингулярные распределения вероятностей , такие как распределение Кантора , которые не могут быть описаны даже комбинацией PDF и PMF. Такие дистрибутивы все еще имеют четко определенный CDF. Например, вот CDF распределения Кантора, также иногда называемый «лестницей дьявола»:

^{( Изображение из Wikimedia Commons от пользователей Theon и Amirki , используется по лицензии CC-By-SA 3.0 .)}

CDF, известный как функция Кантора , является непрерывным, но не абсолютно непрерывным. Фактически, она постоянна везде, кроме множества Кантора с нулевой мерой Лебега, но все еще содержит бесконечно много точек. Таким образом, вся масса вероятности распределения Кантора сосредоточена на этом исчезающе малом подмножестве линии действительных чисел, но каждая точка в множестве по-прежнему индивидуально имеет нулевую вероятность.

Есть также распределения вероятностей, которые не имеют функции, генерирующей момент . Вероятно, наиболее известным примером является распределение Коши, распределение с хвостами, у которого нет четко определенных моментов порядка 1 или выше (таким образом, в частности, нет четко определенного среднего или дисперсии!).

Однако все вероятностные распределения на имеют (возможно комплексную) характеристическую функцию ), определение которой отличается от определения MGF только умножением на мнимую единицу . Таким образом, характеристическая функция может рассматриваться как основополагающая как CDF. $\mathbb R^n$

— Илмари Каронен
источник

Вы говорите, что у каждого дистрибутива есть CDF, но не у каждого есть PDF, но на самом деле есть дистрибутивы, которые имеют PDF и не имеют CDF замкнутой формы, например, многомерный нормальный.

— Тим

@Tim: Это правда, но только с квалификатором «закрытая форма»; CDF все еще существует, даже если мы не можем написать его в закрытом виде. И в любом случае, определение « выражения закрытой формы » общеизвестно нечетко; по некоторым строгим определениям, даже одномерное нормальное распределение не имеет CDF замкнутой формы, но если вы считаете функцию ошибки замкнутой формой, это так.

— Ильмари Каронен

@Tim Это не контрпример. Это произвольное свойство, которое вы выбрали как важное / фундаментальное для вас. Для меня свойство «существует» важнее, чем «имеет закрытую форму». Более того, «всегда существует» по сравнению с «иногда может не иметь закрытой формы, как любая функция».

— Арк-кун

[0, 1] \subset R

$[0,1] \subset \Bbb{R}$

@ Арк-кун Я играю здесь адвоката дьяволов, поскольку есть случаи, когда PDF - это нечто более «доступное», чем CDF. Мне нравится этот ответ (+1), но ИМХО, это то, что также можно упомянуть.

— Тим

Я полагаю, что ваш профессор по эконометрике думал что-то вроде следующего.

$F$ $[0, 1]$

F (Икс) знак равно \frac{1}{2} Икс для Икс < \frac{1}{2}

$F(x) = \frac{1}{2}x \ \text{for} \ x < \frac{1}{2}$

F (Икс) знак равно \frac{1}{2} Икс + \frac{1}{2} для Икс \geq \frac{1}{2}

$F(x) = \frac{1}{2}x + \frac{1}{2} \ \text{for} \ x \geq \frac{1}{2}$

$[0, 1]$

п ({\frac{1}{2}}) знак равно \frac{1}{2}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

$f$

По определению PDF мы должны иметь

\int_{0}^{Икс} е (T) d T знак равно F (Икс) - F (0) знак равно \frac{1}{4} Икс

$\int_0^x f(t) dt = F(x) - F(0) = \frac{1}{4}x$

$0 < x < \frac{1}{2}$

е (Икс) знак равно \frac{1}{4} для Икс < \frac{1}{2}

$f(x) = \frac{1}{4} \ \text{for} \ x < \frac{1}{2}$

$x > \frac{1}{2}$

е (Икс) знак равно \frac{1}{4} для Икс > \frac{1}{2}

$f(x) = \frac{1}{4} \ \text{for} \ x > \frac{1}{2}$

$f$ $f\left(\frac{1}{2}\right)$ $f\left(\frac{1}{2}\right)$

п ({\frac{1}{2}}) знак равно \frac{1}{2}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

нам нужно

\int_{\frac{1}{2} - ε}^{\frac{1}{2} + ε} е (T) d T > \frac{1}{2}

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt > \frac{1}{2}$

$\frac{1}{2}$

\int_{\frac{1}{2} - ε}^{\frac{1}{2} + ε} е (T) d T знак равно \int_{\frac{1}{2} - ε}^{\frac{1}{2} + ε} \frac{1}{4} d T знак равно \frac{1}{2} ε

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt = \int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} \frac{1}{4} dt = \frac{1}{2} \epsilon$

$f$

Вы можете восстановить дух PDF, но вы должны использовать более сложные математические объекты, либо меру, либо распределение .

— Мэтью Друри
источник

\frac{1}{2} δ (x - \frac{1}{2})

$\frac{1}{2} \delta \left(x-\frac{1}{2}\right)$

δ (x)

$\delta(x)$

x = 0

$x=0$

\int_{- \infty}^{+ \infty} δ (Икс) d Икс знак равно 1

$\int\limits_{-\infty}^{+\infty} \delta(x) \,\mathrm{d}x = 1$

L^{1}

$L^1$

@IwillnotexistIdonotexist То, что сказал Уубер, - это то, на что я намекал в последней строке. Я использовал слово «распространение».

— Мэтью Друри

1 / 2

$1/2$

1 / 2

$1/2$

Илмари дает хороший ответ с теоретической точки зрения. Однако можно также спросить, для каких целей плотность (pdf) и функция распределения (pdf) служат для практических расчетов. Это может прояснить, для каких ситуаций одна из них более полезна, чем другая.

$\mathbb{R}$ $(-\infty,x]$ $-$ $-$

Однако плотность важна для статистики, так как вероятность определяется в терминах плотности. Таким образом, если мы хотим вычислить оценку максимального правдоподобия, нам напрямую нужна плотность.

Если мы обратимся к сравнению эмпирического и теоретического распределения, оба могут быть полезны, но методы, такие как pp- и qq-графики, основанные на функции распределения, часто являются предпочтительными.

$\mathbb{R}^d$ $d \geq 2$

— NRH
источник