Почему свертка работает?

Итак, я знаю, что если мы хотим найти распределение вероятностей суммы независимых случайных величин , мы можем вычислить его из распределений вероятностей и , говоря: $X + Y$ $X$ $Y$

f_{X + Y} (a) = \int_{x = - \infty}^{\infty} f_{X, Y} (X = x, Y = a - x) d x = \int_{x = - \infty}^{\infty} f_{X} (x) f_{Y} (a - x) d x

$f_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = x, Y = a - x)~dx = \int_{x = -\infty}^{\infty} f_X(x) f_Y(a - x)~dx$

Интуитивно понятно, что это имеет смысл, потому что если мы хотим найти вероятность того, что две случайные переменные суммируют с , это в основном сумма вероятностей всех событий, которые приводят к суммированию этих переменных с . Но как я могу формально доказать это утверждение? $a$ $a$

probability

— Джессика
источник

Немного другой вопрос, но ответ похож .

— Карл

Ответы:

Более общее решение рассматривает где и не обязательно независимы. Распространенная стратегия решения проблем, в которых вы задаетесь вопросом, откуда появился PDF или как его обосновать, состоит в том, чтобы вместо этого найти накопительный, а затем дифференцировать, чтобы уменьшить CDF до PDF. $Z = X + Y$ $X$ $Y$

Довольно легко увидеть, что в этом случае где - область плоскости - для которой . $F_Z(z) = \mathrm{P}(Z \leq z) = \int \int_R f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y$ $R$ $x$ $y$ $x + y \leq z$

Это синяя область на диаграмме ниже. Естественно объединить этот регион, разбив его на полосы - я сделал это с вертикальными полосами, но с горизонтальными. Фактически, я получаю полосу для каждой координаты в диапазоне от до , и вдоль каждой полосы я хочу, чтобы значения не поднимались выше линии , поэтому , $x$ $-\infty$ $\infty$ $y$ $x + y = z$ $y \leq z - x$

z <x + y

Теперь мы получили пределы интегрирования в терминах и , мы можем сделать замену , следующим образом, с целью заставить появиться в качестве верхнего предела . Математика проста, если вы понимаете, как использовать якобиан для изменения переменных. $x$ $y$ $u=x$ $v=x+y$ $z$ $v$

F_{Z} (z) = \int_{x = - \infty}^{x = \infty} \int_{y = - \infty}^{y = z - x} f_{X, Y} (x, y) d x d y = \int_{v = - \infty}^{v = z} \int_{u = - \infty}^{y = \infty} f_{X, Y} (u, v - u) d u d v

$F_Z(z) = \int_{x = -\infty}^{x=\infty}\int_{y=-\infty}^{y=z-x}f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y = \int_{v = -\infty}^{v=z}\int_{u=-\infty}^{y=\infty}f_{X,Y}(u,v-u)\,\mathrm{d}u\,\mathrm{d}v$

Пока выполняются определенные условия, мы можем дифференцировать под знаком интеграла по чтобы получить: $z$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X, Y} (u, z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_{X,Y}(u, z-u)\,\mathrm{d}u$

Это работает, даже если и не являются независимыми. Но если они есть, мы можем переписать плотность соединений как произведение двух предельных: $X$ $Y$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X} (u) f_{Y} (z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_X(u)f_Y(z-u)\,\mathrm{d}u$

Фиктивная переменная может без вреда быть записана как если это необходимо. $u$ $x$

Мои обозначения для интегралов точно следуют разделу 6.4 Джеффри Гримметта и Доминика Уолша, Вероятность: введение , Oxford University Press, Нью-Йорк, 2000.

— тарпон
источник

+1 В качестве примечания, соглашение состоит в том, что дифференциал снаружи множественного интеграла применяется к внешнему интегралу; таким образом, в выражении вида сначала выполняется интегрирование по - это внутренний интеграл - и это по делается последним - это внешний интеграл. Это позволяет нам свободно размещать скобки без изменения значения, как в .

\iint \dots d x d y

$\iint \cdots \mathrm{d}x\,\mathrm{d} y$

x

$x$

y

$y$

\int (\int \dots d x) d y

$\int\left(\int \cdots \mathrm{d}x\right)\mathrm{d}y$

— whuber

@whuber, если подумать, это соглашение, которое применяется практически во всех известных мне учебниках (так что множественная интеграция - это эффективно вложенные интегралы). Но пролистывая, Гримметт и Уэльс «Вероятность: введение» абсолютно согласуются с их собственным соглашением о том же лево-правом порядке для пределов и дифференциалов, например, они дают !

\int_{u} \int_{v} \int_{w} . . . d u d v d w

$\int_u \int_v \int_w ... du\,dv\,dw$

— Серебряная рыба

Меня постоянно удивляет то, как на пересечении многих областей мы сталкиваемся с противоречивыми соглашениями. Это одна из радостей работы с людьми из разных слоев общества.

— whuber

@whuber Я знаю, что соглашения об установлении интегралов сильно различаются между странами - вам понравится это на Tex SE tex.stackexchange.com/a/88961/25866, и я бы хотел, чтобы он был расширен для охвата множественной интеграции!

— Серебряная рыба

Утверждение верно тогда и только тогда, когда правая часть действует как плотность для ; это, $X+Y$

F_{X + Y} (a) = P (X + Y \leq a) = \int_{- \infty}^{a} f_{X + Y} (z) d z = \int_{- \infty}^{a} (\int f_{X} (x) f_{Y} (z - x) d x) d z

$F_{X+Y}(a)=\mathbb{P}(X+Y\le a) = \int_{-\infty}^a f_{X+Y}(z)\,\mathrm{d}z = \int_{-\infty}^a \left(\int f_X(x) f_Y(z-x)\,\mathrm{d}x\right)\mathrm{d}z$

для всех . Давайте проверим это, начав с правой стороны. $a$

Примените теорему Фубини, чтобы изменить порядок интегрирования и сделать подстановку . Определитель его якобиана равен , поэтому никакие дополнительные члены не вводятся при этой замене переменных. Обратите внимание, что, поскольку и находятся в взаимно-однозначном соответствии и тогда и только тогда, когда , мы можем переписать интеграл как $z = x+y$ $1$ $z$ $y$ $-\infty \lt z \le a$ $-\infty \lt y \lt a-x$

= \int (\int_{- \infty}^{a - x} f_{X} (x) f_{Y} (y) d y) d x .

$=\int \left(\int_{-\infty}^{a-x}f_X(x)f_Y(y)\,\mathrm{d} y\right)\mathrm{d}x.$

По определению это интеграл по из $\mathbb{R}^2$

= \iint I (x + y \leq a) f_{X} (x) f_{Y} (y) d y d x

$=\iint I(x+y\le a)f_X(x)f_Y(y)\,\mathrm{d}y\,\mathrm{d}x$

где - индикаторная функция множества. Наконец, поскольку и независимы, для всех , раскрывая интеграл как просто ожидание $I$ $X$ $Y$ $f_{(X,Y)}(x,y) = f_X(x)f_Y(y)$ $(x,y)$

= \iint I (x + y \leq a) f_{(X, Y)} (x, y) d y d x = E (I (X + Y \leq a)) = P (X + Y \leq a),

$=\iint I(x+y\le a)f_{(X,Y)}(x,y)\,\mathrm{d}y\,\mathrm{d}x = \mathbb{E}(I(X+Y\le a))=\mathbb{P}(X+Y\le a),$

по желанию.

В более общем смысле, даже если один или оба из или не имеют функции распределения, мы все равно можем получить $X$ $Y$

F_{X + Y} (a) = E_{X} (F_{Y} (a - X)) = E_{Y} (F_{X} (a - Y))

$F_{X+Y}(a) = \mathbb{E}_X\left(F_Y(a-X)\right) = \mathbb{E}_Y\left(F_X(a-Y)\right)$

непосредственно из базовых определений, используя ожидание индикаторов для перехода между вероятностями и ожиданиями и используя допущение независимости, чтобы разбить расчет на отдельные ожидания в отношении и : $X$ $Y$

\begin{aligned} P (X + Y \leq a) & = E (I (X + Y \leq a)) \\ = E_{X} (E_{Y} (I (X + Y \leq a)) \\ = E_{X} (P_{Y} (Y \leq a - X)) \\ = E_{X} (F_{Y} (a - X)) . \end{aligned}

$\eqalign{ \mathbb{P}(X+Y\le a) &= \mathbb{E}(I(X+Y\le a)) \\ &= \mathbb{E}_X\left(\mathbb{E}_Y(I(X+Y\le a)\right) \\ &= \mathbb{E}_X\left(\mathbb{P}_Y(Y\le a-X)\right) \\ &=\mathbb{E}_X(F_Y(a-X)). }$

Это включает в себя обычные формулы для дискретных случайных величин, например, хотя и в несколько иной форме, чем обычно (потому что это указано в терминах CDF, а не функций массовой вероятности).

Если у вас есть достаточно сильная теорема об обмене производными и интегралами, вы можете дифференцировать обе стороны относительно чтобы получить плотность за один ход, $a$ $f_{X+Y}$

\begin{aligned} f_{X + Y} (a) & = \frac{d}{d a} F_{X + Y} (a) = E_{X} (\frac{d}{d a} F_{Y} (a - X)) = E_{X} (f_{Y} (a - X)) \\ = \int f_{X} (x) f_{Y} (a - x) d x . \end{aligned}

$\eqalign{ f_{X+Y}(a) &= \frac{\mathrm{d}}{\mathrm{d}a} F_{X+Y}(a) =\mathbb{E}_X\left(\frac{\mathrm{d}}{\mathrm{d}a} F_Y(a-X)\right) = \mathbb{E}_X \left(f_Y(a-X)\right) \\ &= \int f_X(x) f_Y(a-x) \,\mathrm{d} x. }$

— Whuber
источник