Предельная сумма iid гамма-вариаций

Пусть - последовательность независимых и одинаково распределенных случайных величин с функцией плотности вероятности; Покажите, что $X_1,X_2,\ldots$

f (x) = {\begin{cases} \frac{1}{2} x^{2} e^{- x} & if x > 0; \\ 0 & otherwise . \end{cases}

$f(x) = \left\{ \begin{array}{ll} \frac{1}{2}x^2 e^{-x} & \mbox{if $x>0$};\\ 0 & \mbox{otherwise}.\end{array} \right.$

lim_{n \to \infty} P [X_{1} + X_{2} + \dots + X_{n} \geq 3 (n - \sqrt{n})] \geq \frac{1}{2}

$\lim_{n\to \infty} P[X_1+X_2+\ldots+X_n\ge 3(n-\sqrt{n})] \ge \frac{1}{2}$

Что я пытался

На первый взгляд, я подумал, что следует использовать неравенство Чебышева, поскольку вопрос задает нижнюю границу $X_1+X_2+\ldots +X_n$ . Однако я подумал о знаке предела, который ясно указывает на то, что проблема может быть как-то связана с центральной предельной теоремой (CLT).

Пусть $S_n=X_1+X_2+\ldots +X_n$

E (S_{n}) = \sum_{i = 0}^{n} E (X_{i}) = 3 n (since E (X_{i}) = 3) V (S_{n}) = \sum_{i = 0}^{n} V (X_{i}) = 3 n (since V (X_{i}) = 3 and X_{i} are i.i.d)

$E(S_n)=\sum_{i=0}^{n} E(X_i)=3n \ (\text{since } E(X_i)=3) \\ V(S_n)=\sum_{i=0}^{n} V(X_i)=3n \ (\text{since } V(X_i)=3 \text{ and } X_i \text{ are i.i.d})$

Теперь, с помощью ЦПТ, при больших $n$ , $X_1+X_2+........+X_n \sim N(3n,3n)$
Или,

z = \frac{S_{n} - 3 n}{\sqrt{3 n}} \sim N (0, 1) as n \to \infty

$z=\frac{S_n-3n}{\sqrt{3n}} \sim N(0,1) \text{ as } n\to \infty$

Теперь

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = lim_{n \to \infty} P (S_{n} - 3 n \geq - 3 \sqrt{n}) = lim_{n \to \infty} P (\frac{S_{n} - 3 n}{\sqrt{3 n}} \geq - \sqrt{3}) = P (z \geq - \sqrt{3}) = P (- \sqrt{3} \leq z < 0) + P (z \geq 0) = P (- \sqrt{3} \leq z < 0) + \frac{1}{2} \dots (1)

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})] = \lim_\limits{n\to \infty}P(S_n-3n \ge -3\sqrt{n}) = \lim_\limits{n\to \infty} P\left(\frac{S_n-3n}{\sqrt{3n}} \ge -\sqrt{3}\right) =P(z\ge -\sqrt{3}) =P\left(-\sqrt{3}\le z<0\right)+P(z\ge 0 ) =P\left(-\sqrt{3}\le z<0\right)+\frac{1}{2}\cdots(1)$

Поскольку $P(-\sqrt{3}\le z<0) \ge 0$ , то есть из $(1)$ ,

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] \geq \frac{1}{2}

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})]\ge \frac{1}{2}$

Я прав?

probability self-study

CLT кажется разумным подходом, но " "не имеет смысла ..

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = P (S_{n} - 3 n \geq - 3 \sqrt{n})

$\lim_\limits{n\to \infty} P[X_1+X_2+........+X_n\ge 3(n-\sqrt{n})] =P(S_n-3n \ge -3\sqrt{n})$

— P.Windridge

Я думаю, что это должно быть

lim_{n \to \infty} P [X_{1} + X_{2} + . . . . . . . . + X_{n} \geq 3 (n - \sqrt{n})] = lim_{n \to \infty} P (S_{n} - 3 n \geq - 3 \sqrt{n}) = lim_{n \to \infty} P (\frac{S_{n} - 3 n}{\sqrt{3 n}} \geq - \sqrt{3}) = P (z \geq - \sqrt{3})

В качестве альтернативы рассмотрим iid и так . Медиана случайной величины гамма не известна в замкнутой форме , но это будет известно (см Википедии ) , что при больших , медиана из случайная величина лежит между и . Поскольку , должно быть, что по крайней мере половина вероятностной массы находится справа от .

X_{i} \sim Γ (3, 1)

$X_i \sim\Gamma(3,1)$

X_{1} + X_{2} + \cdot + X_{n} \sim Γ (3 n, 1)

$X_1+X_2+\cdot+X_n \sim \Gamma(3n,1)$

n

$n$

Γ (3 n, 1)

$\Gamma(3n,1)$

3 n - \frac{1}{3}

$3n-\frac 13$

3 n

$3n$

3 (n - \sqrt{n}) < 3 n - \frac{1}{3}

$3(n-\sqrt{n}) < 3n-\frac 13$

3 (n - \sqrt{n})

$3(n-\sqrt{n})$

— Дилип Сарвате

Ответы:

Вы были правы, что неравенство Чебышева сработает. Это обеспечивает довольно грубую, но эффективную границу, которая применима ко многим таким последовательностям, показывая, что критической особенностью этой последовательности является то, что дисперсия частичных сумм растет максимально линейно с . $n$

Затем рассмотрим чрезвычайно общий случай любой последовательности некоррелированных переменных со средними и конечными дисперсиями Пусть будет суммой первых из них, $X_i$ $\mu_i$ $\sigma_i^2.$ $Y_n$ $n$

Y_{n} = \sum_{i = 1}^{n} X_{i} .

$Y_n = \sum_{i=1}^n X_i.$

Следовательно, среднее является $Y_n$

m_{n} = \sum_{i = 1}^{n} μ_{n}

$m_n = \sum_{i=1}^n \mu_n$

и его дисперсия

s_{n}^{2} = Var (Y_{n}) = \sum_{i = 1}^{n} Var (X_{i}) + 2 \sum_{j > i} Cov (X_{i}, X_{j}) = \sum_{i = 1}^{n} σ_{i}^{2} .

$s_n^2 = \operatorname{Var}(Y_n) = \sum_{i=1}^n \operatorname{Var}(X_i) + 2\sum_{j > i}\operatorname{Cov}(X_i,X_j) = \sum_{i=1}^n \sigma_i^2.$

Предположим, что растет максимально линейно с : $s_n^2$ $n$ то есть существует число такое, что для всех достаточно больших Пусть (еще не определено), заметьте, что $\lambda\gt 0$ $n,$ $s_n^2 \le \lambda^2 n.$ $k\gt 0$

m - k \sqrt{n} \leq m - \frac{k}{λ} s_{n},

$m - k \sqrt{n} \le m - \frac{k}{\lambda}s_n,$

и применить неравенство Чебышева к чтобы получить $Y_n$

\begin{aligned} Pr (Y_{n} \geq m_{n} - k \sqrt{n}) & \geq Pr (Y_{n} \geq m_{n} - \frac{k}{λ} s_{n}) \\ \geq Pr (| Y_{n} - m_{n} | \leq \frac{k}{λ} s_{n}) \\ \geq 1 - \frac{λ^{2}}{k^{2}} . \end{aligned}

$\eqalign{ \Pr(Y_n \ge m_n - k\sqrt{n}) &\ge \Pr(Y_n \ge m_n - \frac{k}{\lambda}s_n) \\ &\ge \Pr(|Y_n - m_n| \le \frac{k}{\lambda} s_n) \\ &\ge 1 - \frac{\lambda^2}{k^2}. }$

Первые два неравенства являются основными: они следуют потому, что каждое последующее событие является подмножеством предыдущего.

В данном случае, когда независимы (и, следовательно, некоррелированы) со средними и дисперсиями мы имеем и $X_i$ $\mu_i=3$ $\sigma_i^2=3,$ $m_n=3n$

s_{n} = \sqrt{3} \sqrt{n},

$s_n = \sqrt{3}\sqrt{n},$

откуда мы можем взять же маленьким, как Событие в вопросе соответствует где $\lambda$ $\sqrt{3}.$ $3(n-\sqrt{n}) = \mu_n - 3\sqrt{n}$ $k=3,$

Pr (Y_{n} \geq 3 n - 3 \sqrt{n}) \geq 1 - \frac{{\sqrt{3}}^{2}}{3^{2}} = \frac{2}{3} > \frac{1}{2},

$\Pr(Y_n \ge 3n - 3\sqrt{n}) \ge 1 - \frac{\sqrt{3}^{\ 2}}{3^2} = \frac{2}{3}\gt \frac{1}{2},$

QED.

— Whuber
источник

В качестве альтернативы отличному ответу Уубер, я постараюсь определить точный предел вероятности, о которой идет речь. Одним из свойств гамма-распределения является то, что суммы независимых гамма-случайных величин с одинаковым параметром скорости / масштаба также являются гамма-случайными переменными, форма которых равна сумме форм этих переменных. (Это легко доказать, используя производящие функции распределения.) В данном случае мы имеем , поэтому мы получаем сумму: $X_1,...X_n \sim \text{IID Gamma}(3,1)$

S_{n} \equiv X_{1} + \dots + X_{n} \sim Gamma (3 n, 1) .

$S_n \equiv X_1 + \cdots + X_n \sim \text{Gamma}(3n, 1).$

Поэтому мы можем записать точную вероятность интереса, используя CDF гамма-распределения. Если обозначает параметр формы, а обозначает интересующий аргумент, мы имеем: $a = 3n$ $x = 3(n-\sqrt{n})$

\begin{aligned} H (n) & \equiv P (S_{n} \geq 3 (n - \sqrt{n})) \\ = \frac{Γ (a, x)}{Γ (a)} \\ = \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} \cdot \frac{Γ (a + 1, x)}{Γ (a + 1)} . \end{aligned}

$\begin{equation} \begin{aligned} H(n) &\equiv \mathbb{P}(S_n \geq 3(n-\sqrt{n})) \\[12pt] &= \frac{\Gamma(a, x)}{\Gamma(a)} \\[6pt] &= \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} \cdot \frac{\Gamma(a+1, x)}{\Gamma(a+1)}. \\[6pt] \end{aligned} \end{equation}$

Чтобы найти предел этой вероятности, сначала отметим, что мы можем записать второй параметр в терминах первого как где . Используя результат, показанный в Temme (1975) (уравнение 1.4, стр. 1109), мы получаем асимптотическую эквивалентность: $x = a + \sqrt{2a} \cdot y$ $y = -\sqrt{3/2}$

\begin{aligned} \frac{Γ (a + 1, x)}{Γ (a + 1)} & \sim \frac{1}{2} + \frac{1}{2} \cdot erf (- y) + \sqrt{\frac{2}{9 a π}} (1 + y^{2}) \exp (- y^{2}) . \end{aligned}

$\begin{aligned} \frac{\Gamma(a+1, x)}{\Gamma(a+1)} &\sim \frac{1}{2} + \frac{1}{2} \cdot \text{erf}(-y) + \sqrt{\frac{2}{9a \pi}} (1+y^2) \exp( - y^2). \end{aligned}$

Используя приближение Стирлинга и предельное определение экспоненциального числа, можно также показать, что:

\begin{aligned} \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} & \sim \frac{\sqrt{2 π} \cdot a \cdot (a - 1)^{a - 1 / 2}}{\sqrt{2 π} \cdot a \cdot (a - 1)^{a - 1 / 2} + x^{a} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a \cdot (1 - \frac{1}{a})^{a - 1 / 2}}{\sqrt{2 π} \cdot a \cdot (1 - \frac{1}{a})^{a - 1 / 2} + \sqrt{x} \cdot (\frac{x}{a})^{a - 1 / 2} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a \cdot e^{- 1}}{\sqrt{2 π} \cdot a \cdot e^{- 1} + \sqrt{x} \cdot e^{x - a} \cdot e^{a - x - 1}} \\ = \frac{\sqrt{2 π} \cdot a}{\sqrt{2 π} \cdot a + \sqrt{x}} \\ \sim \frac{\sqrt{2 π a}}{\sqrt{2 π a} + 1} . \end{aligned}

$\begin{aligned} \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} &\sim \frac{\sqrt{2 \pi} \cdot a \cdot (a-1)^{a-1/2}}{\sqrt{2 \pi} \cdot a \cdot (a-1)^{a-1/2} + x^a \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a \cdot (1-\tfrac{1}{a})^{a-1/2}}{\sqrt{2 \pi} \cdot a \cdot (1-\tfrac{1}{a})^{a-1/2} + \sqrt{x} \cdot (\tfrac{x}{a})^{a-1/2} \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a \cdot e^{-1}}{\sqrt{2 \pi} \cdot a \cdot e^{-1} + \sqrt{x} \cdot e^{x-a} \cdot e^{a-x-1}} \\[6pt] &= \frac{\sqrt{2 \pi} \cdot a}{\sqrt{2 \pi} \cdot a + \sqrt{x}} \\[6pt] &\sim \frac{\sqrt{2 \pi a}}{\sqrt{2 \pi a} + 1}. \\[6pt] \end{aligned}$

Подставляя соответствующие значения, мы получаем:

\begin{aligned} H (n) & = \frac{a Γ (a)}{a Γ (a) + x^{a} e^{- x}} \cdot \frac{Γ (a + 1, x)}{Γ (a + 1)} \\ \sim \frac{\sqrt{2 π a}}{\sqrt{2 π a} + 1} \cdot [\frac{1}{2} + \frac{1}{2} \cdot erf (\sqrt{\frac{3}{2}}) + \sqrt{\frac{2}{9 a π}} \cdot \frac{5}{2} \cdot \exp (\frac{3}{2})] . \end{aligned}

$\begin{equation} \begin{aligned} H(n) &= \frac{a \Gamma(a)}{a \Gamma(a) + x^a e^{-x}} \cdot \frac{\Gamma(a+1, x)}{\Gamma(a+1)} \\[6pt] &\sim \frac{\sqrt{2 \pi a}}{\sqrt{2 \pi a} + 1} \cdot \Bigg[ \frac{1}{2} + \frac{1}{2} \cdot \text{erf} \Big( \sqrt{\frac{3}{2}} \Big) + \sqrt{\frac{2}{9a \pi}} \cdot \frac{5}{2} \cdot \exp \Big( \frac{3}{2} \Big) \Bigg]. \\[6pt] \end{aligned} \end{equation}$

Это дает нам предел:

lim_{n \to \infty} H (n) = \frac{1}{2} + \frac{1}{2} \cdot erf (\sqrt{\frac{3}{2}}) = 0.9583677.

$\lim_{n \rightarrow \infty} H(n) = \frac{1}{2} + \frac{1}{2} \cdot \text{erf} \Big( \sqrt{\frac{3}{2}} \Big) = 0.9583677.$

Это дает нам точный предел вероятности интереса, который больше половины.

— Бен - Восстановить Монику
источник