Ожидание квадратного корня суммы независимых квадратов равномерных случайных величин

Пусть - независимые и одинаково распределенные стандартные однородные случайные величины. $X_1,\dots,X_n \sim U(0,1)$

Let Y_{n} = \sum_{i}^{n} X_{i}^{2} I seek: E [\sqrt{Y_{n}}]

$\text{Let }\quad Y_n=\sum_i^nX_i^2 \quad \quad \text{I seek: } \quad \mathbb{E}\big[\sqrt{Y_n } \big]$

Ожидание легко: $Y_n$

\begin{aligned} E [X^{2}] & = \int_{0}^{1} \frac{y}{2 \sqrt{y}} = \frac{1}{3} \\ E [Y_{n}] & = E [\sum_{i}^{n} X_{i}^{2}] = \sum_{i}^{n} E [X_{i}^{2}] = \frac{n}{3} \end{aligned}

$\begin{align} \mathbb{E}\left[X^2\right] &=\int_0^1\frac{y}{2\sqrt{y}}=\frac{1}{3}\\ \mathbb{E}\left[Y_n\right] &=\mathbb{E}\left[\sum_i^nX_i^2\right] = \sum_i^n\mathbb{E}\left[X_i^2\right]=\frac{n}{3} \end{align}$

Теперь для скучной части. Чтобы применить LOTUS, мне понадобится PDF-файл . Конечно, pdf суммы двух независимых случайных величин - это свертка их pdf. Тем не менее, здесь у нас есть случайных величин, и я думаю, что свертка привела бы к ... запутанному выражению (ужасный каламбур). Есть ли умнее? $Y_n$ $n$

Я бы предпочел увидеть правильное решение , но если это невозможно или слишком сложно, асимптотическое приближение для больших может быть приемлемым. По неравенству Дженсена я знаю, что $n$

\sqrt{E [Y_{n}]} = \sqrt{\frac{n}{3}} \geq E [\sqrt{Y_{n}}]

$\sqrt{\mathbb{E}[Y_n]}=\sqrt{\frac{n}{3}}\geq\mathbb{E}\left[\sqrt{Y_n}\right]$

Но это мне мало поможет, если я не найду также нетривиальную нижнюю границу. Обратите внимание, что CLT здесь не применяется напрямую, потому что у нас есть квадратный корень из суммы независимых RV, а не только сумма независимых RV. Может быть, могут быть другие предельные теоремы (которые я игнорирую), которые могут быть здесь полезны.

— DeltaIV
источник

См. Этот вопрос для получения асимптотического результата: stats.stackexchange.com/questions/241504/…

— С. Каттералл восстановит Монику

Я получаю на основании приведенного выше связанного вопроса.

E [\sqrt{Y_{n}}] \approx \sqrt{\frac{n}{3} - \frac{1}{15}}

$\mathbb{E}[\sqrt{Y_n}]\approx \sqrt{\frac{n}{3}-\frac{1}{15}}$

— С. Каттералл восстановил Монику

Я не думаю, что я бы использовал какой-либо из подходов, описанных в этом ответе (которых более двух!) :-). Причина в том, что вы можете воспользоваться простыми и понятными симуляциями для оценки ожиданий, в то время как аналитическое решение кажется недостижимым. Мне очень нравится подход @ S.Catterall (+1 за решение, которое я раньше не читал). Симуляция показывает, что он работает хорошо даже для малых .

n

$n$

— whuber

Симуляция того стоит :-). Постройте разницу между смоделированным средним и приближенной формулой против . Он ясно покажет, насколько хорошо работает приближение в зависимости от .

n

$n$

n

$n$

— whuber

Ясно, что то время как приближение дает . В этом случае был бы правильным. Но приближение улучшается после этого.

E [\sqrt{Y_{1}}] = 0.5

$E\left[\sqrt{Y_1}\right]=0.5$

\sqrt{\frac{1}{3} - \frac{1}{15}} = \sqrt{\frac{4}{15}} \approx 0.516

$\sqrt{\frac{1}{3}-\frac{1}{15}} = \sqrt{\frac4{15}}\approx 0.516$

\sqrt{\frac{1}{3} - \frac{1}{12}}

$\sqrt{\frac{1}{3}-\frac{1}{12}}$

— Генри

Ответы:

Один из подходов состоит в том, чтобы сначала вычислить функцию генерирования момента (mgf) для определяемую как где - это независимые и одинаково распределенные стандартные однородные случайные величины , $Y_n$ $Y_n = U_1^2 + \dotsm + U_n^2$ $U_i, i=1,\dotsc, n$

Когда у нас это есть, мы можем видеть, что является дробным моментом порядка . Затем мы можем использовать результаты из статьи Ноэля Кресси и Маринуса Боркента: «Функция генерирования момента имеет свои моменты», Журнал статистического планирования и вывода 13 (1986) 337-344, который дает дробные моменты посредством дробного дифференцирования функции, генерирующей моменты ,

E \sqrt{Y_{n}}

$\DeclareMathOperator{\E}{\mathbb{E}} \E \sqrt{Y_n}$

Y_{n}

$Y_n$

α = 1 / 2

$\alpha=1/2$

Сначала производящая момент функция , которую мы записываем . и я оценили это (с помощью Maple и Wolphram Alpha), чтобы получить где - мнимая единица. (Wolphram Alpha дает аналогичный ответ, но в терминах интеграла Доусона. ) Оказывается, нам в основном понадобится случай для . Теперь легко найти mgf для : Тогда для результатов из цитируемой статьи. Для $U_1^2$ $M_1(t)$

M_{1} (t) = E e^{t U_{1}^{2}} = \int_{0}^{1} \frac{e^{t x}}{2 \sqrt{x}} d x

$M_1(t) = \E e^{t U_1^2} = \int_0^1 \frac{e^{tx}}{2\sqrt{x}}\; dx$

M_{1} (t) = \frac{\erf (\sqrt{- t}) \sqrt{π}}{2 \sqrt{- t}}

$\DeclareMathOperator{\erf}{erf} M_1(t)= \frac{\erf(\sqrt{-t})\sqrt{\pi}}{2\sqrt{-t}}$

i = \sqrt{- 1}

$i=\sqrt{-1}$

t < 0

$t<0$

Y_{n}

$Y_n$

M_{n} (t) = M_{1} (t)^{n}

$M_n(t) = M_1(t)^n$

μ > 0

$\mu>0$ они определяют интеграл го порядка функции как Тогда для и нецелого положительное целое число, а такое, что . Тогда производная от порядка определяется как Затем они утверждают (и доказывают) следующий результат для положительной случайной величины : предположим, что (mgf) определено. Тогда для

μ

$\mu$

f

$f$

I^{μ} f (t) \equiv Γ (μ)^{- 1} \int_{- \infty}^{t} (t - z)^{μ - 1} f (z) d z

$I^\mu f(t) \equiv \Gamma(\mu)^{-1} \int_{-\infty}^t (t-z)^{\mu-1} f(z)\; dz$

α > 0

$\alpha>0$

n

$n$

0 < λ < 1

$0<\lambda<1$

α = n - λ

$\alpha=n-\lambda$

f

$f$

α

$\alpha$

D^{α} f (t) \equiv Γ (λ)^{- 1} \int_{- \infty}^{t} (t - z)^{λ - 1} \frac{d^{n} f (z)}{d z^{n}} d z .

$D^\alpha f(t) \equiv \Gamma(\lambda)^{-1}\int_{-\infty}^t (t-z)^{\lambda-1} \frac{d^n f(z)}{d z^n}\; dz.$

X

$X$

M_{X}

$M_X$

α > 0

$\alpha>0$ , Теперь мы можем попытаться применить эти результаты к . При находим где штрих обозначает производную. Maple дает следующее решение: я покажу график этого ожидания, выполненный в клене , используя численное интегрирование, вместе с приближенным решением

D^{α} M_{X} (0) = E X^{α} < \infty

$D^\alpha M_X(0) = \E X^\alpha < \infty$

Y_{n}

$Y_n$

α = 1 / 2

$\alpha=1/2$

E Y_{n}^{1 / 2} = D^{1 / 2} M_{n} (0) = Γ (1 / 2)^{- 1} \int_{- \infty}^{0} | z |^{- 1 / 2} M_{n}^{'} (z) d z

$\E Y_n^{1/2} = D^{1/2} M_n (0) = \Gamma(1/2)^{-1}\int_{-\infty}^0 |z|^{-1/2} M_n'(z) \; dz$

\int_{- \infty}^{0} \frac{n \cdot (\erf (\sqrt{- z}) \sqrt{π} - 2 e^{z} \sqrt{- z}) e^{\frac{n (- 2 \ln 2 + 2 \ln (\erf (\sqrt{- z})) - \ln (- z) + \ln (π))}{2}}}{2 π (- z)^{3 / 2} \erf (\sqrt{- z})} d z

$\int_{-\infty}^0 \frac{n\cdot\left(\erf(\sqrt{-z})\sqrt{\pi}-2e^z\sqrt{-z} \right)e^{\frac{n(-2\ln 2 +2 \ln(\erf(\sqrt{-z}))-\ln(-z) +\ln(\pi))}{2}}}{2\pi(-z)^{3/2}\erf(\sqrt{-z})} \; dz$

A (n) = \sqrt{n / 3 - 1 / 15}

$A(n)=\sqrt{n/3-1/15}$ из некоторого комментария (и обсуждается в ответе @Henry). Они замечательно близки:

В качестве дополнения приведен график процентной ошибки:

Приблизительно выше приближение близко к точному. Ниже кленовый код используется: $n=20$

int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t>0;
int( exp(t*x)/(2*sqrt(x)), x=0..1 ) assuming t<0;
M := t -> erf(sqrt(-t))*sqrt(Pi)/(2*sqrt(-t))
Mn := (t,n) -> exp(n*log(M(t)))
A  :=  n -> sqrt(n/3 - 1/15)
Ex :=  n ->   int( diff(Mn(z,n),z)/(sqrt(abs(z))*GAMMA(1/2) ), z=-infinity..0 ,numeric=true)

plot([Ex(n),A(n)],n=1..100,color=[blue,red],legend=[exact,approx],labels=[n,expectation],title="expectation of sum of squared uniforms")
plot([((A(n)-Ex(n))/Ex(n))*100],n=1..100,color=[blue],labels=[n,"% error"],title="Percentage error of approximation")

— Къетил б Халворсен
источник

очень интересно. Если бы вы могли добавить несколько графиков, это был бы отличный ответ. Однако я отмечу одно явное преимущество приближения CLT здесь. Аппроксимация ясно показывает, что растет как когда . Решение Maple этого не делает (или, по крайней мере, я не могу понять это).

E [\sqrt{Y_{n}}]

$\mathbb{E}[\sqrt{Y_n}]$

\sqrt{n}

$\sqrt{n}$

n \to \infty

$n\to\infty$

— DeltaIV

В качестве расширенного комментария: здесь ясно, что начинается с когда а затем приближается к при увеличении связано с тем, что дисперсия падает от к . Мой связанный вопрос, на который ответил С. Каттералл, дает обоснование для асимптотического результата в котором каждый имеет среднее значение и дисперсию $E\left[\sqrt{Y_n}\right]= E\left[\sqrt{\sum_i X_i^2}\right]$ $E\left[\sqrt{Y_n}\right] =\frac12=\sqrt{\frac{n}{3}-\frac{1}{12}}$ $n=1$ $\sqrt{\frac{n}{3}-\frac{1}{15}}$ $n$ $\sqrt{Y_n}$ $\frac{1}{12}$ $\frac{1}{15}$ $\sqrt{\frac{n}{3}-\frac{1}{15}}$ $X_i^2$ $\frac13$ $\frac{4}{45}$ , и для распределения, являющегося приблизительно и асимптотически нормальным.

Этот вопрос фактически касается распределений расстояний от начала координат случайных точек в мерном единичном гиперкубе . Это похоже на вопрос о распределении расстояний между точками в таком гиперкубе , поэтому я могу легко адаптировать то, что я сделал там, чтобы показать плотности для различных от до используя числовую свертку. Для предложенное нормальное приближение, показанное красным, хорошо подходит, а из вы можете увидеть кривую колокольчика. $n$ $[0,1]^n$ $n$ $1$ $16$ $n=16$ $n=4$

Для и вы получаете резкий пик в режиме с тем, что похоже на одинаковую плотность в обоих случаях. Сравните это с распределением , где кривая колокола появляется при и где дисперсия пропорциональна $n=2$ $n=3$ $1$ $\sum_i X_i$ $n=3$ $n$

— Генри
источник

Почти постоянная дисперсия приводит к возможно нелогичным результатам. Например , при , (расстояния от начала координат случайной точки в - мерном единичном гиперкубе) может принимать любое значение от до , но случаев будет между и и практически все между и

n = 400

$n=400$

\sqrt{Y_{400}}

$\sqrt{Y_{400}}$

400

$400$

0

$0$

20

$20$

94 %

$94\%$

11

$11$

12

$12$

10

$10$

13

$13$

— Генри

это немного нелогично, на самом деле. Из-за проклятия размерности я ожидал, что подавляющее большинство точек будет близко к углам (реализация st ). Вместо этого похоже, что подавляющее большинство точек находится далеко от начала координат, но не так далеко, как углы. Вероятно, ошибка заключается в том, что мы должны учитывать расстояние от центра гиперкуба , а не расстояние от начала координат , которое просто один из углов гиперкуба.

y_{400}

$y_{400}$

\sqrt{y_{400}} = 20

$\sqrt{y_{400}}=20$

— DeltaIV

@DeltaIV: Если вы сделаете свой гиперкуб на стороне таким образом и измеряете от начала координат, вы получите точно такое же распределение, ожидание и дисперсию. При большинство точек в этом большем гипекубе будет близко к границе этого гиперкуба (типичное расстояние порядка ), но не близко к его углам (типичное расстояние до ближайшего или раз)

2

$2$

[- 1, 1]^{n}

$[-1,1]^n$

n = 400

$n=400$

0.02

$0.02$

11

$11$

12

$12$

— Генри

это имеет смысл - у меня не было времени на математику, но интуитивно я ожидал подобных результатов для . Я ожидал, что ожидание (извините за каламбур) изменится на постоянный фактор, но, как я уже сказал, у меня не было времени проверить это.

U ([- 1, 1])

$U([-1, 1])$

— DeltaIV