Brain-teaser: Какова ожидаемая длина последовательности iid, которая монотонно увеличивается при получении из равномерного распределения [0,1]?

Это вопрос интервью для позиции количественного аналитика, о котором сообщается здесь . Предположим, что мы рисуем из равномерного распределения а ничьи идентифицированы, какова ожидаемая длина монотонно увеличивающегося распределения? Т.е. мы прекращаем рисование, если текущее рисование меньше или равно предыдущему. $[0,1]$

Я получил первые несколько:

Pr (length = 1) = \int_{0}^{1} \int_{0}^{x_{1}} d x_{2} d x_{1} = 1 / 2

$\Pr(\text{length} = 1) = \int_0^1 \int_0^{x_1} \mathrm{d}x_2\, \mathrm{d}x_1 = 1/2$

Pr (length = 2) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{0}^{x_{2}} d x_{3} d x_{2} d x_{1} = 1 / 3

$\Pr(\text{length} = 2) = \int_0^1 \int_{x_1}^1 \int_0^{x_2} \mathrm{d}x_3 \, \mathrm{d}x_2 \, \mathrm{d}x_1 = 1/3$

Pr (length = 3) = \int_{0}^{1} \int_{x_{1}}^{1} \int_{x_{2}}^{1} \int_{0}^{x_{3}} d x_{4} d x_{3} d x_{2} d x_{1} = 1 / 8

$\Pr(\text{length} = 3) = \int_0^1 \int_{x_1}^1 \int_{x_2}^1 \int_0^{x_3} \mathrm{d}x_4\, \mathrm{d}x_3\, \mathrm{d}x_2\, \mathrm{d}x_1 = 1/8$

но мне все труднее вычислять эти вложенные интегралы, и я не получаю «трюк» для обобщения в $\Pr(\text{length} = n)$ . Я знаю, что окончательный ответ структурирован

E (length) = \sum_{n = 1}^{\infty} n Pr (length = n)

$\mathbb E(\text{length}) = \sum_{n=1}^{\infty}n\Pr(\text{length} = n)$

Есть идеи, как ответить на этот вопрос?

— амазонский
источник

Ответы:

Вот несколько общих советов по решению этого вопроса:

У вас есть последовательность непрерывных случайных величин IID, что означает, что они являются взаимозаменяемыми . Что это означает о вероятности получения определенного порядка для первых $n$ значений? Исходя из этого, какова вероятность получения возрастающего порядка для первых $n$ значений? Это можно выяснить, не интегрируя по распределению основных случайных величин. Если вы сделаете это хорошо, вы сможете получить ответ без какого-либо предположения о равномерном распределении - т.е. вы получите ответ, который применим для любых заменяемых последовательностей непрерывных случайных величин.

Вот полное решение ( не смотрите, если вы должны выяснить это самостоятельно ):

Пусть - ваша последовательность независимых непрерывных случайных величин, и пусть - количество увеличивающихся элементов в начале последовательности. Поскольку это непрерывные взаимозаменяемые случайные величины, они почти наверняка не равны друг другу, и любой порядок одинаково вероятен, поэтому имеем: (Обратите внимание, что этот результат справедлив для любой последовательности IID непрерывных случайных величин; они не должны иметь равномерное распределение.) Таким образом, случайная величина имеет функцию вероятности массы $U_1, U_2, U_3, \cdots \sim \text{IID Continuous Dist}$ $N \equiv \max \{ n \in \mathbb{N} | U_1 < U_2 < \cdots < U_n \}$
$P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n}) = \frac{1}{n!} .$ $\mathbb{P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n) = \frac{1}{n!}.$ $N$ $p_{N} (n) = P (N = n) = \frac{1}{n!} - \frac{1}{(n + 1)!} = \frac{n}{(n + 1)!} .$ $p_N(n) = \mathbb{P}(N=n) = \frac{1}{n!} - \frac{1}{(n+1)!} = \frac{n}{(n+1)!}.$ Вы заметите, что этот результат соответствует значениям, которые вы вычислили, используя интеграцию по базовым значениям. (Эта часть не нужна для решения; она включена для полноты.) Используя известное правило для ожидаемого значения неотрицательной случайной величины , мы имеем: Еще раз отметим, что в нашей работе нет ничего, что использовало бы базовое равномерное распределение. Следовательно, это общий результат, который применим к любой заменяемой последовательности непрерывных случайных величин. $E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n) = \sum_{n = 1}^{\infty} \frac{1}{n!} = e - 1 = 1.718282.$ $\mathbb{E}(N) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n) = \sum_{n=1}^\infty \frac{1}{n!} = e - 1 = 1.718282.$

Некоторые дальнейшие идеи:

Из вышеприведенной работы мы видим, что этот результат распределения и полученное ожидаемое значение не зависят от базового распределения, если оно является непрерывным распределением. Это на самом деле неудивительно, если учесть тот факт, что каждая непрерывная скалярная случайная величина может быть получена путем монотонного преобразования равномерной случайной величины (причем преобразование является ее квантовой функцией). Поскольку монотонные преобразования сохраняют порядок рангов, рассмотрение вероятностей упорядочения произвольных непрерывных случайных величин IID аналогично рассмотрению вероятностей упорядочения равномерных случайных величин IID .

— Восстановить Монику
источник

Красиво сделано! (+1)

— jbowman

@ Я буду следовать за тобой до последнего уравнения ... Я думал, что ожидаемое значение должно бытьвместо ... не могли бы вы объяснить эту часть подробнее?

E (N) = \sum_{n = 1}^{\infty} P (N = n) * n = \sum_{n = 1}^{\infty} n^{2} / (n + 1)!

$E(N)=∑_{n=1}^∞P(N=n)*n=∑_{n=1}^∞ n^2/(n+1)!$

E (N) = \sum_{n = 1}^{\infty} P (N ⩾ n)

$E(N)=∑_{n=1}^∞P(N⩾n)$

— Амазонка

Это хорошо известное правило для ожидаемого значения неотрицательной случайной величины . Используя технику, включающую изменение порядка суммирования, вы получаете: Поэтому вы должны найти, что .

E (N) = \sum_{n = 1}^{\infty} n P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = 1}^{n} P (N = n) = \sum_{n = 1}^{\infty} \sum_{k = n}^{\infty} P (N = k) = \sum_{n = 1}^{\infty} P (N ⩾ n) .

$\mathbb{E}(N) = \sum_{n=1}^\infty n \mathbb{P}(N=n) = \sum_{n=1}^\infty \sum_{k=1}^n \mathbb{P}(N = n) = \sum_{n=1}^\infty \sum_{k=n}^\infty \mathbb{P}(N =k) = \sum_{n=1}^\infty \mathbb{P}(N \geqslant n).$

\sum_{n} \frac{1}{n!} = \sum_{n} \frac{n^{2}}{(n + 1)!}

$\sum_n \tfrac{1}{n!} = \sum_n \tfrac{n^2}{(n+1)!}$

— Восстановите Монику

Не могли бы вы пояснить, почему ?

P (N ⩾ n) = P (U_{1} < U_{2} < \dots < U_{n})

${P}(N \geqslant n) = \mathbb{P}(U_1 < U_2 < \cdots < U_n)$

— Badmax

@badmax: случайная величина - это число возрастающих элементов в начале последовательности (см. ее определение). Таким образом, если это означает, что в начале последовательности есть по крайней мере увеличивающихся элементов. Это означает, что первые элементов должны быть в порядке возрастания, который равен .

N

$N$

U

$U$

N ⩾ n

$N \geqslant n$

n

$n$

n

$n$

U_{1} < U_{2} < \dots < U_{n}

$U_1 < U_2 < \cdots < U_n$

— Восстановить Монику

Другой метод решения, который дает вам решение для более общего случая.

Предположим, что является ожидаемой длиной монотонной последовательности , такой, что . Значение, которое мы хотим вычислить, равно . И мы знаем . Кондиционирование на следующем значении, $F(x)$ $\{x_1, x_2, ...\}$ $x\leq x_1\leq x_2\leq\cdots$ $F(0)$ $F(1)=0$

F (x) = \int_{0}^{x} π (y) \cdot 0 d y + \int_{x}^{1} π (y) (1 + F (y)) d y = \int_{x}^{1} 1 + F (y) d y

$F(x) = \int_0^x \pi(y)\cdot 0 dy + \int_x^1\pi(y)(1+F(y))dy= \int_x^1 1+F(y) dy$

где - плотность U [0,1]. Так $\pi(y)=1$

F^{'} (x) = - (1 + F (x))

$F'(x)=-(1+F(x))$

Решая с граничным условием , получаем . Следовательно, . $F(1)=0$ $F(x) = e^{(1-x)}-1$ $F(0)=e-1$

— jf328
источник

Это очень умно. Просто поясним это немного: ваши наблюдения таковы: 1) если - длина самой длинной начальной возрастающей последовательности минус один, то достаточно определить и установить и 2) равно нулю, если и противном случае. Поскольку мы получаем , который в едином случае может быть решен непосредственно.

L

$L$

E (L | X_{0} = x) =: F (x)

$E(L|X_0=x)=:F(x)$

x = 0

$x=0$

E (L | X_{0} = x, X_{1} = y)

$E(L|X_0=x,X_1=y)$

y < x

$y<x$

1 + E (L | X_{0} = y)

$1+E(L|X_0=y)$

E (L | X_{0} = x) = E (E (L | X_{0} = x, X_{1})) = \int_{R} f_{X} (y) E (L | X_{0} = x, X_{1} = y) d y = \int_{x}^{1} f_{X} (y) (1 + E (L | X_{0} = y)) d y = \int_{x}^{1} f_{X} (y) (1 + F (y)) d y

$E(L|X_0=x)=E(E(L|X_0=x,X_1)) = \int_\mathbb{R} f_X(y) E(L|X_0=x, X_1=y) dy = \int_x^1 f_X(y)(1+E(L|X_0=y))dy= \int_x^1 f_X(y)(1+F(y))dy$

F^{'} (x) = - f_{X} (x) (1 + F (x))

$F'(x)=-f_X(x)(1+F(x))$

— Мэтью Тауэрс

+1 Очень умно на самом деле. Но поскольку окончательный ответ не зависит от распределения (как обсуждается в другом ответе), это вычисление также не должно зависеть от . Есть ли способ увидеть это? CC для @m_t_.

π (y)

$\pi(y)$

— амеба говорит восстановить Монику

@amoeba Я согласен, что не должен зависеть от распределения s, но другие значения должны: общее решение этого DE -

F (0)

$F(0)$

X

$X$

F

$F$

F = C e^{- \int π} - 1

$F=Ce^{-\int \pi}-1$

— Мэтью Тауэрс

@MartijnWeterings Я думаю, что , а не 1, например, в едином случае мы получим

C = e

$C=e$

e e^{- x} - 1

$e e^{-x} -1$

— Мэтью Тауэрс

Да ты прав. Я использовал единый случай, чтобы вывести свое утверждение, но ошибочно использовал вместо

c e^{1 - x} - 1

$ce^{1-x}-1$

c e^{- x} - 1

$ce^{-x}-1$

— Sextus Empiricus

Еще один метод решения - вычислить интеграл напрямую.

Вероятность генерации последовательности, чья возрастающая часть имеет длину равна , где . $\geq n$ $f^n(0)$ $f^n(x) = \int_{x}^{1}\int_{x_1}^{1}\int_{x_2}^{1}...\int_{x_{n-2}}^{1}\int_{x_{n-1}}^{1}dx_ndx_{n-1}...dx_2dx_1$

Что нам нужно сделать, это вычислить . $f^n(0)$

Если вы попытаетесь вычислить первые несколько , возможно, вы обнаружите, что $f^n(x)$ $f^n(x) = \sum_{t=0}^n \dfrac{(-x)^t}{t!(n-t)!}$

Базовый случай: когда , $n=1$ $f^1(x) = \sum_{t=0}^1 \dfrac{(-x)^t}{t!(n-t)!}=1-x=\int_{x}^{1}dx_1$

Индуктивная гипотеза: когда , $n=k$ $f^n(x) = \sum_{t=0}^k \dfrac{(-x)^t}{t!(k-t)!}\text{ , for }k \geq 1$

Шаг индукции: когда , $n = k+1$

$\ \ \ \ \ f^{n}(x) = f^{k+1}(x) = \int_{x}^{1}f^{k}(x^*)dx^*$

$=\int_{x}^{1}\sum_{t=0}^{k} \dfrac{(-x^*)^t}{t!(k-t)!}dx^*$

$=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{t!(k-t)!\times(t+1)}\Biggr|_{x}^{1}\\=\sum_{t=0}^{k} \dfrac{-(-x^*)^{t+1}}{(t+1)!(k-t)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{-(-x^*)^{t}}{t!(k-t+1)!}\Biggr|_{x}^{1}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}}{t!(k-t+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=1}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}+\sum_{t=0}^{k+1} \dfrac{(-1)^{t+1}C_t^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\dfrac{1}{(k+1)!}-\dfrac{(1-1)^{k+1}}{(k+1)!}+\sum_{t=1}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

$=\sum_{t=0}^{k+1} \dfrac{(-x)^{t}}{t!(k-t+1)!}$

По математической индукции предположение верно.

Таким образом, мы получаем, что $f^n(0)=\dfrac{1}{n!}$

Итак, $E(length)=\sum_{n=1}^{\infty} Pr(length\geq n)=\sum_{n=1}^{\infty} \dfrac{1}{n!}=e-1$

— 劉家維
источник