Связанный момент производящей функции

Этот вопрос возникает из вопроса, который здесь задают о функции, порождающей момент (MGF).

Предположим, что $X$ - ограниченная случайная величина со средним нулем, принимающая значения в $[-\sigma, \sigma]$ и пусть $G(t) = E[e^{tX}]$ - ее MGF. Из а связаны используется в доказательстве неравенства Хёфдинга , мы имеем , что

G (t) = E [e^{t X}] \leq e^{σ^{2} t^{2} / 2}

$G(t) = E[e^{tX}] \leq e^{\sigma^2t^2/2}$ где правая сторона распознается как MGF нормальной случайной величины с нулевым средним со стандартным отклонением

σ

$\sigma$ . Теперь стандартное отклонение

X

$X$ может быть не больше

σ

$\sigma$ , причем максимальное значение имеет место, когда

X

$X$ представляет собой дискретную случайную величину, такую что

P {X = σ} = P {X = - σ} = \frac{1}{2}

$P\{X = \sigma\} = P\{X = -\sigma\} = \frac{1}{2}$ . Таким образом, упомянутая граница может рассматриваться как говорящая о том, что MGF ограниченной нулевой средней случайной величины

X

$X$ ограничен сверху MGF нормальной нулевой средней случайной величины, стандартное отклонение которой равно максимально возможному стандартному отклонению, котороеможет сделать

X

$X$ иметь.

Мой вопрос: является ли это хорошо известным результатом независимого интереса, который используется не в доказательстве неравенства Хеффдинга, а в других местах, и если да, то известно ли также, что он распространяется на случайные величины с ненулевым средним?

Результат , который подсказки этот вопрос дает асимметричный диапазон $[a,b]$ для $X$ с $a < 0 < b$ но настаивает на $E[X] = 0$ . Граница

G (t) \leq e^{t^{2} (b - a)^{2} / 8} = e^{t^{2} σ_{m a x}^{2} / 2}

$G(t) \leq e^{t^2(b-a)^2/8} = e^{t^2\sigma_{max}^2/2}$ , где

σ_{max} = (b - a) / 2

$\sigma_{\max} = (b-a)/2$ - максимально возможное стандартное отклонение для случайной величины со значениями, ограниченными

[a, b]

$[a,b]$ , но этот максимум не достигается случайными величинами с нулевым средним, если только

b = - a

$b = -a$ .

probability probability-inequalities mgf

— Дилип Сарватэ
источник

Случайные переменные, которые удовлетворяют границам mgf, как та, которую вы цитируете, называются субгауссовыми случайными переменными Они играют центральную роль, например, в неасимптотической теории случайных матриц и в некоторых связанных результатах в сжатом зондировании. Смотрите, например, ссылку в ответе здесь . (Это, очевидно, не говорит о вашем конкретном вопросе; но он имеет схожий характер.)

— Кардинал

Я не могу ответить на первую часть вашего вопроса, но что касается расширения случайных величин ненулевыми средствами ...

Во-первых, обратите внимание, что любой rv с конечным диапазоном и (обязательно конечным) средним значением может быть преобразован в rv который, конечно, является нулевым средним с диапазоном (таким образом, удовлетворяя условиям в вашей постановке задачи). Преобразованная переменная имеет mgf $Z$ $[a+\mu,b+\mu]$ $\mu$ $X = Z-\mu$ $[a,b]$ $\phi_X(t) = \exp\{-\mu t\}\phi_Z(t)$ (по основным свойствам mgf) Умножение обеих сторон на и применение неравенства дает: $\exp\{\mu t\}$

$\phi_Z(t) = \exp\{\mu t\}\phi_X(t) \leq \exp\{\mu t\}\exp\{t^2\sigma^2_\text{max}/2\} = \exp\{\mu t + t^2\sigma^2_\text{max}/2\}$

Не удивительно, что мгф нормальной случайной величины с тем же средним и стандартным отклонением, равным $\sigma_\text{max}$

— jbowman
источник