Ожидаемое значение натурального логарифма

22

Я знаю, что с константами , поэтому, учитывая , это легко решить. Я также знаю, что вы не можете применить это, когда это нелинейная функция, как в этом случае , и чтобы решить это, я должен сделать приближение с Тейлором. Так что мой вопрос, как мне решить ?? мне тоже приблизиться с Тейлором? $E(aX+b) = aE(X)+b$ $a,b$ $E(X)$ $E(1/X) \neq 1/E(X)$ $E(\ln(1+X))$

mathematical-statistics

— Matt
источник

4

Да, вы можете применить дельта-метод в этом случае.

— Майкл Р. Черник

5

Вы также должны посмотреть на неравенство Дженсена.

— kjetil b halvorsen

27

В газете

YW Teh, D. Newman и M. Welling (2006), Свернутый вариационный алгоритм байесовского вывода для скрытого распределения Дирихле , NIPS 2006 , 1353–1360.

Разложение Тейлора второго порядка вокруг используется для аппроксимации : $x_0=\mathbb{E}[x]$ $\mathbb{E}[\log(x)]$

E [\log (x)] \approx \log (E [x]) - \frac{V [x]}{2 E [x]^{2}} .

$\mathbb{E}[\log(x)]\approx\log(\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2\mathbb{E}[x]^2} \>.$

Это приближение, кажется, работает очень хорошо для их применения.

Немного изменив это, чтобы соответствовать текущему вопросу, по линейности ожидания,

E [\log (1 + x)] \approx \log (1 + E [x]) - \frac{V [x]}{2 (1 + E [x])^{2}} .

$\mathbb{E}[\log(1+x)]\approx\log(1+\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2(1+\mathbb{E}[x])^2} \>.$

Однако может случиться так, что либо левая сторона, либо правая сторона не существует, в то время как другая существует, и поэтому при использовании этого приближения следует соблюдать осторожность.

— user1149913
источник

3

Интересно, что это можно использовать для получения приближения к функции дигаммы.

— вероятностная

6

Кроме того, если вам не нужно точное выражение для , часто границы, заданные неравенством Дженсена, достаточно хороши: $\text{E}[\log(X + 1)]$

\log [E (X) + 1] \geq E [\log (X + 1)]

$\log [\text{E}(X) + 1] \geq\text{E}[\log(X + 1)]$

— dsaxton
источник

Я просто хотел добавить: если прямой расчет невозможен и вы смотрите на одну переменную , неравенство Дженсена - это единственная возможность получить любой полезный результат. Хотя предложенное приближение Тейлора может действительно работать в практике, не существует теоретического обоснования, которое могло бы быть использовано для мотивации удаления остальных терминов. (сказанное: имейте в виду, что бесконечно ряд Тейлора ln (1 + x) в любом случае сходится только в радиусе | x | <1).)

X

$X$

— chRrr

Я думаю, что это должно быть так как вогнутый вниз.

\geq

$\ge$

\log

$\log$

— Глубокий север

5

Предположим, что имеет плотность вероятности . Прежде чем приступить к приближению, помните, что для любой измеримой функции вы можете доказать, что в том смысле, что если существует первый интеграл, то существует и второй, и они имеют одинаковое значение. $X$ $f_X$ $g$

E [g (X)] = \int g (X) d P = \int_{- \infty}^{\infty} g (x) f_{X} (x) d x,

$E[g(X)]=\int g(X)\,dP = \int_{-\infty}^\infty g(x)\,f_X(x)\,dx \, ,$

— Zen
источник

1

Если второй интеграл существует. Это не нужно. Возьмем распределение Коши и .

g (x) = x^{2}

$g(x)=x^2$

— mpiktas

Я бы добавил второй уровень педантичности, сказав, что вам действительно нужно чтобы ожидание было четко определено.

E [| g (X) |] < \infty

$E[|g(X)|]<\infty$

— вероятностная

2

@mpiktas - это ожидание действительно существует, но оно бесконечно. Лучшим примером является для распределения Коши. Это ожидание зависит от того, как нижний и верхний пределы интеграции стремятся к бесконечности.

g (x) = x

$g(x)=x$

— вероятностная

2

@prob: Нет, вам не нужно это условие в вашем первом комментарии, и даже в ситуации, которая может иметь отношение к этому вопросу! (+1 к вашему второму комментарию, хотя, это было то, что я тоже хотел прокомментировать.)

— кардинал

2

@prob: Этого достаточно , но если вы сравните свой первый комментарий со вторым, вы поймете, почему это не нужно ! :-)

— кардинал

4

Есть два обычных подхода:

Если вы знаете распределение , вы можете найти распределение и оттуда найти его ожидание; в качестве альтернативы вы можете использовать закон бессознательной статистики напрямую (то есть интегрировать в область ). $X$ $\ln(1+X)$ $\ln(1+x) f_{X}(x)$ $x$
Как вы предлагаете, если вы знаете первые несколько моментов, вы можете вычислить приближение Тейлора.

— Glen_b - Восстановить Монику
источник