Интуиция условного ожидания

Пусть - вероятностное пространство, заданное случайной величиной и -algebra мы можем построить новую случайную величину , которая является условным ожиданием.$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

Что такое интуиция для размышления об ? Я понимаю интуицию для следующего:$E[\xi|\mathscr{G}]$

(i) где - событие (с положительной вероятностью).$E[\xi|A]$$A$

(ii) где - дискретная случайная величина.$E[\xi|\eta]$$\eta$

Но я не могу визуализировать . Я понимаю ее математику и понимаю, что она определена таким образом, чтобы обобщать более простые случаи, которые мы можем визуализировать. Но тем не менее я не считаю такой способ мышления полезным. Это остается загадочным объектом для меня.$E[\xi|\mathscr{G}]$

Например, пусть $A$ будет событием с $\mu(A)>0$ . Сформировать $\sigma$ - алгебра $\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$ , один порожденный $A$ . Тогда $E[\xi|\mathscr{G}](\omega)$ будет равно $\frac{1}{\mu(A)} \int_A \xi$если$\omega \in A$и равно$\frac{1}{\mu(A^c)} \int_{A^c} \xi$если$\omega \not \in A$. Другими словами,$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$если$\omega\in A$и$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$если$\omega \in A^c$.

Заблуждение состоит в том, что $\omega \in \Omega$ , так почему мы не просто пишем $E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$ ? Почему мы заменяем $E[\xi|\mathscr{G}]$ по $E[\xi| A\text{ or } A^c]$ зависимости от того, действительно ли $\omega\in A$ , но не разрешено заменять $E[\xi|\mathscr{G}]$ на$E[\xi]$ ?

Заметка. Отвечая на этот вопрос, не объясняйте это с помощью строгого определения условного ожидания. Я это понимаю. Что я хочу понять, так это то, что условное ожидание должно рассчитывать и почему мы отвергаем одно вместо другого.

Один из способов думать об условном представлении как проекции на - алгебре G .$\sigma$$\mathscr{G}$

( из Викисклада )

Это действительно строго верно, когда речь идет о квадратично интегрируемых случайных переменных; в этом случае на самом деле ортогональная проекция случайной величины £ , на подпространство L 2 ( Ом ) , состоящее из случайных величин , измеримых относительно G . И в действительности это даже оказывается в некотором смысле истинным для случайных величин L 1 посредством аппроксимации случайными величинами L 2 .$\mathbb{E}[\xi|\mathscr{G}]$$\xi$$L^2(\Omega)$$\mathscr{G}$$L^1$$L^2$

(См комментарии для ссылок.)

Если учесть , алгебры как представление , сколько информации мы имеем в наличии (толкование , которое этикет в теории случайных процессов), то больше сга - алгебры означают более возможные события и , следовательно , более подробную информацию о возможных результатах, в то время как меньшие сга - алгебры означают меньше возможных событий и, следовательно, меньше информации о возможных результатах.$\sigma-$$\sigma-$$\sigma-$

Поэтому, проектируя измеримого случайной величины £ , на меньший сг - алгебра G означает принимать наше лучшее предположение для значения £ , учитывая более ограниченную информацию , доступную из G .$\mathscr{F}$$\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

Другими словами, учитывая только информацию из , а не всю информацию из F , E [ ξ | G ] в строгом смысле наша лучшая догадка о том, что случайная величина ξ .$\mathscr{G}$$\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

Что касается вашего примера, я думаю, вы можете путать случайные переменные и их значения. Случайная переменная - это функция , домен которой является пространством событий; это не число. Другими словами, X : Ω → R , X ∈ { f | F : Ом → R } , тогда как для со ∈ П , X ( ω ) ∈ R .$X$$X: \Omega \to \mathbb{R}$$X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

Обозначение условного ожидания, на мой взгляд, действительно плохое, потому что оно само является случайной величиной, то есть также функцией . Напротив, (регулярное) ожидание случайной величины является числом . Условное ожидание случайной величины является величиной, совершенно отличной от ожидания той же случайной величины, т. даже не «проверяет тип» с помощью E [ ξ ] .$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

Другими словами, использование символа для обозначения как регулярного, так и условного ожидания является очень серьезным злоупотреблением нотацией, что приводит к ненужной путанице.$\mathbb{E}$

При всем этом отметим, что представляет собой число (значение случайной величины E [ ξ | G ], оцененное по значению ω ), но E [ ξ | Ω ] является случайной величиной, но она оказывается постоянной случайной величиной (т. Е. Тривиальным вырождением), поскольку σ -алгебра, порожденная Ω , { ∅ , Ω $\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$$\{ \emptyset, \Omega\}$является тривиальным / вырожденным, и с технической точки зрения постоянное значение этой постоянной случайной величины равно , где здесь E обозначает регулярное ожидание и, следовательно, число, а не условное ожидание и, следовательно, не случайную величину.$\mathbb{E}[\xi]$$\mathbb{E}$

Также вас, похоже, смущает то, что обозначение означает; технически это возможно только условие на сг - алгебры, а не на отдельных событиях, так как вероятностные меры определены только на полной сг - алгебры, а не на отдельных событиях. Таким образом, E [ ξ | A ] - просто (ленивый) сокращение для E [ ξ | σ ( A ) ] , где σ ( A ) обозначает σ $\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$алгебра, порожденная событием , которое является { ∅ , A , A c , Ω } . Отметим, что σ ( A ) = G = σ ( A c ) ; другими словами, E [ ξ | A ] , E [ ξ | G ] и E [ ξ | A c ] - это разные способы обозначения одного и того же объекта .$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi|A^c]$

Наконец, я просто хочу добавить, что интуитивное объяснение, которое я дал выше, объясняет, почему постоянное значение случайной величины - это просто число E [ ξ ] - σ - алгебра { ∅ , Ω $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$$\{ \emptyset, \Omega\}$представляет наименьшее возможное количество информации, которое у нас могло бы быть, фактически по существу никакой информации, поэтому в этом экстремальном случае наилучшее возможное предположение, которое мы могли бы иметь, для которого случайная переменная является постоянной случайной величиной, постоянное значение которой E [ ξ ] .$\xi$$\mathbb{E}[\xi]$

Заметим, что все постоянные случайные величины являются случайными переменными, и все они измеримы относительно тривиальной σ -алгебры { ∅ , Ω } , поэтому действительно мы имеем, что постоянная случайная величина E [ ξ ] является ортогональной проекцией ξ на подпространство L 2 ( Ω ), состоящее из случайных величин, измеримых по { ∅ , Ω } , как было заявлено.$L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

Я попытаюсь уточнить, что предложил Уильям.

Пусть будет пробным пространством бросания монеты дважды. Определите пробег. вар. ξ быть числом. голов, которые встречаются в эксперименте. Ясно, что E [ ξ ] = 1 . Один способ думать о том , что 1 , как EXPEC. Значение представляет собой как можно лучшую оценку для ξ . Если бы нам нужно было угадать, какое значение примет ξ , мы бы предположили 1 . Это потому, что E [ ( ξ - 1 ) 2 ] ≤ E [ ( ξ - a ) $\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$ для любого действительного числа а .$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$$a$

Обозначим через событие, когда первым результатом является голова. Пусть G = { ∅ , A , A c , Ω } - σ- алгебра. поколения. на A . Мы думаем о G как о представлении того, что мы знаем после первого броска. После первого броска либо головы возникли, либо головы не произошло. Следовательно, мы находимся в событии A или A c после первого броска.$A = \{ HT, HH \}$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$\sigma$$A$$\mathscr{G}$$A$$A^c$

Если мы находимся в событии , то наилучшей из возможных оценок для ξ будет E [ ξ | A ] = 1,5 , и если мы находимся в случае A c , то наилучшей из возможных оценок для ξ будет E [ ξ | А с ] = 0,5 .$A$$\xi$$E[\xi|A] = 1.5$$A^c$$\xi$$E[\xi|A^c] = 0.5$

Теперь определите пробег. вар. должно быть либо 1,5, либо 0,5, в зависимости от того, ω ∈ A или нет . Это побежал. вар. η является лучшим приближением, чем 1 = E [ ξ ], поскольку E [ ( ξ - η ) 2 ] ≤ E [ ( ξ - 1 ) 2 ] .$\eta(\omega)$$1.5$$0.5$$\omega\in A$$\eta$$1 = E[\xi]$$E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$

Что делает , так это дает ответ на вопрос: какова лучшая оценка ξ после первого броска? Так как мы не знаем , информацию после первого броске, η будет зависеть от А . После того, как событие G обнаружено нам, после первого броска определяется значение η, которое дает наилучшую возможную оценку для ξ . $\eta$$\xi$$\eta$$A$$\mathscr{G}$$\eta$$\xi$

Проблема использования качестве собственной оценки, т. Е. 0 = E [ ( ξ - ξ ) 2 ] ≤ E [ ( ξ - η ) 2 ], заключается в следующем. ξ не является четко определенным после первого броска. Скажем, результатом эксперимента является ω с первым результатом, являющимся главой, мы находимся в событии A , но что такое ξ ( ω ) = ? Мы не знаем только с первого броска, что значение для нас неоднозначно, и поэтому $\xi$$0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$$\xi$$\omega$$A$$\xi(\omega)=?$$\xi$не является четко определенным. Более формально, мы говорим, что не G- измерим, т. Е. Его значение не определено после первого броска. Таким образом, η является наилучшей из возможных оценок ξ после первого броска.$\xi$$\mathscr{G}$$\eta$$\xi$

Возможно, кто-то здесь может придумать более сложный пример, используя образец пространства , где ξ ( ω ) = ω , а G - некоторая нетривиальная σ- алгебра.$[0,1]$$\xi (\omega) = \omega$$\mathscr{G}$$\sigma$

Хотя вы просите не использовать формальное определение, я думаю, что формальное определение, вероятно, является лучшим способом объяснить его.

Википедия - условное ожидание :

Тогда условное ожидание X, заданное , обозначаемое как E ( X ∣ H ) , является любой H -измеримой функцией ( Ω → R n ), которая удовлетворяет:$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

Во-первых, это измеримая функция. Во- вторых, должен соответствовать ожиданиям по каждой измеримой (суб) множества в H . Таким образом, для события A сигма-алгебра имеет вид { A , A C , ∅ , Ω } , поэтому ясно, что она задана так, как вы указали в своем вопросе для ω ∈ A / A c . Точно так же для любой дискретной случайной величины (и их комбинаций) мы перечисляем все примитивные события и назначаем ожидание, данное этому примитивному событию.$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle {\mathcal {H}}$$\{A,A^C,\emptyset, \Omega\}$$\omega \in A/A^c$

Теперь рассмотрим подбрасывание монеты бесконечное число раз, где на каждом броске я, вы получите , если ваша монета хвостами , то ваш общий выигрыш X = Е ∞ я = 1$1/2^i$гдеci= 1 для хвостов и 0 для голов. Тогда X - вещественная случайная величина на[0,1]. После п бросков монеты, вы знаетезначение X в точности1/2п, напримерпосле2 монеты подбрасывает она находится в [0,1 / 4], [1 / 4,1 / 2], [1 / 2,3 / 4] или [3 / 4,1] - после каждого броска монеты ваша ассоциированная сигма-алгебра становится все более и более точной, и аналогично условное ожидание X становится все более и более точным.$X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$$c_i$$[0,1]$$1/2^n$

Надеемся, что этот пример вещественной случайной величины с последовательностью сигма-алгебр, становящейся все лучше и лучше (Фильтрация), отвлекает вас от чисто интуиции, основанной на событиях, к которой вы привыкли, и разъясняет ее назначение.