Интуиция (геометрическая или другая) из

18

Рассмотрим элементарную идентичность дисперсии:

\begin{array}{rcl} V a r (X) & = & E [(X - E [X])^{2}] \\ = & . . . \\ = & E [X^{2}] - (E [X])^{2} \end{array}

$\begin{eqnarray} Var(X) &=& E[(X - E[X])^2]\\ &=& ...\\ &=& E[X^2] - (E[X])^2 \end{eqnarray}$

Это простая алгебраическая манипуляция с определением центрального момента в нецентральные моменты.

Это позволяет удобно манипулировать в других контекстах. Это также позволяет вычислить дисперсию с помощью одного прохода данных, а не двух проходов, сначала для вычисления среднего значения, а затем для вычисления дисперсии. $Var(X)$

Но что это значит ? Для меня не существует непосредственной геометрической интуиции, которая связывает разброс по среднему значению с разбросом около 0. Поскольку является набором для одного измерения, как вы рассматриваете разброс вокруг среднего как разницу между разбросом вокруг начала координат и квадратом жадный? $X$

Существуют ли какие-либо хорошие интерпретации линейной алгебры или физические интерпретации или иные, которые могли бы дать представление об этой идентичности?

variance descriptive-statistics intuition

— Митч
источник

7

Подсказка: это теорема Пифагора.

— whuber

1

@ Матфея Интересно, что означает " ". Я подозреваю, что это не ожидание, а просто сокращение от среднего арифметического. В противном случае уравнения были бы неправильными (и почти бессмысленными, поскольку они тогда приравнивали бы случайные переменные к числам).

E

$E$

— whuber

2

@whuber Поскольку внутренние произведения вводят идею расстояний и углов, а внутреннее произведение векторного пространства вещественных случайных величин определяется как (?), мне интересно, можно ли дать некоторую геометрическую интуицию через неравенство треугольника. Я понятия не имею, как поступить, но мне было интересно, имеет ли это смысл.

E [X Y]

$\mathbb E[XY]$

— Антони Пареллада

1

@Antoni Неравенство треугольника слишком общее. Внутренний продукт - это гораздо более особенный объект. К счастью, подходящая геометрическая интуиция в точности соответствует евклидовой геометрии. Более того, даже в случае случайных величин и необходимая геометрия может быть ограничена двумерным вещественным векторным пространством, порожденным и то есть самой евклидовой плоскостью. В данном случае не является RV: это просто вектор. Здесь пространство, охватываемое и является евклидовой плоскостью, в которой происходит вся геометрия.

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X

$X$

n

$n$

X

$X$

(1, 1, \dots, 1)

$(1,1,\ldots, 1)$

— whuber

3

Установка в ответе, на который я , и деление всех терминов на (если вы хотите) даст вам полное алгебраическое решение для дисперсии: нет причин для повторного копирования. Это потому, что - среднее арифметическое , откуда - это просто кратная дисперсия, как вы ее здесь определили, - раз среднее арифметическое в квадрате, а в раз превышает среднее арифметическое значений в квадрате.

{\hat{β}}_{1} = 0

$\hat\beta_1=0$

n

$n$

{\hat{β}}_{0}

$\hat\beta_0$

y

$y$

| | y - \hat{y} | |^{2}

$||y-\hat y||^2$

n

$n$

| | \hat{y} | |^{2}

$||\hat y||^2$

n

$n$

| | y | |^{2}

$||y||^2$

n

$n$

— whuber

21

Расширяя точку @ whuber в комментариях, если и ортогональны, у вас есть теорема Пифагора : $Y$ $Z$

‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2}

$\|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2$

Заметьте, что является допустимым внутренним произведением и что - норма, индуцированная этим внутренним произведением . $\langle Y, Z \rangle \equiv \mathrm{E}[YZ]$ $\|Y\| = \sqrt{\mathrm{E}[Y^2]}$

Пусть некоторая случайная величина. Пусть , Пусть . Если и ортогональны: $X$ $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $Y$ $Z$

\begin{aligned} ‖ Y ‖^{2} + ‖ Z ‖^{2} = ‖ Y + Z ‖^{2} \\ \Leftrightarrow & E [E [X]^{2}] + E [(X - E [X])^{2}] = E [X^{2}] \\ \Leftrightarrow & {E [X]}^{2} + V a r [X] = E [X^{2}] \end{aligned}

$\begin{align*} & \|Y\|^2 + \|Z\|^2 = \|Y + Z\|^2 \\ \Leftrightarrow \quad&\mathrm{E}[\mathrm{E}[X]^2] + \mathrm{E}[(X - \mathrm{E}[X])^2] = \mathrm{E}[X^2] \\ \Leftrightarrow \quad & \mathrm{E[X]}^2 + \mathrm{Var}[X]= \mathrm{E}[X^2] \end{align*}$

И это легко показать , что и являются ортогональными при этом внутреннем продукте: $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$

⟨ Y, Z ⟩ = E [E [X] (X - E [X])] = E [X]^{2} - E [X]^{2} = 0

$\langle Y, Z \rangle = \mathrm{E}[\mathrm{E}[X]\left(X - \mathrm{E}[X] \right)] = \mathrm{E}[X]^2 - \mathrm{E}[X]^2 = 0$

Одна из ножек треугольника , другая нога , а гипотенуза . И теорема Пифагора может быть применена, потому что униженная случайная величина ортогональна ее среднему значению. $X - \mathrm{E}[X]$ $\mathrm{E}[X]$ $X$

Техническое замечание:

$Y$ в этом примере действительно должно быть вектором , то есть скалярным умноженным на постоянный вектор (например, в случае дискретного конечного результата). представляет собой вектор проекции из на постоянный вектор . $Y = \mathrm{E}[X] \mathbf{1}$ $\mathrm{E}[X]$ $\mathbf{1}$ $\mathbf{1} = [1, 1, 1, \ldots, 1]'$ $Y$ $X$ $\mathbf{1}$

Простой пример

Рассмотрим случай, когда - случайная величина Бернулли, где . У нас есть: $X$ $p = .2$

X = [\begin{matrix} 1 \\ 0 \end{matrix}] P = [\begin{matrix} .2 \\ .8 \end{matrix}] E [X] = \sum_{i} P_{i} X_{i} = .2

$X = \begin{bmatrix} 1 \\ 0 \end{bmatrix} \quad P = \begin{bmatrix} .2 \\ .8 \end{bmatrix} \quad \mathrm{E}[X] = \sum_i P_iX_i = .2$

Y = E [X] 1 = [\begin{matrix} .2 \\ .2 \end{matrix}] Z = X - E [X] = [\begin{matrix} .8 \\ - .2 \end{matrix}]

$Y = \mathrm{E}[X]\mathbf{1} = \begin{bmatrix} .2 \\ .2 \end{bmatrix} \quad Z = X - \mathrm{E}[X] = \begin{bmatrix} .8 \\ -.2 \end{bmatrix}$

И картина такая:

Квадратная величина красного вектора - это дисперсия , квадратная величина голубого вектора - , а квадратная величина желтого вектора - . $X$ $\mathrm{E}[X]^2$ $\mathrm{E}[X^2]$

ПОМНИТЕ, что эти величины, ортогональность и т. Д. не с обычным точечным произведением а с внутренним произведением . Величина желтого вектора не 1, а 0,2. $\sum_i Y_iZ_i$ $\sum_i P_iY_iZ_i$

Красный вектор и синий вектор перпендикулярны внутреннему произведению но они не перпендикулярны во вступлении, смысл геометрии средней школы. Помните, что мы не используем обычный скалярный продукт в качестве внутреннего продукта! $Y = \mathrm{E}[X]$ $Z = X - \mathrm{E}[X]$ $\sum_i P_i Y_i Z_i$ $\sum_i Y_i Z_i$

— Мэтью Ганн
источник

Это действительно хорошо!

— Антони Пареллада

1

Хороший ответ (+1), но ему не хватает цифры, а также может немного запутать OP, потому что ваш Z - это их X ...

— говорит амеба Reinstate Monica

@ MatthewGunn, отличный ответ. Вы можете проверить мой ответ ниже для представления, где ортогональность в евклидовом смысле.

— YBE

Я ненавижу быть тупым, но у меня проблемы с поддержанием , и направления логики прямо («потому что» приходит в места, которые не имеют смысла для меня). Такое ощущение, что многие (хорошо обоснованные) факты изложены случайным образом. В каком пространстве находится внутренний продукт? Почему 1 ?

Z

$Z$

V a r (X)

$Var(X)$

— Митч

@Mitch Логический порядок: (1) Обратите внимание, что вероятностное пространство определяет векторное пространство; мы можем рассматривать случайные величины как векторы. (2) Определите внутреннее произведение случайных величин и как . Во внутреннем пространстве произведений векторы и определяются как ортогональные, если их внутреннее произведение равно нулю. (3а) Пусть - некоторая случайная величина. (3б) Пусть и . (4) Заметим, что и определенные таким образом, ортогональны. (5) Так как и

Y

$Y$

Z

$Z$

E [Y Z]

$E[YZ]$

Y

$Y$

Z

$Z$

X

$X$

Y = E [X]

$Y = E[X]$

Z = X - E [X]

$Z = X - E[X]$

Y

$Y$

Z

$Z$

Y

$Y$

Z

$Z$ являются ортогональными, применяется теорема Пифагора (6) По простой алгебре теорема Пифагора эквивалентна тождеству.

— Мэтью Ганн

7

Я пойду на чисто геометрический подход для очень специфического сценария. Рассмотрим дискретную случайную величину принимающую значения с вероятностями . Далее мы будем предполагать, что эта случайная величина может быть представлена в в виде вектора, . $X$ $\{x_1,x_2\}$ $(p_1,p_2)$ $\mathbb{R}^2$ $\mathbf{X} = \left(x_1\sqrt{p_1},x_2\sqrt{p_2} \right)$

Обратите внимание, что квадрат длины в равен что равно . Таким образом, . $\mathbf{X}$ $x_1^2p_1+x_2^2p_2$ $E[X^2]$ $\left\| \mathbf{X} \right\| = \sqrt{E[X^2]}$

Поскольку , вершина вектора фактически отслеживает эллипс. Это становится легче увидеть, если репараметризовать и как и . Следовательно, мы имеем и . $p_1+p_2=1$ $\mathbf{X}$ $p_1$ $p_2$ $\cos^2(\theta)$ $\sin^2(\theta)$ $\sqrt{p_1} =\cos(\theta)$ $\sqrt{p_2} = \sin(\theta)$

Один из способов рисования эллипсов - это механизм под названием Траммель Архимеда . Как описано в вики: он состоит из двух челноков, которые ограничены («растоптаны») перпендикулярными каналами или рельсами, и стержня, который прикреплен к челнокам с помощью шарниров в фиксированных положениях вдоль стержня. Когда шаттлы движутся взад и вперед, каждый по своему каналу, конец стержня движется по эллиптической траектории. Этот принцип иллюстрируется на рисунке ниже.

Теперь давайте геометрически проанализируем один случай этой путаницы, когда вертикальный челнок находится в точке а горизонтальный челнок находится в точке образуя угол . Из-за конструкции, и , (здесь предполагается wlog). $A$ $B$ $\theta$ $\left|BX\right| = x_2$ $\left| AB \right| = x_1-x_2$ $\forall \theta$ $x_1\geq x_2$

Давайте нарисуем линию от начала координат, , которая перпендикулярна стержню. Можно показать, что . Для этой конкретной случайной величины Следовательно, перпендикулярное расстояниеот начала координат до стержня фактически равно стандартному отклонению . $OC$ $\left| OC \right|=(x_1-x_2) \sin(\theta) \cos(\theta)$

\begin{array}{rcl} V a r (X) & = & (x_{1}^{2} p_{1} + x_{2}^{2} p_{2}) - (x_{1} p_{1} + x_{2} p_{2})^{2} \\ = & x_{1}^{2} p_{1} + x_{2}^{2} p_{2} - x_{1}^{2} p_{1}^{2} - x_{2}^{2} p_{2}^{2} - 2 x_{1} x_{2} p_{1} p_{2} \\ = & x_{1}^{2} (p_{1} - p_{1}^{2}) + x_{2}^{2} (p_{2} - p_{2}^{2}) - 2 x_{1} x_{2} p_{1} p_{2} \\ = & p_{1} p_{2} (x_{1}^{2} - 2 x_{1} x_{2} + x_{2}^{2}) \\ = & {[(x_{1} - x_{2}) \sqrt{p_{1}} \sqrt{p_{2}}]}^{2} = {| O C |}^{2} \end{array}

$\begin{eqnarray} Var(X) &=& (x_1^2p_1 +x_2^2p_2) - (x_1p_1+x_2p_2)^2 \\ &=& x_1^2p_1 +x_2^2p_2 - x_1^2p_1^2 - x_2^2p_2^2 - 2x_1x_2p_1p_2 \\ &=& x_1^2(p_1-p_1^2) + x_2^2(p_2-p_2^2) - 2x_1x_2p_1p_2 \\ &=& p_1p_2(x_1^2- 2x_1x_2 + x_2^2) \\ &=& \left[(x_1-x_2)\sqrt{p_1}\sqrt{p_2}\right]^2 = \left|OC \right|^2 \end{eqnarray}$

| O C |

$\left|OC \right|$

σ

$\sigma$

Если мы вычислим длину сегмента от до : $C$ $X$

\begin{array}{rcl} | C X | & = & x_{2} + (x_{1} - x_{2}) \cos^{2} (θ) \\ = & x_{1} \cos^{2} (θ) + x_{2} \sin^{2} (θ) \\ = & x_{1} p_{1} + x_{2} p_{2} = E [X] \end{array}

$\begin{eqnarray} \left|CX\right| &=& x_2 + (x_1-x_2)\cos^2(\theta) \\ &=& x_1\cos^2(\theta) +x_2\sin^2(\theta) \\ &=& x_1p_1 + x_2p_2 = E[X] \end{eqnarray}$

Применяя теорему Пифагора в треугольнике OCX, мы получаем

E [X^{2}] = V a r (X) + E [X]^{2} .

$\begin{equation} E[X^2] = Var(X) + E[X]^2. \end{equation}$

Подводя итог , можно сказать, что для запятой, описывающей все возможные дискретные случайные величины, принимающие значения , - это расстояние от начала координат до вершины механизма и стандартное отклонение - перпендикулярное расстояние до стержня. $\{x_1,x_2\}$ $\sqrt{E[X^2]}$ $\sigma$

Примечание : обратите внимание, что когда равно или , является полностью детерминированным. Когда равно мы получаем максимальную дисперсию. $\theta$ $0$ $\pi/2$ $X$ $\theta$ $\pi/4$

— YBE
источник

1

+1 Хороший ответ. А умножение векторов на квадрат вероятностей - это крутой / полезный трюк, чтобы обычное вероятностное понятие ортогональности выглядело ортогональным!

— Мэтью Ганн

Отличная графика. Символы все имеет смысл (штангенциркуль , описывающий эллипс , а затем применяет Пифагор THM) , но почему - то я не получаю интуитивно , как это дает представление о том , как «волшебно» это касается моментов (распространения и в центре.

— Митч

Рассмотрим путаницу как процесс, который определяет все возможные значимые случайные величины. Когда стержень горизонтальный или вертикальный, у вас есть детерминированный RV. В середине есть случайность, и оказывается, что в моей предложенной геометрической структуре насколько случайным является RV (его стандарт), точно измеряется расстоянием от стержня до начала координат. Здесь могут быть более глубокие отношения, так как эллиптические кривые соединяют различные объекты в математике, но я не математик, поэтому я не могу реально увидеть эту связь.

(x_{1}, x_{2})

$(x_1,x_2)$

— YBE

3

Вы можете изменить порядок следующим образом:

\begin{array}{rcl} V a r (X) & = & E [X^{2}] - (E [X])^{2} \\ E [X^{2}] & = & (E [X])^{2} + V a r (X) \end{array}

$\begin{eqnarray} Var(X) &=& E[X^2] - (E[X])^2\\ E[X^2] &=& (E[X])^2 + Var(X) \end{eqnarray}$

Затем интерпретируйте следующим образом: ожидаемый квадрат случайной величины равен квадрату ее среднего плюс ожидаемое квадратическое отклонение от среднего.

— Lam
источник

Ой. Да. Просто. Но квадраты все еще кажутся немного не интерпретированными. Я имею в виду, что это имеет смысл (в некотором роде, очень свободно) без квадратов.

— Митч

3

Я не продан на этом.

— Майкл Р. Черник

1

Если применима теорема Пифагора, каков треугольник с какими сторонами и как две стороны перпендикулярны?

— Митч

1

Приносим извинения за то, что не обладаем навыком для разработки и предоставления правильного ответа, но я думаю, что ответ заключается в концепции моментов физической классической механики, особенно в преобразовании между 0 центрированными «необработанными» моментами и среднецентрированными центральными моментами. Помните, что дисперсия - это центральный момент второго порядка случайной величины.

— С. Диаксо
источник

1

Общая интуиция заключается в том, что вы можете связать эти моменты, используя теорему Пифагора (PT) в надлежащим образом определенном векторном пространстве, показав, что два из этих моментов перпендикулярны, а третий является гипотенузой. Единственная необходимая алгебра - показать, что две ноги действительно ортогональны.

Ради следующего я предполагаю, что вы имели в виду типовые средние и дисперсии для целей вычисления, а не моменты для полных распределений. То есть:

\begin{array}{rcll} E [X] & = & \frac{1}{n} \sum x_{i}, & m e a n, f i r s t c e n t r a l s a m p l e m o m e n t \\ E [X^{2}] & = & \frac{1}{n} \sum x_{i}^{2}, & s e c o n d s a m p l e m o m e n t (n o n - c e n t r a l) \\ V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2}, & v a r i a n c e, s e c o n d c e n t r a l s a m p l e m o m e n t \end{array}

$\begin{array}{rcll} E[X] &=& \frac{1}{n}\sum x_i,& \rm{mean, first\ central\ sample\ moment}\\ E[X^2] &=& \frac{1}{n}\sum x^2_i,& \rm{second\ sample\ moment\ (non-central)}\\ Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2,& \rm{variance, second\ central\ sample\ moment} \end{array}$

(где все суммы по пунктам). $n$

Для справки, элементарное доказательство - просто нажатие символов: $Var(X) = E[X^2] - E[X]^2$

\begin{array}{rcl} V a r (X) & = & \frac{1}{n} \sum (x_{i} - E [X])^{2} \\ = & \frac{1}{n} \sum (x_{i}^{2} - 2 E [X] x_{i} + E [X]^{2}) \\ = & \frac{1}{n} \sum x_{i}^{2} - \frac{2}{n} E [X] \sum x_{i} + \frac{1}{n} \sum E [X]^{2} \\ = & E [X^{2}] - 2 E [X]^{2} + \frac{1}{n} n E [X]^{2} \\ = & E [X^{2}] - E [X]^{2} \end{array}

$\begin{eqnarray} Var(X) &=& \frac{1}{n}\sum (x_i - E[X])^2\\ &=& \frac{1}{n}\sum (x^2_i - 2 E[X]x_i + E[X]^2)\\ &=& \frac{1}{n}\sum x^2_i - \frac{2}{n} E[X] \sum x_i + \frac{1}{n}\sum E[X]^2\\ &=& E[X^2] - 2 E[X]^2 + \frac{1}{n} n E[X]^2\\ &=& E[X^2] - E[X]^2\\ \end{eqnarray}$

Здесь мало смысла, просто элементарное манипулирование алгеброй. Можно заметить, что является константой внутри суммирования, но это все. $E[X]$

Теперь в векторном пространстве / геометрической интерпретации / интуиции мы покажем слегка перестроенное уравнение, соответствующее PT, которое

\begin{array}{rcl} V a r (X) + E [X]^{2} & = & E [X^{2}] \end{array}

$\begin{eqnarray} Var(X) + E[X]^2 &=& E[X^2] \end{eqnarray}$

Итак, рассмотрим , образец из элементов, как вектор из . И давайте создадим два вектора и . $X$ $n$ $\mathbb{R}^n$ $E[X]{\bf 1}$ $X-E[X]{\bf 1}$

Вектор имеет среднее значение выборки, как и каждая из его координат. $E[X]{\bf 1}$

Вектор является . $X-E[X]{\bf 1}$ $\langle x_1-E[X], \dots, x_n-E[X]\rangle$

Эти два вектора перпендикулярны, поскольку скалярное произведение двух векторов оказывается равным 0:

\begin{array}{rcl} E [X] 1 \cdot (X - E [X] 1) & = & \sum E [X] (x_{i} - E [X]) \\ = & \sum (E [X] x_{i} - E [X]^{2}) \\ = & E [X] \sum x_{i} - \sum E [X]^{2} \\ = & n E [X] E [X] - n E [X]^{2} \\ = & 0 \end{array}

$\begin{eqnarray} E[X]{\bf 1}\cdot(X-E[X]{\bf 1}) &=& \sum E[X](x_i-E[X])\\ &=& \sum (E[X]x_i-E[X]^2)\\ &=& E[X]\sum x_i - \sum E[X]^2\\ &=& n E[X]E[X] - n E[X]^2\\ &=& 0\\ \end{eqnarray}$

Таким образом, два вектора перпендикулярны, что означает, что они являются двумя ветвями прямоугольного треугольника.

Тогда по PT (который имеет место в ), сумма квадратов длин двух ветвей равна квадрату гипотенузы. $\mathbb{R}^n$

По той же алгебре, что и в скучном алгебраическом доказательстве сверху, мы показали, что получаем, что является квадратом вектора гипотенузы: $E[X^2]$

$(X-E[X])^2 + E[X]^2 = ... = E[X^2]$ где возведение в квадрат - это скалярное произведение (и это действительно и - это . $E[x]{\bf 1}$ $(X-E[X])^2$ $Var(X)$

Интересной частью этой интерпретации является преобразование из выборки из элементов из одномерного распределения в векторное пространство из измерений. Это похоже на двумерных выборок, интерпретируемых как действительно две выборки по переменным. $n$ $n$ $n$ $n$

В одном смысле этого достаточно, прямоугольный треугольник из векторов и появляется как гипотенуза. Мы дали интерпретацию (векторы) для этих значений и показали, что они соответствуют. Это достаточно круто, но не просвещает ни статистически, ни геометрически. На самом деле это не говорит, почему, и было бы много дополнительных концептуальных механизмов, чтобы, в конце концов, в основном воспроизвести чисто алгебраическое доказательство, которое мы уже имели в начале. $E[X^2]$

Другая интересная часть заключается в том, что среднее значение и дисперсия, хотя они интуитивно измеряют центр и разброс в одном измерении, являются ортогональными в измерениях. Что это значит, что они ортогональны? Я не знаю! Есть ли другие моменты, которые являются ортогональными? Существует ли более широкая система отношений, которая включает эту ортогональность? центральные моменты против нецентральных моментов? Я не знаю! $n$

— Митч
источник

Я также заинтересован в интерпретации / интуиции, лежащей в основе внешне подобного уравнения компромисса дисперсии смещения. У кого-нибудь есть намеки там?

— Митч

Пусть - вероятность возникновения состояния . Если то , то есть - это просто произведение точек между и деленное на , Если , то, что я использовал как внутренний продукт ( ), в основном является точечным произведением, на . Вся эта пифагорейская интерпретация все еще нуждается в том, чтобы вы использовали конкретное внутреннее произведение (хотя оно алгебраически близко к классическому точечному произведению для вероятностной меры

p_{i}

$p_i$

i

$i$

p_{i} = \frac{1}{n}

$p_i = \frac{1}{n}$

\sum_{i} p_{i} X_{i} Y_{i} = \frac{1}{n} \sum_{i} X_{i} Y_{i}

$\sum_i p_i X_i Y_i = \frac{1}{n} \sum_i X_i Y_i$

E [X Y]

$E[XY]$

X

$X$

Y

$Y$

n

$n$

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

E [X Y] = \sum_{i} p_{i} X_{i} Y_{i}

$E[XY] = \sum_i p_i X_i Y_i$

n

$n$

E [X Y]

$E[XY]$

P

$P$ такой, что ).

\forall_{i} p_{i} = \frac{1}{n}

$\forall_i p_i = \frac{1}{n}$

— Мэтью Ганн

Кстати, хитрость, которую сделал @YBE, заключалась в том, чтобы определить новые векторы и , чтобы и . Затем укажите произведение . Точечное произведение и соответствует (это то, что я использовал как внутренний продукт).

\hat{x}

$\hat{x}$

\hat{y}

$\hat{y}$

{\hat{x}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{x}_i = x_i \sqrt{p_i}$

{\hat{y}}_{i} = x_{i} \sqrt{p_{i}}

$\hat{y}_i = x_i \sqrt{p_i}$

\hat{x} \cdot \hat{y} = \sum_{i} x_{i} \sqrt{p_{i}} y_{i} \sqrt{p_{i}} = \sum_{i} p_{i} x_{i} y_{i} = E [x y]

$\hat{x} \cdot \hat{y} = \sum_i x_i \sqrt{p_i} y_i \sqrt{p_i} = \sum_i p_i x_i y_i = E[xy]$

\hat{x}

$\hat{x}$

\hat{y}

$\hat{y}$

E [x y]

$E[xy]$

— Мэтью Ганн