Сомнения в выводе уравнений регрессии гауссовского процесса в статье

Я читаю этот препринт и испытываю трудности с выводом уравнений для регрессии гауссовского процесса. Они используют настройки и обозначения Расмуссена и Уильямса . Таким образом, аддитивный, с нулевым средним, стационарный и нормально распределенный шум с дисперсией предполагается:$\sigma^2_{noise}$

$$y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise})$$

Для предполагается предшествующий GP с нулевым средним , что означает, что , является гауссовским вектором со средним 0 и ковариационной матрицей$f(\mathbf{x})$$\forall \ d\in N$$\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\}$

$$\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) }$$

Отныне мы предполагаем, что гиперпараметры известны. Тогда уравнение (4) статьи очевидно:

$$p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right)$$

Здесь приходят сомнения:

1. Уравнение (5):

   $$p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right)$$

   E [ y | f ] = f ≠ 0 f y = c + ϵ c$E[\mathbf{f}]=0$ , но я думаю, потому что, когда я условие на , тогда где - постоянный вектор, и только - случайный. Правильный?$E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0$$\mathbf{f}$$\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}$$\mathbf{c}$$\boldsymbol{\epsilon}$

2. Во всяком случае, это уравнение (6), которое является более неясным для меня:

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})}$$

   Это не обычная форма теоремы Байеса. Теорема Байеса будет

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f},\mathbf{f^*})}{p(\mathbf{y})}$$

   Я вроде понимаю, почему эти два уравнения одинаковы: интуитивно вектор ответа зависит только от соответствующего скрытого вектора , что обусловливает или должны привести к тому же распределению. Однако это интуиция, а не доказательство! Можете ли вы помочь мне показать, почемуf f ( f , f ∗$\mathbf{y}$$\mathbf{f}$$\mathbf{f}$$(\mathbf{f},\mathbf{f^*})$

   $$p(\mathbf{y}|\mathbf{f},\mathbf{f^*})=p(\mathbf{y}|\mathbf{f})$$

1. Если мы исправим , то вся неопределенность в исходит из шума. Таким образом, для уравнения (5) в статье мы имеем, что с учетом мы имеем в каждой точке независимый шум с дисперсией и средним нулем . Добавляем начальное среднее и получаем ответ.у е сг 2 п ö я сек е$\mathbf{f}$$\mathbf{y}$$\mathbf{f}$$\sigma_{noise}^2$$0$
2. Один из способов доказать предлагаемое равенство - найти распределение в с левой стороны и с правой стороны качества. Они оба гауссовы, для левой стороны мы уже знаем ответ. Для правой стороны мы поступим аналогичным образом. Найдем условное распределение для . Из результата первой части мы знаем: Используя правила вероятности, легко интегрировать из( y , y ∗ ) p ( y , y ∗ | f , f ∗ ) = N ( ( f , f ∗ ) , σ 2 n o i s е я ) . y ∗ ( y , y $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = p(\mathbf{y} | \mathbf{f})$$ $(\mathbf{y}, \mathbf{y}^*)$ $$p(\mathbf{y}, \mathbf{y}^* | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}((\mathbf{f}, \mathbf{f}^*), \sigma^2_{noise} I).$$ $\mathbf{y}^*$y y ∗ p ( y | f , f ∗ ) = N ( f , σ 2 n o i s e I ) = p ( y | f ) $(\mathbf{y}, \mathbf{y}^*)$, поскольку ковариационная матрица диагональна, а векторы и независимы. Делая это, мы получаем: $\mathbf{y}$$\mathbf{y}^*$ $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}(\mathbf{f}, \sigma^2_{noise} I) = p(\mathbf{y} | \mathbf{f}).$$