Dudas sobre la derivación de ecuaciones de regresión de procesos gaussianas en un artículo

Estoy leyendo esta preimpresión en papel , y tengo dificultades para seguir su derivación de las ecuaciones para la regresión del proceso gaussiano. Utilizan la configuración y la notación de Rasmussen y Williams . Por lo tanto, se supone un aditivo, de media cero, estacionario y normalmente distribuido con varianza :$\sigma^2_{noise}$

$$y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise})$$

Se supone un GP anterior con media cero para , lo que significa que , es un vector gaussiano con media 0 y matriz de covarianza$f(\mathbf{x})$$\forall \ d\in N$$\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\}$

$$\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) }$$

De ahora en adelante, suponemos que se conocen hiperparámetros. Entonces la ecuación (4) del artículo es obvia:

$$p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right)$$

Aquí vienen las dudas:

1. Ecuación (5):

   $$p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right)$$

   , pero supongo que E [ y | f ] = f ≠ 0 porque cuando condiciono f , entonces dondees un vector constante y solo es al azar ¿Correcto?$E[\mathbf{f}]=0$$E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0$$\mathbf{f}$c$\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}$$\mathbf{c}$$\boldsymbol{\epsilon}$

2. De todos modos, es la ecuación (6) que es más oscura para mí:

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})}$$

   Esa no es la forma habitual del teorema de Bayes. El teorema de Bayes sería

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f},\mathbf{f^*})}{p(\mathbf{y})}$$

   Entiendo por qué las dos ecuaciones son las mismas: intuitivamente, el vector de respuesta depende solo del vector latente correspondiente , condicionándose así a o a debería conducir a la misma distribución. Sin embargo, esto es una intuición, no una prueba. ¿Puedes ayudarme a mostrar por qué?f f ( f , f ∗$\mathbf{y}$$\mathbf{f}$$\mathbf{f}$$(\mathbf{f},\mathbf{f^*})$

   $$p(\mathbf{y}|\mathbf{f},\mathbf{f^*})=p(\mathbf{y}|\mathbf{f})$$

1. Si arreglamos , entonces toda la incertidumbre en proviene del ruido. Entonces, para la ecuación (5) en el artículo tenemos que dado tenemos en cada punto ruido independiente con varianza y media cero . Agregamos la media inicial y obtenemos la respuesta.y f σ 2 n o i s e$\mathbf{f}$$\mathbf{y}$$\mathbf{f}$$\sigma_{noise}^2$$0$
2. Una forma de demostrar la igualdad sugerida es encontrar la distribución en el lado izquierdo y el lado derecho de la calidad. Ambos son gaussianos, para el lado izquierdo ya sabemos la respuesta. Para el lado derecho procedemos de manera similar. Encontremos la distribución condicional para . Del resultado de la primera parte sabemos: Usando reglas de probabilidad es fácil integrar desde( y , y ∗ ) p ( y , y ∗ | f , f ∗ ) = N ( ( f , f ∗ ) , σ 2 n o i s e I ) . y ∗ ( y , y $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = p(\mathbf{y} | \mathbf{f})$$ $(\mathbf{y}, \mathbf{y}^*)$ $$p(\mathbf{y}, \mathbf{y}^* | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}((\mathbf{f}, \mathbf{f}^*), \sigma^2_{noise} I).$$ $\mathbf{y}^*$y y ∗ p ( y | f , f ∗ ) = N ( f , σ 2 n o i s e I ) = p ( y | f ) $(\mathbf{y}, \mathbf{y}^*)$, ya que la matriz de covarianza es diagonal, y los vectores y son independientes. Al hacer esto obtenemos: $\mathbf{y}$$\mathbf{y}^*$ $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}(\mathbf{f}, \sigma^2_{noise} I) = p(\mathbf{y} | \mathbf{f}).$$