Tratando de entender el proceso gaussiano

Estoy leyendo el libro GPML y en el Capítulo 2 (página 15) , me dice cómo hacer una regresión usando el Proceso Gaussiano (GP), pero me cuesta entender cómo funciona.

En la inferencia bayesiana para modelos paramétricos, primero elegimos un previo en los parámetros del modelo $\theta$, es decir $p(\theta)$; segundo, dados los datos de entrenamiento$D$, calculamos la probabilidad $p(D|\theta)$; y finalmente tenemos la parte posterior de$\theta$ como $p(\theta|D)$, que se utilizará en la distribución predictiva

$$p(y^*|x^*,D)=\int p(y^*|x^*,\theta)p(\theta|D)d\theta$$ , y lo anterior es lo que hacemos en inferencia bayesiana para modelos paramétricos, ¿verdad?

Bueno, como se dice en el libro, GP no es paramétrico, y hasta donde yo entiendo, después de especificar la función media $m(x)$y la función de covarianza $k(x,x')$, tenemos una función GP over $f$,

$$f \sim GP(m,k)$$ , y este es el previo de$f$. Ahora tengo un conjunto de datos de entrenamiento sin ruido $$D=\{(x_1,f_1),...,(x_n,f_n)\}$$ ， Pensé que debería calcular la probabilidad $p(D|f)$y luego el posterior $p(f|D)$, y finalmente use la parte posterior para hacer predicciones.

¡SIN EMBARGO, eso no es lo que hace el libro! Quiero decir, después de especificar el previo$p(f)$, no calcula la probabilidad y la posterior, sino que va directamente a la predicción predictiva.

Pregunta:

1) ¿Por qué no calcular la probabilidad y posterior? ¿Solo porque GP no es paramétrico, entonces no hacemos eso?

2) Como se hace en el libro (página 15 ~ 16), deriva la distribución predictiva a través de la distribución conjunta del conjunto de datos de entrenamiento$\textbf f$ y conjunto de datos de prueba $\textbf f^*$, que se denomina conjunto previo . Muy bien, esto me confunde mucho, ¿por qué juntarlos?

3) Vi algunos artículos llamar $f$la variable latente , ¿por qué?

y lo anterior es lo que hacemos en inferencia bayesiana para modelos paramétricos, ¿verdad?

El libro está usando el promedio de modelo bayesiano, que es el mismo para los modelos paramétricos o cualquier otro método bayesiano, dado que tiene un valor posterior sobre sus parámetros.

Ahora tengo un conjunto de datos de entrenamiento sin ruido

No necesita ser 'sin ruido'. Ver páginas posteriores.

¡SIN EMBARGO, eso no es lo que hace el libro! Quiero decir, después de especificar la p (f) anterior, no calcula la probabilidad y la posterior, sino que simplemente va directamente a la predicción predictiva.

Vea esto: https://people.cs.umass.edu/~wallach/talks/gp_intro.pdf

Creo que en la página 17 tenemos la probabilidad anterior y posterior. Creo que si escribe las derivaciones y encuentra el posterior, y luego promedia sobre el posterior para la predicción (como en la vista del espacio de peso) dará como resultado las mismas ecuaciones que en la página 19 para la media y la covarianza.