Simulando el posterior de un proceso gaussiano

Por primera vez (excusa imprecisión / errores) eché un vistazo a los procesos gaussianos y, más específicamente, vi este video de Nando de Freitas . Las notas están disponibles en línea aquí .

En algún momento, extrae muestras aleatorias de una normal multivariada generada mediante la construcción de una matriz de covarianza basada en un núcleo gaussiano (exponencial de distancias cuadradas en el eje ). Estas muestras aleatorias forman los gráficos suaves anteriores que se vuelven menos dispersos a medida que los datos están disponibles. En última instancia, el objetivo es predecir modificando la matriz de covarianza y obteniendo la distribución gaussiana condicional en los puntos de interés. $10$ $x$

El código completo está disponible en un excelente resumen de Katherine Bailey aquí , que a su vez acredita un repositorio de códigos de Nando de Freitas aquí . He publicado el código de Python aquí por conveniencia.

Comienza con (en lugar de las anteriores) funciones anteriores e introduce un "parámetro de ajuste". $3$ $10$

He traducido el código a Python y [R] , incluidas las parcelas:

Aquí está el primer fragmento de código en [R] y la gráfica resultante de tres curvas aleatorias generadas a través de un núcleo gaussiano basado en la proximidad en los valores de en el conjunto de prueba: $x$

La segunda parte del código R es más complicada y comienza simulando cuatro puntos de datos de entrenamiento, lo que eventualmente ayudará a reducir la propagación entre las posibles (anteriores) curvas alrededor de las áreas donde se encuentran estos puntos de datos de entrenamiento. La simulación del valor para estos puntos de datos es como una función . Podemos ver el "ajuste de las curvas alrededor de los puntos": $y$ $\text{sin}()$

La tercera parte del código R trata de trazar la curva de los valores medios estimados (el equivalente de la curva de regresión), correspondiente a valores (ver el cálculo a continuación), y sus intervalos de confianza: $50$ ${\bf\mu}$

PREGUNTA: Quiero pedir una explicación de las operaciones que tienen lugar cuando se pasa del GP anterior al posterior.

Específicamente, me gustaría entender esta parte del código R (en el segundo fragmento) para obtener los medios y SD:

# Apply the kernel function to our training points (5 points):

K_train = kernel(Xtrain, Xtrain, param)                          #[5 x 5] matrix

Ch_train = chol(K_train + 0.00005 * diag(length(Xtrain)))        #[5 x 5] matrix

# Compute the mean at our test points:

K_trte = kernel(Xtrain, Xtest, param)                            #[5 x 50] matrix
core = solve(Ch_train) %*% K_trte                                #[5 x 50] matrix
temp = solve(Ch_train) %*% ytrain                                #[5 x 1] matrix
mu = t(core) %*% temp                                            #[50 x 1] matrix

Hay dos núcleos (uno de train ( ) v. Train ( ), llamémoslo , con su Cholesky ( ), , coloreando naranja todos los Cholesky de aquí en adelante, y el segundo del tren ( ) v test ( ) , llamémoslo ), y para generar las medias estimadas para los puntos en el conjunto de prueba, la operación es: $\bf a$ $\bf a$ K_train $\bf \Sigma_{aa}$ Ch_train $\bf \color{orange}{L_{aa}}$ $\bf a$ $\bf e$ K_trte $\bf \Sigma_{ae}$ $\hat \mu$ $50$

\begin{aligned} (Ecuación 1) & \hat{μ} & = {[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} \underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 1]}{y_{t r}} \\ dimensiones = [50 \times 1] \end{aligned}

$\begin{align} {\bf \hat \mu}&={\bf \left [ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right ]^T \, \underset{\color{blue}{[5 \times 5]}}{\color{orange}{L_{aa}}^{-1}} \, \underset{\color{blue}{[5 \times 1]}}{y_{tr}}}\bf\tag{Eq.1}\\ &\text{dimensions}=\color{red}{\left[50 \times 1\right]} \end{align}$

# Compute the standard deviation:

tempor = colSums(core^2)                                          #[50 x 1] matrix

# Notice that all.equal(diag(t(core) %*% core), colSums(core^2)) TRUE

s2 = diag(K_test) - tempor                                        #[50 x 1] matrix
stdv = sqrt(s2)                                                   #[50 x 1] matrix

\begin{aligned} (Ecuación 2) & \hat{var} & = diag (Σ_{mi mi}) - diag [{[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} [\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]] \\ = re [\begin{matrix} 1 & ... \\ 1 \\ ⋱ \\ ... & 1 \\ ... & 1 \end{matrix}] - re [{[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} [\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]] \\ dimensiones = [50 \times 1] \end{aligned}

$\begin{align} {\bf \hat{\text{var}}}&=\text{diag}\left({\bf \Sigma_{ee}}\right)-\text{diag} \left[\bf \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right]^T \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right] \right] \bf \tag{ Eq.2} \\ &=\text{d}\small{\begin{bmatrix}1&&\dots&\\&1\\&&\ddots\\&&\dots&1&\\ &&&\dots&1\end{bmatrix}}-\bf \text{d} \left[ \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right]^T \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right] \right]\\ &\text{dimensions} = \color{red}{\left[50 \times 1\right]} \end{align}$

¿Como funciona esto?

Tampoco está claro el cálculo de las líneas de color (GP posterior) en el gráfico anterior " Tres muestras del GP posterior ", donde el Cholesky de los conjuntos de prueba y entrenamiento parece unirse para generar valores normales multivariados, eventualmente agregados a : $\hat \mu$

Ch_post_gener = chol(K_test + 1e-6 * diag(n) - (t(core) %*% core))
m_prime = matrix(rnorm(n * 3), ncol = 3)
sam = Ch_post_gener %*% m_prime
f_post = as.vector(mu) + sam

\begin{aligned} (Ecuación 3) & F_{enviar} & = \hat{μ} + [\underset{[50 \times 50]}{L_{mi mi}} - [{[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} [\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]]] [\underset{[50 \times 3]}{norte (0 0, 1)}] \\ dimensiones = [50 \times 3] \end{aligned}

$\begin{align} f_{\text{post}}&=\bf \hat \mu +\small \left[ \underset{\color{blue}{[50 \times 50]}} {\color{orange}{L_{ee}}}\, \, \, - \left[ \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right]^T \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right] \right] \right] \left[\underset{\color{green}{[50 \times 3]}}{\mathscr N(0,1)}\right]\tag{Eq.3} \\ &\text{dimensions}= \color{red}{\left[50 \times 3\right]} \end{align}$

— Antoni Parellada
fuente

En el último gráfico, ¿no deberían los intervalos de confianza "pellizcar" en los puntos conocidos?

— GeoMatt22

@ GeoMatt22 Lo hacen, ¿no te parece?

— Antoni Parellada

Cuando se le da un conjunto de prueba, , los valores esperados se calcularán considerando una distribución condicional del valor de la función para estos nuevos puntos de datos, dados los puntos de datos en el conjunto de entrenamiento, . La idea expuesta en el video es que tendríamos una distribución conjunta de y (en la conferencia denotado por un asterisco, ) de la forma: $e$ $a$ $a$ $e$ $*$

[\begin{matrix} una \\ mi \end{matrix}] \sim norte ([\begin{matrix} μ_{una} \\ μ_{mi} \end{matrix}], [\begin{matrix} Σ_{una una} & Σ_{una mi} \\ {Σ_{una mi}}^{T} & Σ_{mi mi} \end{matrix}])

${\bf\begin{bmatrix} a\\ \bf e\end{bmatrix}}\sim \mathscr N\left( \begin{bmatrix}\bf \mu_a\\\mu_e \end{bmatrix}\,,\begin{bmatrix}\bf \Sigma_{aa}&\bf \Sigma_{ae} \\ {\bf \Sigma_{ae}}^T & \bf \Sigma_{ee}\end{bmatrix}\right)$ .

El condicional de una distribución gaussiana multivariada tiene una media . Ahora, teniendo en cuenta que la primera fila de la matriz de bloques de covarianzas anterior es para , pero solo para , se ser necesario para hacer las matrices congruentes en: $E({\bf x}_1 | {\bf x}_2)= {\boldsymbol \mu}_1 + \Sigma_{12} \Sigma^{-1}_{22} ({\bf x}_2- {\boldsymbol \mu}_2)$ $[50 \times 50]$ $\bf \Sigma_{aa}$ $[50 \times 5]$ $\bf \Sigma_{ae}$

mi (mi El | una) = μ_{mi} + {Σ_{una mi}}^{T} {Σ_{una una}}^{- 1} (y - μ_{una})

$E ({\bf e\vert a}) = {\bf \mu_e} + {\bf \Sigma_{ae}}^T {\bf \Sigma_{aa}}^{-1}\,\left ({\bf y}-{\bf \mu_{a}}\right)$ Debido a que el modelo está planeado con , la fórmula se simplifica muy bien en :

μ_{a} = μ_{e} = 0

${\bf \mu_{a}} = {\bf \mu_{e}}=0$

mi (mi El | una) = {Σ_{una mi}}^{T} {Σ_{una una}}^{- 1} y_{t r}

$E ({\bf e\vert a}) = {\bf \Sigma_{ae}}^T {\bf \Sigma_{aa}}^{-1}\,{\bf y_{tr}}$

Ingrese la descomposición de Cholesky (que nuevamente codificaré en naranja como en OP):

\begin{aligned} mi (mi El | una) & = {Σ_{una mi}}^{T} \underset{< - - α - - >}{{Σ_{una una}}^{- 1} y_{t r}} \\ = {Σ_{una mi}}^{T} {(L_{una una} L_{una una}^{T})}^{- 1} y_{t r} \\ = {Σ_{una mi}}^{T} L_{una una}^{- T} L_{una una}^{- 1} y_{t r} \\ (*) & = {Σ_{una mi}}^{T} L_{una una}^{- T} \underset{< - metro - >}{L_{una una}^{- 1} y_{t r}} \end{aligned}

$\begin{align*} E ({\bf e\vert a}) &= {\bf \Sigma_{ae}}^T\,\, \,\underset{\color{gray}{<--\alpha-->}}{{\bf \Sigma_{aa}}^{-1}\,{\bf y_{tr}}}\\ &={\bf \Sigma_{ae}}^T {\bf \color{orange}{(L_{aa}L_{aa}^T)}}^{-1}\,{\bf y_{tr}}\\ &= {\bf \Sigma_{ae}}^T {\bf \color{orange}{L_{aa}^{-T}L_{aa}^{-1}}}\,{\bf y_{tr}}\\ &= {\bf \Sigma_{ae}}^T {\bf \color{orange}{L_{aa}^{-T}}\,\,\,\,\,\, \underset {\color{gray}{ <-m->}}{\color{orange}{L_{aa}^{-1}}{\bf y_{tr}}}} \tag {*} \end{align*}$

Si , entonces , y terminamos con un sistema lineal que podemos resolver, obteniendo . Aquí está la diapositiva clave en la presentación original: $\bf m =\color{orange}{{\bf L_{aa}}^{-1}}\,{\bf y_{tr}}$ $\color{orange}{\bf L_{aa}} \bf m= {\bf y_{tr}}$ $\bf m$

Como , Eq. (*) es equivalente a la ecuación (1) de la ecuación en el OP: $\bf B^T A^T = (A\,B)^T$

\begin{aligned} \hat{μ} & = {[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} \underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 1]}{y_{t r}} \\ = (Σ_{una mi}^{T} L_{una una}^{- T}) (L_{una una}^{- 1} y_{t r}) \\ dimensiones = [50 \times 1] \end{aligned}

$\begin{align} {\bf \hat \mu}&={\bf \left [ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right ]^T \, \underset{\color{blue}{[5 \times 5]}}{\color{orange}{L_{aa}}^{-1}} \, \underset{\color{blue}{[5 \times 1]}}{y_{tr}}}\\ &=\bf \left( \Sigma_{ae}^T \color{orange}{ L_{aa}^{-T}} \right) \left(\color{orange}{ L_{aa}^{-1}}\, y_{tr} \right)\\ &\text{dimensions} = \color{red}{\left[50 \times 1\right]} \end{align}$

Dado que

{[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} = {\underset{[50 \times 5 5]}{Σ_{una mi}}}^{T} \underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1 T}}

$\bf \left [ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right ]^T = \underset{\color{blue}{[50 \times 5]}}{\Sigma_{ae}}^T \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1T}}\, \, \,$

Se aplicaría un razonamiento similar a la varianza, comenzando con la fórmula para la varianza condicional en un gaussiano multivariado:

v una r (X_{1} El | X_{2}) = Σ_{11} - Σ_{12} Σ_{22}^{- 1} Σ_{21}

${\rm var}({\bf x}_1|{\bf x}_2)= \Sigma_{11} -\Sigma_{12}\Sigma^{-1}_{22}\Sigma_{21}$

que en nuestro caso sería:

\begin{aligned} {var}_{{\hat{μ}}_{mi}} & = Σ_{mi mi} - Σ_{una mi}^{T} Σ_{una una}^{- 1} Σ_{una mi} \\ = Σ_{mi mi} - Σ_{una mi}^{T} {[L_{una una} L_{una una}^{T}]}^{- 1} Σ_{una mi} \\ = Σ_{mi mi} - Σ_{una mi}^{T} {[L_{una una}^{- 1}]}^{T} L_{una una}^{- 1} Σ_{una mi} \\ = Σ_{mi mi} - {[L_{una una}^{- 1} Σ_{una mi}]}^{T} L_{una una}^{- 1} Σ_{una mi} \end{aligned}

$\begin{align*} \bf \text{var}_{\hat\mu_{\bf e}} &= \bf \Sigma_{ee} - \Sigma_{ae}^T\Sigma_{aa}^{-1}\Sigma_{ae}\\ &= \bf \Sigma_{ee} - \Sigma_{ae}^T \left[ L_{aa}L_{aa}^T\right]^{-1}\Sigma_{ae}\\ &= \bf \Sigma_{ee} - \Sigma_{ae}^T \left[ L_{aa}^{-1}\right]^TL_{aa}^{-1}\Sigma_{ae}\\ &= \bf \Sigma_{ee} - \left[ L_{aa}^{-1} \Sigma_{ae}\right]^T L_{aa}^{-1}\Sigma_{ae} \end{align*}$

y llegando a la ecuación (2):

\begin{aligned} {var}_{{\hat{μ}}_{mi}} & = re [K_{mi mi} - {[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} [\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]] \\ dimensiones = [50 \times 1] \end{aligned}

$\begin{align} \text{var}_{\hat\mu_{\bf e}}&=\text{d}\left[ \bf K_{ee} - \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right]^T \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right] \right]\\ &\text{dimensions}=\color{red}{\left[50 \times 1\right]} \end{align}$

Podemos ver que la ecuación (3) en el OP es una forma de generar curvas aleatorias posteriores condicionadas a los datos (conjunto de entrenamiento), y utilizando una forma de Cholesky para generar tres sorteos aleatorios normales multivariados :

\begin{aligned} F_{enviar} & = \hat{μ} + [{var}_{{\hat{μ}}_{mi}}] [rnorm \sim (0 0, 1)] \\ = \hat{μ} + [\underset{[50 \times 50]}{L_{mi mi}} - [{[\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]}^{T} [\underset{[5 5 \times 5 5]}{{L_{una una}}^{- 1}} \underset{[5 5 \times 50]}{Σ_{una mi}}]]] [\underset{[50 \times 3]}{rand.norm's}] \\ dimensiones = [50 \times 3] \end{aligned}

$\begin{align} f_{\text{post}} &= {\bf \hat \mu} + \left[ \text{var}_{\hat\mu_{\bf e}}\right][\text{rnorm}\sim (0,1)]\\ &=\bf \hat \mu + \left[ \underset{\color{blue}{[50 \times 50]}} {\color{orange}{L_{ee}}}\, \, \, - \left[ \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right]^T \left[ \underset{\color{blue}{[5 \times 5]}} {\color{orange}{L_{aa}}^{-1}}\, \, \, \underset{\color{blue}{[5 \times 50]}}{\Sigma_{ae}} \right] \right] \right] \left[\underset{\color{green}{[50 \times 3]}}{\text{rand.norm's}}\right]\\ &\text{dimensions}= \color{red}{\left[50 \times 3\right]} \end{align}$

— Antoni Parellada
fuente

¿Es esto de un libro o papel? ¿Tiene una manera sólida de calcular la media y la varianza condicionales cuando la matriz de covarianza está EXTREMADAMENTE mal acondicionada (pero sin eliminar o fusionar ningún punto de datos casi dependiente (cercano)) con doble precisión? La precisión múltiple en el software funciona, pero tiene una desaceleración de 2.5 a 3 órdenes de magnitud frente a la doble precisión de hardware, por lo que incluso un algoritmo de precisión doble "lento" será bueno. No creo que Cholesky lo corte. No creo que incluso QR lo haga tampoco cuando la matriz de covarianza está muy mal condicionada. El uso de soluciones de fondo estándar parece necesitar una precisión ocupuple.

— Mark L. Stone