¿Cuál es la diferencia entre la codificación automática Bayes variacional y la retropropagación estocástica para modelos generativos profundos ? ¿La inferencia en ambos métodos conduce a los mismos resultados? No conozco ninguna comparación explícita entre los dos métodos, a pesar de que ambos grupos de autores se citan entre sí.
Respuestas:
La retropropagación estocástica y la inferencia aproximada en modelos generativos profundos parecen considerar una implementación ligeramente más general de las mismas ideas. En comparación con el documento VAE, ellos:
Proponer múltiples conjuntos de variables latentes, a diferencia de VAE que tiene solo uno
considere posteriores gaussianos no diagonales, que hacen que sea más difícil optimizar