Preguntas etiquetadas con autoencoders

Busqué en Google, Wikipedia, Google Scholar y más, pero no pude encontrar el origen de los codificadores automáticos. Quizás sea uno de esos conceptos que evolucionó muy gradualmente, y es imposible rastrear un punto de partida claro, pero aún así me gustaría encontrar algún tipo de resumen de los pasos …

13 neural-networks  autoencoders  history 

Hasta donde yo sé, tanto los autoencoders como el t-SNE se usan para la reducción de dimensionalidad no lineal. ¿Cuáles son las diferencias entre ellos y por qué debería usar uno versus otro?

12 neural-networks  deep-learning  dimensionality-reduction  autoencoders  tsne 

Al implementar un codificador automático con red neuronal, la mayoría de las personas usará sigmoide como la función de activación. ¿Podemos usar ReLU en su lugar? (Dado que ReLU no tiene límite en el límite superior, básicamente significa que la imagen de entrada puede tener píxeles mayores que 1, a …

11 machine-learning  neural-networks  deep-learning  autoencoders 

He estado implementando un VAE y he notado dos implementaciones diferentes en línea de la divergencia KL gaussiana univariada simplificada. La divergencia original según aquí es Si suponemos que nuestro anterior es una unidad gaussiana, es decir,μ2=0yσ2=1, esto se simplifica a KLloss=-log(σ1)+σ 2 1 +μ 2 1KLl o s s= …

10 inference  kullback-leibler  autoencoders  variational-bayes 

Las redes de autoencoder parecen ser mucho más difíciles que las redes MLP clasificadoras normales. Después de varios intentos de usar Lasagne, todo lo que obtengo en la salida reconstruida es algo que se asemeja en su mejor momento a un promedio borroso de todas las imágenes de la base …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

En CNN, aprenderemos los filtros para producir el mapa de características en la capa convolucional. En Autoencoder, la única unidad oculta de cada capa se puede considerar como filtro. ¿Cuál es la diferencia entre los filtros aprendidos en estas dos redes?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

Un autoencoder variacional (VAE) proporciona una forma de aprender la distribución de probabilidad relaciona una entrada con su representación latente . En particular, el codificador asigna una entrada a una distribución en . Un codificador típico generará parámetros , que representa la distribución gaussiana ; Esta distribución se utiliza como …

9 neural-networks  deep-learning  autoencoders  variational-bayes 

¿Es posible lograr resultados de vanguardia utilizando solo la propagación hacia atrás (sin entrenamiento previo )? ¿O es para que todos los enfoques de récord utilicen alguna forma de pre-entrenamiento? ¿La retropropagación sola es lo suficientemente buena?

8 deep-learning  autoencoders  deep-belief-networks  pre-training 

Acabo de comenzar a usar el paquete autoencoder en R. Las entradas a la autoencode()función incluyen lambda, beta, rho y epsilon. ¿Cuáles son los límites de estos valores? ¿Varían para cada función de activación? ¿Se llaman estos parámetros "hiperparámetros"? Suponiendo un autoencoder disperso, ¿rho = .01 es bueno para la …

8 neural-networks  optimization  deep-learning  deep-belief-networks  autoencoders