Preguntas etiquetadas con neural-networks

Estaba leyendo el artículo de FaceNet y en el tercer párrafo de la introducción dice: Los enfoques anteriores de reconocimiento facial basados ​​en redes profundas usan una capa de clasificación entrenada sobre un conjunto de identidades faciales conocidas y luego toman una capa intermedia de cuello de botella como una …

14 neural-networks  image-processing 

Estoy tratando de entender el famoso artículo "Playing Atari with Deep Reinforcement Learning" ( pdf ). No estoy claro acerca de la diferencia entre una época y un episodio . En el algoritmo , el bucle externo está sobre episodios , mientras que en la figura 2 el eje x …

14 neural-networks  terminology  reinforcement-learning  q-learning 

En algunos tutoriales descubrí que se decía que la inicialización del peso "Xavier" (documento: Comprender la dificultad de entrenar redes neuronales de alimentación profunda ) es una forma eficiente de inicializar los pesos de las redes neuronales. Para las capas completamente conectadas, había una regla general en esos tutoriales: Var(W)=2nin+nout,simpler …

14 normal-distribution  variance  neural-networks  conv-neural-network 

El teorema de aproximación universal es un resultado bastante famoso para las redes neuronales, básicamente afirmando que, bajo algunos supuestos, una función puede ser aproximada uniformemente por una red neuronal con cualquier precisión. ¿Hay algún resultado análogo que se aplique a las redes neuronales convolucionales?

14 neural-networks  conv-neural-network  approximation 

Estoy confundido con la definición de modelo no paramétrico después de leer este enlace Modelos paramétricos versus no paramétricos y responder comentarios de mi otra pregunta . Originalmente pensé que "paramétrico vs no paramétrico" significa si tenemos supuestos de distribución en el modelo (similar a la prueba de hipótesis paramétrica …

14 machine-learning  neural-networks  nonparametric  terminology  parametric 

Tengo datos sin procesar que tienen alrededor de 20 columnas (20 características). Diez de ellos son datos continuos y 10 de ellos son categóricos. Algunos de los datos categóricos pueden tener como 50 valores diferentes (Estados de EE. UU.). Después de preprocesar los datos, las 10 columnas continuas se convierten …

13 machine-learning  neural-networks  tensorflow  data-preprocessing  theano 

En el documento de 2015 de DeepMind sobre el aprendizaje de refuerzo profundo, afirma que "Los intentos anteriores de combinar RL con redes neuronales habían fracasado en gran medida debido al aprendizaje inestable". Luego, el documento enumera algunas causas de esto, en función de las correlaciones entre las observaciones. ¿Podría …

13 machine-learning  neural-networks  deep-learning  reinforcement-learning 

He leído algunos documentos sobre la creación manual de imágenes para "engañar" a una red neuronal (ver más abajo). ¿Es esto porque las redes solo modelan la probabilidad condicional ? Si una red puede modelar la probabilidad conjunta , ¿seguirán ocurriendo estos casos?p ( yEl | x)pag(yEl |X)p(y|x)p ( y, …

13 machine-learning  neural-networks  deep-learning 

Busqué en Google, Wikipedia, Google Scholar y más, pero no pude encontrar el origen de los codificadores automáticos. Quizás sea uno de esos conceptos que evolucionó muy gradualmente, y es imposible rastrear un punto de partida claro, pero aún así me gustaría encontrar algún tipo de resumen de los pasos …

13 neural-networks  autoencoders  history 

En mi opinión, los datos de entrada correlacionados deben conducir a un sobreajuste en las redes neuronales porque la red aprende la correlación, por ejemplo, el ruido en los datos. ¿Es esto correcto?

13 correlation  neural-networks  overfitting 

Al inicializar los pesos de conexión en una red neuronal de avance, es importante inicializarlos aleatoriamente para evitar cualquier simetría que el algoritmo de aprendizaje no pueda romper. La recomendación que he visto en varios lugares (por ejemplo, en el tutorial MNIST de TensorFlow ) es usar la distribución normal …

13 neural-networks  backpropagation  weights  truncated-normal 

Estaba leyendo el libro de Yoshua Bengio sobre aprendizaje profundo y dice en la página 224: Las redes convolucionales son simplemente redes neuronales que usan la convolución en lugar de la multiplicación matricial general en al menos una de sus capas. sin embargo, no estaba 100% seguro de cómo "reemplazar …

13 machine-learning  neural-networks  deep-learning  convolution 

Estoy usando una red lstm y feed-forward para clasificar el texto. Convierto el texto en vectores únicos y los introduzco en el lstm para poder resumirlo como una representación única. Luego lo alimento a la otra red. ¿Pero cómo entreno el lstm? Solo quiero clasificar en secuencia el texto, ¿debería …

13 classification  neural-networks  deep-learning  lstm 

Estoy trabajando en un pequeño proyecto en el que intentamos predecir los precios de los productos básicos (petróleo, aluminio, estaño, etc.) para los próximos 6 meses. Tengo 12 variables para predecir y tengo datos de abril de 2008 a mayo de 2013. ¿Cómo debo ir sobre predicción? He hecho lo …

13 r  time-series  forecasting  neural-networks  arima 

En la mayoría de los ejemplos que he visto hasta ahora de las redes neuronales, la red se usa para la clasificación y los nodos se transforman con una función sigmoidea. Sin embargo, me gustaría usar una red neuronal para generar un valor real continuo (de manera realista, la salida …

13 regression  neural-networks