Preguntas etiquetadas con conv-neural-network

Si tengo una red neuronal convolucional (CNN), que tiene aproximadamente 1,000,000 de parámetros, ¿cuántos datos de entrenamiento se necesitan (supongo que estoy haciendo un descenso de gradiente estocástico)? ¿Hay alguna regla general? Notas adicionales: cuando realicé el descenso de gradiente estocástico (por ejemplo, 64 parches para 1 iteración), después de …

14 machine-learning  neural-networks  deep-learning  conv-neural-network 

He visto una versión del término "invariante de permutación" de la tarea de reconocimiento de dígitos MNIST. Qué significa eso?

14 machine-learning  neural-networks  terminology  conv-neural-network  definition 

En algunos tutoriales descubrí que se decía que la inicialización del peso "Xavier" (documento: Comprender la dificultad de entrenar redes neuronales de alimentación profunda ) es una forma eficiente de inicializar los pesos de las redes neuronales. Para las capas completamente conectadas, había una regla general en esos tutoriales: Var(W)=2nin+nout,simpler …

14 normal-distribution  variance  neural-networks  conv-neural-network 

El teorema de aproximación universal es un resultado bastante famoso para las redes neuronales, básicamente afirmando que, bajo algunos supuestos, una función puede ser aproximada uniformemente por una red neuronal con cualquier precisión. ¿Hay algún resultado análogo que se aplique a las redes neuronales convolucionales?

14 neural-networks  conv-neural-network  approximation 

La topología del modelo de Google Inception se puede encontrar aquí: Google Inception Netowrk Noté que hay 3 capas softmax en este modelo (# 154, # 152, # 145), y 2 de ellas son una especie de escape temprano de este modelo. Por lo que sé, la capa softmax es …

13 deep-learning  conv-neural-network 

¿Es posible tener pesos negativos (después de suficientes épocas) para redes neuronales convolucionales profundas cuando usamos ReLU para todas las capas de activación?

13 machine-learning  neural-networks  deep-learning  conv-neural-network 

Cerrado. Esta pregunta está fuera de tema . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté en el tema de Cross Validated. Cerrado hace 9 meses . Sé que hay muchas bibliotecas para el aprendizaje automático y el aprendizaje profundo como caffe, Theano, …

13 neural-networks  deep-learning  conv-neural-network 

Aquí hay un ejemplo de código keras que lo usa: from keras.constraints import max_norm model.add(Convolution2D(32, 3, 3, input_shape=(3, 32, 32), border_mode='same', activation='relu', kernel_constraint=max_norm(3)))

12 neural-networks  regularization  conv-neural-network  optimization 

Los términos "muestreo ascendente" y "convolución de transposición" se usan cuando se está haciendo "deconvolución" (<- no es un buen término, pero déjenme usarlo aquí). Originalmente, pensé que significaban lo mismo, pero me parece que son diferentes después de leer estos artículos. alguien puede por favor aclarar? Transvolución de convolución …

12 machine-learning  neural-networks  conv-neural-network  transposed-convolution 

Estaba leyendo el artículo Aprendizaje residual profundo para el reconocimiento de imágenes y tuve dificultades para comprender con 100% de certeza lo que implica un bloqueo residual computacionalmente. Leyendo su periódico tienen la figura 2: que ilustra lo que se supone que es un Bloque residual. ¿El cálculo de un …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Lectura Profundizando en convoluciones Me encontré con una capa de DepthConcat , un bloque de construcción de los módulos de inicio propuestos , que combina la salida de múltiples tensores de diferentes tamaños. Los autores llaman a esto "Concatenación de filtro". Parece que hay una implementación para Torch , pero …

12 neural-networks  torch  conv-neural-network 

He estado mirando las conferencias CS231N de Stanford y estoy tratando de entender algunos problemas en las arquitecturas de CNN. Lo que estoy tratando de entender es si hay algunas pautas generales para elegir el tamaño del filtro de convolución y cosas como avances o ¿es esto más un arte …

12 neural-networks  deep-learning  conv-neural-network 

Estoy estudiando e intentando implementar redes neuronales convolucionales, pero supongo que esta pregunta se aplica a los perceptrones multicapa en general. Las neuronas de salida en mi red representan la activación de cada clase: la neurona más activa corresponde a la clase predicha para una entrada dada. Para considerar un …

12 neural-networks  deep-learning  conv-neural-network  nonlinear  softmax 

El siguiente ejemplo está tomado de las conferencias en deeplearning.ai muestra que el resultado es la suma del producto elemento por elemento (o "multiplicación por elementos". Los números rojos representan los pesos en el filtro: ( 1 ∗ 1 ) + ( 1 ∗ 0 ) + ( 1 ∗ …

12 deep-learning  conv-neural-network  matrix 

Quiero usar el aprendizaje profundo para entrenar una detección binaria facial / no facial, qué pérdida debo usar, creo que es SigmoidCrossEntropyLoss o Hinge-loss . ¿Es correcto, pero también me pregunto si debería usar softmax pero con solo dos clases?

11 deep-learning  loss-functions  computer-vision  conv-neural-network