Preguntas etiquetadas con neural-networks

Estoy tratando de entender las diferentes arquitecturas de redes neuronales recurrentes (RNN) que se aplicarán a los datos de series temporales y me estoy confundiendo un poco con los diferentes nombres que se usan con frecuencia al describir los RNN. ¿Es la estructura de la memoria a corto plazo (LSTM) …

20 neural-networks  lstm  rnn 

En el entrenamiento de redes neuronales profundas y superficiales, ¿por qué los métodos de gradiente (p. Ej., Descenso de gradiente, Nesterov, Newton-Raphson) se usan comúnmente, en oposición a otras metaheurísticas? Por metaheurística me refiero a métodos como el recocido simulado, la optimización de colonias de hormigas, etc., que se desarrollaron …

20 neural-networks  optimization  deep-learning  gradient-descent  backpropagation 

He estado usando theano para experimentar con LSTM y me preguntaba qué métodos de optimización (SGD, Adagrad, Adadelta, RMSprop, Adam, etc.) funcionan mejor para LSTM. ¿Hay trabajos de investigación sobre este tema? Además, ¿la respuesta depende del tipo de aplicación para la que estoy usando el LSTM? Si es así, …

20 machine-learning  neural-networks  optimization  lstm 

¿Por qué no funciona la propagación hacia atrás cuando inicializa todo el peso con el mismo valor (digamos 0.5), pero funciona bien cuando se le dan números aleatorios? ¿No debería el algoritmo calcular el error y trabajar desde allí, a pesar de que los pesos son inicialmente los mismos?

20 machine-learning  neural-networks  backpropagation 

En términos de jerga de redes neuronales (y = Peso * x + sesgo), ¿cómo sabría qué variables son más importantes que otras? Tengo una red neuronal con 10 entradas, 1 capa oculta con 20 nodos y 1 capa de salida que tiene 1 nodo. No estoy seguro de cómo …

20 machine-learning  neural-networks  bias  tensorflow  theano 

Estoy trabajando en la clasificación de la etapa del sueño. Leí algunos artículos de investigación sobre este tema, muchos de ellos usaron SVM o método de conjunto. ¿Es una buena idea usar una red neuronal convolucional para clasificar la señal EEG unidimensional? Soy nuevo en este tipo de trabajo. Disculpe …

20 neural-networks  svm  conv-neural-network  signal-processing 

Tengo un problema muy simple pero no puedo encontrar una herramienta adecuada para resolverlo. Tengo una secuencia de vectores de la misma longitud. Ahora me gustaría entrenar LSTM RNN en la muestra de tren de estas secuencias y luego hacer que prediga una nueva secuencia de vectores de longitud función …

19 neural-networks  python  lstm 

Tengo curiosidad por saber qué tan importante es el nodo de sesgo para la efectividad de las redes neuronales modernas. Puedo entender fácilmente que puede ser importante en una red poco profunda con solo unas pocas variables de entrada. Sin embargo, las redes neuronales modernas, como en el aprendizaje profundo, …

19 neural-networks  deep-learning  bias-node 

RNN se puede utilizar para la predicción, o el mapeo secuencia a secuencia. Pero, ¿cómo se puede usar RNN para la clasificación? Quiero decir, le damos a una secuencia completa una etiqueta.

19 machine-learning  neural-networks  rnn 

Entiendo las capas convolucionales y de agrupación, pero no puedo ver la razón de una capa totalmente conectada en las CNN. ¿Por qué la capa anterior no está directamente conectada a la capa de salida?

19 neural-networks  deep-learning  conv-neural-network 

Para usar SVM o red neuronal, necesita transformar (codificar) variables categóricas en variables numéricas, el método normal en este caso es usar valores binarios 0-1 con el k-ésimo valor categórico transformado para ser (0,0, .. ., 1,0, ... 0) (1 está en la posición k-ésima). ¿Hay otros métodos para hacer …

19 machine-learning  neural-networks  categorical-data  svm  categorical-encoding 

A menudo escucho a personas hablando de redes neuronales como algo así como una caja negra que no entiendes lo que hace o lo que significan. ¡En realidad no puedo entender lo que quieren decir con eso! Si comprende cómo funciona la retropropagación, ¿cómo es una caja negra? ¿Significan que …

19 machine-learning  neural-networks 

Tengo una ligera confusión sobre el algoritmo de retropropagación utilizado en el perceptrón multicapa (MLP). El error se ajusta mediante la función de costo. En la retropropagación, estamos tratando de ajustar el peso de las capas ocultas. El error de salida que puedo entender, es decir, e = d - …

19 machine-learning  neural-networks  backpropagation 

Al trabajar en el problema de regresión, comencé a pensar en la representación de la función "día de la semana". Me pregunto qué enfoque funcionaría mejor: una característica valor 1/7 para el lunes; 2/7 para el martes ... 7 características: (1, 0, 0, 0, 0, 0, 0) para el lunes; …

19 machine-learning  neural-networks  feature-construction 

La pregunta puede sonar un poco extraña porque soy nuevo en la inferencia estadística y las redes neuronales. Cuando en problemas de clasificación usando redes neuronales decimos que queremos aprender una función que mapea el espacio de las entradas , al espacio de las salidas :f∗f∗f^*xxxyyy f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y …

19 machine-learning  neural-networks