Preguntas etiquetadas con neural-networks

Parece que es posible obtener resultados similares a una red neuronal con una regresión lineal multivariada en algunos casos, y la regresión lineal multivariada es súper rápida y fácil. ¿En qué circunstancias pueden las redes neuronales dar mejores resultados que la regresión lineal multivariada?

54 regression  multiple-regression  neural-networks 

Entiendo cómo artificial neural network (ANN)se puede entrenar de forma supervisada usando la propagación hacia atrás para mejorar el ajuste al disminuir el error en las predicciones. He oído que un ANN se puede utilizar para el aprendizaje no supervisado, pero ¿cómo se puede hacer sin una función de costo …

53 clustering  neural-networks  unsupervised-learning  self-organizing-maps 

En la mayoría de los códigos de Tensorflow, he visto que Adam Optimizer se usa con una tasa de aprendizaje constante de 1e-4(es decir, 0,0001). El código generalmente tiene el siguiente aspecto: ...build the model... # Add the optimizer train_op = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # Add the ops to initialize variables. These …

53 neural-networks  deep-learning  gradient-descent  tensorflow  adam 

Muchos autores de artículos que leí afirman que las SVM son una técnica superior para enfrentar su problema de regresión / clasificación, conscientes de que no podrían obtener resultados similares a través de las NN. A menudo, la comparación establece que SVM, en lugar de NN, Tener una fuerte teoría …

52 machine-learning  svm  neural-networks 

Entiendo que el descenso de gradiente estocástico puede usarse para optimizar una red neuronal usando la propagación hacia atrás actualizando cada iteración con una muestra diferente del conjunto de datos de entrenamiento. ¿Qué tan grande debe ser el tamaño del lote?

49 machine-learning  neural-networks  gradient-descent  backpropagation 

Dado que estamos utilizando la función logística para transformar una combinación lineal de la entrada en una salida no lineal, ¿cómo se puede considerar la regresión logística como un clasificador lineal? La regresión lineal es como una red neuronal sin la capa oculta, entonces, ¿por qué las redes neuronales se …

49 logistic  classification  neural-networks 

Hay redes neuronales recurrentes y redes neuronales recursivas. Ambos generalmente se denotan con el mismo acrónimo: RNN. Según Wikipedia , los NN recurrentes son de hecho NN recursivos, pero realmente no entiendo la explicación. Además, no parece encontrar cuál es mejor (con ejemplos más o menos) para el procesamiento del …

48 machine-learning  neural-networks  deep-learning  natural-language 

En los últimos años, las redes neuronales convolucionales (CNN) se han convertido en el estado del arte para el reconocimiento de objetos en la visión por computadora. Por lo general, una CNN consta de varias capas convolucionales, seguidas de dos capas completamente conectadas. Una intuición detrás de esto es que …

46 machine-learning  neural-networks  svm  deep-learning  conv-neural-network 

En una reciente publicación de blog de Rong Ge, se dijo que: Se cree que para muchos problemas, incluido el aprendizaje de redes profundas, casi todos los mínimos locales tienen un valor de función muy similar al óptimo global y, por lo tanto, encontrar un mínimo local es lo suficientemente …

46 machine-learning  neural-networks  optimization  deep-learning 

Gradient Descent tiene el problema de quedarse atascado en los mínimos locales. Necesitamos correr tiempos exponenciales de descenso de gradiente para encontrar mínimos globales. ¿Alguien puede decirme acerca de las alternativas de descenso de gradiente que se aplican en el aprendizaje de redes neuronales, junto con sus pros y sus …

46 machine-learning  svm  neural-networks 

He escrito un MLP simple en TensorFlow que está modelando un XOR-Gate . Entonces para: input_data = [[0., 0.], [0., 1.], [1., 0.], [1., 1.]] debería producir lo siguiente: output_data = [[0.], [1.], [1.], [0.]] La red tiene una capa de entrada, una capa oculta y una capa de salida …

45 machine-learning  neural-networks  error  gradient-descent  supervised-learning 

Estoy familiarizado con los algoritmos básicos de descenso de gradiente para entrenar redes neuronales. He leído el documento que propone a Adam: ADAM: UN MÉTODO PARA LA OPTIMIZACIÓN ESTOCÁSTICA . Si bien definitivamente tengo algunas ideas (al menos), el documento parece tener un nivel demasiado alto para mí en general. …

45 neural-networks  optimization  gradient-descent  adam 

Estoy tratando de entender la parte de convolución de las redes neuronales convolucionales. Mirando la siguiente figura: No tengo problemas para comprender la primera capa de convolución donde tenemos 4 núcleos diferentes (de tamaño ), que convolucionamos con la imagen de entrada para obtener 4 mapas de características.k×kk×kk \times k …

44 machine-learning  neural-networks  deep-learning  conv-neural-network 

Si bien la elección de las funciones de activación para la capa oculta es bastante clara (principalmente sigmoide o tanh), me pregunto cómo decidir la función de activación para la capa de salida. Las opciones comunes son funciones lineales, funciones sigmoideas y funciones softmax. Sin embargo, ¿cuándo debo usar cuál?

44 neural-networks 

Quiero aprender redes neuronales. Soy un lingüista computacional. Conozco enfoques estadísticos de aprendizaje automático y puedo codificar en Python. Estoy buscando comenzar con sus conceptos y conocer uno o dos modelos populares que pueden ser útiles desde una perspectiva de Lingüística Computacional. Navegué por la web como referencia y encontré …

43 neural-networks  deep-learning  references  natural-language  computer-vision