Preguntas etiquetadas con neural-networks

Estoy entrenando una red neuronal convolucional simple para la regresión, donde la tarea es predecir la ubicación (x, y) de un cuadro en una imagen, por ejemplo: La salida de la red tiene dos nodos, uno para xy otro para y. El resto de la red es una red neuronal …

9 machine-learning  neural-networks  optimization  deep-learning  loss-functions 

Como muchos otros lo han hecho, descubrí que los recursos aquí y aquí son inmensamente útiles para comprender las células LSTM. Estoy seguro de que entiendo cómo fluyen y se actualizan los valores, y estoy lo suficientemente seguro como para agregar las "conexiones de mirilla" mencionadas, etc. también. En mi …

9 machine-learning  neural-networks  lstm  rnn 

Estoy pasando por los problemas en los problemas de asignación escrita de la clase de aprendizaje profundo de Stanford NLP http://cs224d.stanford.edu/assignment1/assignment1_soln Estoy tratando de entender la respuesta para 3a donde están buscando la derivada del vector para la palabra central. Suponga que se le da un vector de palabras pronosticado …

9 self-study  neural-networks  backpropagation  word2vec 

Cerrado. Esta pregunta está fuera de tema . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté en el tema de Cross Validated. Cerrado hace 10 meses . Necesito aplicar la función de activación Softmax al Perceptrón multicapa en scikit. La documentación de scikit …

9 neural-networks  scikit-learn  multi-class  softmax 

Antecedentes: estoy usando la aproximación del valor Q de la red neuronal en mi tarea de aprendizaje de refuerzo. El enfoque es exactamente el mismo que el descrito en esta pregunta , sin embargo, la pregunta en sí es diferente. En este enfoque, el número de resultados es el número …

9 machine-learning  neural-networks  reinforcement-learning  q-learning 

Mi pregunta se refiere a la relación entre la hipótesis de codificación eficiente que se describe en la página de Wikipedia sobre codificación eficiente y algoritmos de aprendizaje de redes neuronales. ¿Cuál es la relación entre la hipótesis de codificación eficiente y las redes neuronales? ¿Hay modelos de redes neuronales …

9 neural-networks  information-theory 

Estoy aprendiendo sobre el aprendizaje profundo (específicamente CNN) y cómo normalmente requiere una gran cantidad de datos para evitar el sobreajuste. Sin embargo, también me han dicho que cuanto mayor capacidad / más parámetros tiene un modelo, más datos se requieren para evitar el sobreajuste. Por lo tanto, mi pregunta …

9 machine-learning  neural-networks  deep-learning  conv-neural-network 

Supongamos que quiero entrenar una red neuronal profunda para realizar una clasificación o regresión, pero quiero saber qué tan segura será la predicción. ¿Cómo podría lograr esto? Mi idea es calcular la entropía cruzada para cada dato de entrenamiento, en función de su rendimiento de predicción en los medidores neurales …

9 machine-learning  neural-networks 

El problema es: Derive el gradiente con respecto a la capa de entrada para una sola red neuronal de capa oculta usando sigmoide para entrada -> oculto, softmax para oculto -> salida, con una pérdida de entropía cruzada. Puedo pasar la mayor parte de la derivación usando la regla de …

9 neural-networks  gradient 

De acuerdo con "Efficient Backprop" de LeCun et al (1998) , es una buena práctica normalizar todas las entradas para que estén centradas alrededor de 0 y se encuentren dentro del rango de la segunda derivada máxima. Entonces, por ejemplo, usaríamos [-0.5,0.5] para la función "Tanh". Esto es para ayudar …

9 machine-learning  neural-networks  normalization  deep-learning  multidimensional-scaling 

Estoy tratando de entender la arquitectura de los RNN. He encontrado este tutorial que ha sido muy útil: http://colah.github.io/posts/2015-08-Understanding-LSTMs/ Especialmente esta imagen: ¿Cómo encaja esto en una red de retroalimentación? ¿Es esta imagen solo otro nodo en cada capa?

9 neural-networks  lstm 

Las redes de autoencoder parecen ser mucho más difíciles que las redes MLP clasificadoras normales. Después de varios intentos de usar Lasagne, todo lo que obtengo en la salida reconstruida es algo que se asemeja en su mejor momento a un promedio borroso de todas las imágenes de la base …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

En CNN, aprenderemos los filtros para producir el mapa de características en la capa convolucional. En Autoencoder, la única unidad oculta de cada capa se puede considerar como filtro. ¿Cuál es la diferencia entre los filtros aprendidos en estas dos redes?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

Tengo entradas extremadamente escasas, por ejemplo, ubicaciones de ciertas características en una imagen de entrada. Además, cada característica puede tener múltiples detecciones (no estoy seguro si esto tendrá una relación con el diseño del sistema). Esta se presentará como una 'imagen binaria' de k canales con píxeles ENCENDIDOS que representan …

9 neural-networks  deep-learning  sparse 

Estoy comenzando mi viaje de doctorado, y el objetivo final que me propuse es desarrollar ANN que supervisen el entorno en el que trabajan y ajusten dinámicamente su arquitectura al problema en cuestión. La implicación obvia es la temporalidad de los datos: si el conjunto de datos no es continuo …

9 machine-learning  neural-networks