Ciencia de los datos deep-learning

3

Me pregunto en qué situaciones es ventajoso apilar LSTM.

14 machine-learning neural-network deep-learning lstm

3

¿Cómo utilizar LeakyRelu como función de activación en la secuencia DNN en keras? ¿Cuándo funciona mejor que Relu?

¿Cómo se usa LeakyRelu como función de activación en secuencia DNN en keras? Si quiero escribir algo similar a: model = Sequential() model.add(Dense(90, activation='LeakyRelu')) ¿Cuál es la solución? ¿Poner LeakyRelu similar a Relu? La segunda pregunta es: ¿cuál es la mejor configuración general para ajustar los parámetros de LeakyRelu? ¿Cuándo …

14 deep-learning keras activation-function

4

¿Gradient Descent es central para cada optimizador?

Quiero saber si el descenso de gradiente es el algoritmo principal utilizado en optimizadores como Adam, Adagrad, RMSProp y varios otros optimizadores.

13 machine-learning neural-network deep-learning optimization gradient-descent

1

¿Cuál es la diferencia entre el muestreo ascendente y el muestreo bi-lineal en una CNN?

Estoy tratando de entender este artículo y no estoy seguro de qué es el muestreo bi-lineal. ¿Alguien puede explicar esto a un alto nivel? https://arxiv.org/abs/1606.00915

13 deep-learning convnet cnn convolution

2

Visualizando el entrenamiento profundo de la red neuronal

Estoy tratando de encontrar un equivalente de diagramas de Hinton para redes de múltiples capas para trazar los pesos durante el entrenamiento. La red entrenada es algo similar a un SRN profundo, es decir, tiene una gran cantidad de matrices de peso múltiple que harían visualmente confuso el diagrama simultáneo …

13 machine-learning neural-network visualization deep-learning

4

¿Por qué agregar una capa de abandono mejora el rendimiento del aprendizaje profundo / automático, dado que el abandono suprime algunas neuronas del modelo?

Si eliminar algunas neuronas da como resultado un modelo de mejor rendimiento, ¿por qué no utilizar una red neuronal más simple con menos capas y menos neuronas en primer lugar? ¿Por qué construir un modelo más grande y complicado al principio y suprimir partes de él más tarde?

13 machine-learning deep-learning keras regularization dropout

3

Por qué las convoluciones siempre usan números impares como filter_size

Si echamos un vistazo al 90-99% de los artículos publicados usando una CNN (ConvNet). La gran mayoría de ellos usa el tamaño de filtro de números impares : {1, 3, 5, 7} para los más utilizados. Esta situación puede generar algún problema: con estos tamaños de filtro, generalmente la operación …

13 deep-learning convnet computer-vision convolution

2

¿Por qué debería elegirse la inicialización de pesos y sesgos alrededor de 0?

Leo esto: Para entrenar nuestra red neuronal, inicializaremos cada parámetro W (l) ijWij (l) y cada b (l) ibi (l) a un pequeño valor aleatorio cercano a cero (digamos de acuerdo con Normal (0, ϵ2) Normal (0 , ϵ2) distribución para algunos pequeños ϵϵ, digamos 0.01) de los tutoriales de …

13 deep-learning stanford-nlp randomized-algorithms

1

¿Qué es una capa convolucional 1D en aprendizaje profundo?

Tengo una buena comprensión general del papel y el mecanismo de las capas convolucionales en Deep Learning para el procesamiento de imágenes en caso de implementaciones 2D o 3D: "simplemente" intentan capturar patrones 2D en imágenes (en 3 canales en caso de 3D). Pero recientemente me topé con capas convolucionales …

13 deep-learning nlp convolution

4

Intervalo de predicción alrededor del pronóstico de series de tiempo LSTM

¿Existe algún método para calcular el intervalo de predicción (distribución de probabilidad) alrededor de un pronóstico de serie temporal de una red neuronal LSTM (u otra red recurrente)? Digamos, por ejemplo, que pronostico 10 muestras en el futuro (t + 1 a t + 10), con base en las últimas …

13 machine-learning deep-learning time-series prediction lstm

3

¿En qué se diferencian las NN de aprendizaje profundo ahora (2016) de las que estudié hace solo 4 años (2012)?

Se dice en Wikipedia y deeplearning4j que los NN de aprendizaje profundo (DLNN) son NN que tienen> 1 capa oculta. Este tipo de NN era estándar en la universidad para mí, mientras que DLNN es muy publicitado en este momento. He estado allí, hecho eso, ¿cuál es el problema? También …

13 neural-network deep-learning

2

Actualización de los pesos de los filtros en una CNN

Actualmente estoy tratando de entender la arquitectura de una CNN. Entiendo la convolución, la capa ReLU, la capa de agrupación y la capa totalmente conectada. Sin embargo, todavía estoy confundido acerca de los pesos. En una red neuronal normal, cada neurona tiene su propio peso. En la capa completamente conectada, …

13 machine-learning neural-network deep-learning image-classification cnn

1

Aprendizaje multitarea en Keras

Estoy tratando de implementar capas compartidas en Keras. Veo que Keras sí keras.layers.concatenate, pero no estoy seguro de la documentación sobre su uso. ¿Puedo usarlo para crear múltiples capas compartidas? ¿Cuál sería la mejor manera de implementar una red neuronal compartida simple como se muestra a continuación utilizando Keras? Tenga …

12 machine-learning neural-network deep-learning keras multitask-learning

3

¿Debo usar GPU o CPU para inferencia?

Estoy ejecutando una red neuronal de aprendizaje profundo que ha sido entrenada por una GPU. Ahora quiero implementar esto en varios hosts para inferencia. La pregunta es ¿cuáles son las condiciones para decidir si debo usar GPU o CPU para inferencia? Agregar más detalles de los comentarios a continuación. Soy …

12 deep-learning gpu

1

Motivo de las imágenes cuadradas en el aprendizaje profundo

La mayoría de los modelos avanzados de aprendizaje profundo como VGG, ResNet, etc. requieren imágenes cuadradas como entrada, generalmente con un tamaño de píxel de .224x224224x224224x224 ¿Hay alguna razón por la cual la entrada tiene que tener la misma forma, o puedo construir un modelo de convnet con, digamos, también …

12 deep-learning image-classification image-recognition

Preguntas etiquetadas con deep-learning