Preguntas etiquetadas con neural-networks

Estoy tratando de entrenar una red neuronal profunda para la clasificación, utilizando la propagación inversa. Específicamente, estoy usando una red neuronal convolucional para la clasificación de imágenes, usando la biblioteca Tensor Flow. Durante el entrenamiento, estoy experimentando un comportamiento extraño, y me pregunto si esto es típico o si puedo …

10 machine-learning  classification  neural-networks  conv-neural-network  tensorflow 

Supongamos que tengo una red neuronal simple de una sola capa, con n entradas y una única salida (tarea de clasificación binaria). Si configuro la función de activación en el nodo de salida como una función sigmoidea, entonces el resultado es un clasificador de Regresión logística. En este mismo escenario, …

10 neural-networks  svm 

Los problemas de clasificación con límites no lineales no se pueden resolver con un simple perceptrón . El siguiente código R tiene fines ilustrativos y se basa en este ejemplo en Python): nonlin <- function(x, deriv = F) { if (deriv) x*(1-x) else 1/(1+exp(-x)) } X <- matrix(c(-3,1, -2,1, -1,1, …

10 r  neural-networks  svm  kernel-trick  perceptron 

Estoy viendo la función de costo de entropía cruzada que se encuentra en este tutorial : C=−1n∑x[ylna+(1−y)ln(1−a)]C=−1n∑x[yln⁡a+(1−y)ln⁡(1−a)]C = -\frac{1}{n} \sum_x [y \ln a+(1−y)\ln(1−a)] ¿Qué estamos resumiendo exactamente? Por supuesto, está sobre xxx , pero yyy y aaa no cambian con xxx . Todas las xxx son entradas en el uno …

10 neural-networks  error-propagation 

Me preguntaba si era posible entrenar un SVM (digamos uno lineal, para facilitar las cosas) usando la propagación hacia atrás. Actualmente, estoy en un obstáculo, porque solo puedo pensar en escribir la salida del clasificador como f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b))f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b)) f(\mathbf{x};\theta,b) = \text{sgn}(\theta\cdot\mathbf{x} - (b+1)) = \text{sgn}(g(\mathbf{x};\theta,b)) Por lo tanto, cuando intentamos calcular …

10 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

Entiendo que las redes neuronales (NN) pueden considerarse aproximadores universales a ambas funciones y sus derivadas, bajo ciertos supuestos (tanto en la red como en la función para aproximar). De hecho, he realizado una serie de pruebas en funciones simples pero no triviales (p. Ej., Polinomios), y parece que realmente …

10 machine-learning  neural-networks  function  derivative 

Entiendo que el entrenamiento previo se usa para evitar algunos de los problemas con la capacitación convencional. Si uso la retropropagación con, por ejemplo, un codificador automático, sé que voy a encontrar problemas de tiempo porque la retropropagación es lenta, y también que puedo quedar atrapado en los óptimos locales …

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

En la tarea de visión por computadora, como la clasificación de objetos, con las redes neuronales convolucionales (CNN), la red proporciona un rendimiento atractivo. Pero no estoy seguro de cómo configurar los parámetros en capas convolucionales. Por ejemplo, una imagen en escala de grises ( 480x480), la primera capa convolucional …

10 neural-networks  deep-learning  conv-neural-network  computer-vision 

He escuchado un poco sobre el uso de redes neuronales para pronosticar series temporales. ¿Cómo puedo comparar qué método para pronosticar mi serie temporal (datos minoristas diarios) es mejor: auto.arima (x), ets (x) o nnetar (x). Puedo comparar auto.arima con ets por AIC o BIC. ¿Pero cómo puedo compararlos con …

10 r  neural-networks  forecasting  arima  exponential-smoothing 

Soy nuevo en el análisis de supervivencia y recientemente aprendí que hay diferentes maneras de hacerlo dado un determinado objetivo. Estoy interesado en la implementación real y la adecuación de estos métodos. Se me presentaron los modelos tradicionales de riesgo proporcional de Cox , tiempo de falla acelerado y redes …

10 r  machine-learning  survival  neural-networks  cox-model 

Llegué a una situación en la que los pesos de mi red neuronal no convergen incluso después de 500 iteraciones. Mi red neuronal contiene 1 capa de entrada, 1 capa oculta y 1 capa de salida. Son alrededor de 230 nodos en la capa de entrada, 9 nodos en la …

10 machine-learning  neural-networks 

Tanto la función logística como la desviación estándar generalmente se denotan como σσ\sigma . Voy a usar σ(x)=1/(1+exp(−x))σ(x)=1/(1+exp⁡(−x))\sigma(x) = 1/(1+\exp(-x)) y sss para la desviación estándar. Tengo una neurona logística con una entrada aleatoria cuya media μμ\mu y desviación estándar sss sé. Espero que la diferencia con respecto a la …

10 distributions  normal-distribution  neural-networks  mathematical-statistics  expected-value 

En los documentos AlphaGo Zero y AlphaZero de DeepMind , describen la adición de ruido Dirichlet a las probabilidades previas de acciones desde el nodo raíz (estado del tablero) en Monte Carlo Tree Search: Se logra una exploración adicional al agregar ruido de Dirichlet a las probabilidades anteriores en el …

10 machine-learning  neural-networks  dirichlet-distribution 

En el reciente artículo de WaveNet , los autores se refieren a su modelo como capas apiladas de convoluciones dilatadas. También producen los siguientes cuadros, que explican la diferencia entre convoluciones "regulares" y convoluciones dilatadas. Las convoluciones regulares se ven así. Esta es una convolución con un tamaño de filtro …

10 neural-networks  deep-learning  conv-neural-network  tensorflow 

Leí sobre SVM y aprendí que están resolviendo un problema de optimización y que la idea de margen máximo era muy razonable. Ahora, usando núcleos pueden encontrar incluso límites de separación no lineales, lo cual fue genial. Hasta ahora, realmente no tengo idea de cómo se relacionan las SVM (una …

10 machine-learning  neural-networks  svm  deep-learning  kernel-trick