Preguntas etiquetadas con softmax

De la clase de aprendizaje profundo de Udacity , el softmax de y_i es simplemente el exponencial dividido por la suma del exponencial de todo el vector Y: ¿Dónde S(y_i)está la función softmax de y_iy ees la exponencial y jes el no. de columnas en el vector de entrada Y. …

247 python  numpy  machine-learning  logistic-regression  softmax 

En la capa de salida de una red neuronal, es típico usar la función softmax para aproximar una distribución de probabilidad: Esto es costoso de calcular debido a los exponentes. ¿Por qué no simplemente realizar una transformación Z para que todas las salidas sean positivas y luego normalizar simplemente dividiendo …

160 math  neural-network  softmax 

Recientemente me encontré con tf.nn.sparse_softmax_cross_entropy_with_logits y no puedo entender cuál es la diferencia en comparación con tf.nn.softmax_cross_entropy_with_logits . ¿Es la única diferencia que los vectores de entrenamiento ytienen que codificarse en un solo uso cuando se usan sparse_softmax_cross_entropy_with_logits? Al leer la API, no pude encontrar ninguna otra diferencia en comparación …

111 neural-network  tensorflow  softmax  cross-entropy