Preguntas etiquetadas con loss-functions

He visto dos tipos de formulaciones de pérdida logística. Podemos mostrar fácilmente que son idénticos, la única diferencia es la definición de la etiqueta yyy . Formulación / notación 1, y∈{0,+1}y∈{0,+1}y \in \{0, +1\} : L ( y, βTx ) = - yIniciar sesión( p ) - ( 1 - …

23 logistic  generalized-linear-model  notation  loss-functions 

La gente dice que el margen suave SVM utiliza la función de pérdida de bisagra: . Sin embargo, la función objetivo real que SVM de margen blando intenta minimizar es \ frac {1} {2} \ | w \ | ^ 2 + C \ sum_i \ max (0,1-y_i (w ^ …

23 svm  loss-functions 

Hay un hilo similar aquí (¿ La función de costo de la red neuronal no es convexa? ) Pero no pude entender los puntos en las respuestas allí y mi razón para preguntar nuevamente con la esperanza de que esto aclare algunos problemas: Si estoy usando la función de suma …

22 machine-learning  neural-networks  optimization  loss-functions  convex 

¿Es posible controlar el costo de una clasificación errónea en el paquete R randomForest ? En mi propio trabajo, los falsos negativos (por ejemplo, fallar por error que una persona puede tener una enfermedad) son mucho más costosos que los falsos positivos. El paquete rpart permite al usuario controlar los …

21 r  classification  random-forest  loss-functions  metric 

Esta pregunta ya tiene respuestas aquí : ¿Cómo puede ser positivo el cambio en la función de costos? (1 respuesta) ¿Qué debo hacer cuando mi red neuronal no aprende? (5 respuestas) Cerrado el mes pasado . Estoy entrenando un modelo (red neuronal recurrente) para clasificar 4 tipos de secuencias. Mientras …

21 machine-learning  neural-networks  loss-functions  rnn  training-error 

La idea "fundamental" de las estadísticas para estimar los parámetros es la máxima probabilidad . Me pregunto cuál es la idea correspondiente en el aprendizaje automático. Qn 1. ¿Sería justo decir que la idea 'fundamental' en el aprendizaje automático para estimar parámetros es: 'Funciones de pérdida' [Nota: tengo la impresión …

19 machine-learning  maximum-likelihood  loss-functions  pac-learning 

Estoy tratando de comprender cuál es el propósito de la función de pérdida y no puedo entenderlo. Entonces, hasta donde yo entiendo, la función de pérdida es para introducir algún tipo de métrica con la que podamos medir el "costo" de una decisión incorrecta. Digamos que tengo un conjunto de …

19 machine-learning  loss-functions 

Trabajo en un dominio problemático donde la gente suele informar ROC-AUC o AveP (precisión promedio). Sin embargo, recientemente encontré documentos que optimizan la pérdida de registro , mientras que otros informan pérdida de bisagra . Si bien entiendo cómo se calculan estas métricas, me resulta difícil comprender las compensaciones entre …

18 loss-functions 

Con un previo plano, coinciden los estimadores ML (frecuentista - máxima verosimilitud) y MAP (Bayesiano - máximo a posteriori). Sin embargo, en términos más generales, estoy hablando de estimadores puntuales derivados como optimizadores de alguna función de pérdida. Es decir (Bayesiano) x (x^(.)=argminE(L(X−x^(y))|y) (Bayesian) x^(.)=argminE(L(X−x^(y))|y) (Bayesian) \hat x(\,. ) = …

17 bayesian  estimation  loss-functions  frequentist  decision-theory 

Estoy tratando de usar la pérdida al cuadrado para hacer una clasificación binaria en un conjunto de datos de juguete. Estoy usando mtcarsun conjunto de datos, uso millas por galón y peso para predecir el tipo de transmisión. El gráfico a continuación muestra los dos tipos de datos del tipo …

16 r  machine-learning  logistic  optimization  loss-functions 

Estoy tratando de entender mejor la pérdida de registro y cómo funciona, pero una cosa que parece que no puedo encontrar es poner el número de pérdida de registro en algún tipo de contexto. Si mi modelo tiene una pérdida de registro de 0.5, ¿es bueno? ¿Qué se considera un …

16 machine-learning  loss-functions  log-loss 

Estoy tratando de obtener una perspectiva global sobre algunas de las ideas esenciales en el aprendizaje automático, y me preguntaba si existe un tratamiento integral de las diferentes nociones de pérdida (cuadrado, log, bisagra, proxy, etc.). Estaba pensando en algo similar a una presentación más completa y formal de la …

16 references  loss-functions 

Estoy tratando de entender la función de pérdida Yolo v2: λc o o r d∑i = 0S2∑j = 0si1o b jyo j[ ( xyo- x^yo)2+ ( yyo- y^yo)2]+ λc o o r d∑i = 0S2∑j = 0si1o b jyo j[ ( wyo--√- w^yo--√)2+ ( hyo--√- h^yo--√)2]+ ∑i = 0S2∑j = …

16 neural-networks  loss-functions  object-detection  yolo 

Tensorflow tiene un tutorial de ejemplo sobre la clasificación de CIFAR-10 . En el tutorial, la pérdida de entropía cruzada promedio en todo el lote se minimiza. def loss(logits, labels): """Add L2Loss to all the trainable variables. Add summary for for "Loss" and "Loss/avg". Args: logits: Logits from inference(). labels: …

15 neural-networks  loss-functions  tensorflow 

La pérdida de bisagra se puede definir usando y la pérdida de registro se puede definir comomax ( 0 , 1 - yyowTXyo)max(0 0,1-yyowTXyo)\text{max}(0, 1-y_i\mathbf{w}^T\mathbf{x}_i)log ( 1 + exp( - yyowTXyo) )Iniciar sesión(1+Exp⁡(-yyowTXyo))\text{log}(1 + \exp(-y_i\mathbf{w}^T\mathbf{x}_i)) Tengo las siguientes preguntas: ¿Hay alguna desventaja en la pérdida de la bisagra (por ejemplo, …

14 machine-learning  svm  loss-functions  computer-vision