Veo que ambas funciones son parte de los métodos de minería de datos, como los regresores de aumento de gradiente . Veo que esos son objetos separados también.
¿Cómo es la relación entre ambos en general?
Veo que ambas funciones son parte de los métodos de minería de datos, como los regresores de aumento de gradiente . Veo que esos son objetos separados también.
¿Cómo es la relación entre ambos en general?
Respuestas:
Una función de decisión es una función que toma un conjunto de datos como entrada y da una decisión como salida. Cuál puede ser la decisión depende del problema en cuestión. Ejemplos incluyen:
Típicamente, hay un número infinito de funciones de decisión disponibles para un problema. Si, por ejemplo, estamos interesados en estimar la altura de los varones suecos con base en diez observaciones , podemos usar cualquiera de las siguientes funciones de decisión d ( x ) :
¿Cómo podemos determinar cuál de estas funciones de decisión usar? Una forma es utilizar una función de pérdida , que describe la pérdida (o costo) asociada con todas las decisiones posibles. Las diferentes funciones de decisión tenderán a conducir a diferentes tipos de errores. La función de pérdida nos dice qué tipo de errores deberíamos preocuparnos más. La mejor función de decisión es la función que produce la pérdida más baja esperada . Lo que se entiende por pérdida esperada depende del entorno (en particular, si estamos hablando de estadísticas frecuentistas o bayesianas ).
En resumen:
La función de pérdida es lo que se minimiza para obtener un modelo que sea óptimo en algún sentido. El modelo en sí tiene una función de decisión que se utiliza para predecir.
Por ejemplo, en clasificadores SVM: