En el contexto de un modelo predictivo o inferencial, el término "error" generalmente se refiere a la desviación de un valor real de una predicción o expectativa de ese valor. Está completamente determinado por el mecanismo de predicción y el comportamiento real de las cantidades bajo observación. La "pérdida" es una medida cuantificada de qué tan malo es obtener un error de un tamaño / dirección particular, que se ve afectado por las consecuencias negativas que se acumulan para una predicción inexacta.
Una función de error mide la desviación de un valor observable de una predicción, mientras que una función de pérdida opera en el error para cuantificar la consecuencia negativa de un error. Por ejemplo, en algunos contextos, podría ser razonable plantear que existe una pérdida de error al cuadrado , donde la consecuencia negativa de un error se cuantifica como proporcional al cuadrado del error. En otros contextos, podríamos estar más negativamente afectados por un error en una dirección particular (por ejemplo, falso positivo versus falso negativo) y, por lo tanto, podríamos adoptar una función de pérdida no simétrica.
La función de error es un objeto puramente estadístico, mientras que la función de pérdida es un objeto teórico de decisión que estamos introduciendo para cuantificar las consecuencias negativas del error. Este último se utiliza en la teoría de la decisión y la economía (generalmente a través de su opuesto: una función de utilidad cardinal).
Un ejemplo: usted es un delincuente criminal que dirige una sala de apuestas ilegales para la mafia. Cada semana tiene que pagar el 50% de las ganancias al jefe de la mafia, pero dado que dirige el lugar, el jefe depende de usted para dar una verdadera contabilidad de las ganancias. Si tiene una buena semana, podría ser capaz de sacarle un poco de dinero representando sus ganancias, pero si le paga mal al jefe, en relación con lo que sospecha que es la ganancia real, es un hombre muerto. Por lo tanto, desea predecir cuánto espera obtener y pagar en consecuencia. Idealmente, le dará exactamente lo que espera y se quedará con el resto, pero podría cometer un error de predicción y pagarle demasiado o (¡ay!) Muy poco.
π=$40,00012π=$20,000θ=$15,000θ^
Error(θ^,θ)=θ^−θ,
y (si suponemos que la pérdida es lineal en dinero) su función de pérdida es:
Loss(θ^,θ)={∞θ^−πif θ^<θ(sleep wit' da fishes)if θ^⩾θ(live to spend another week)
Este es un ejemplo de una función de pérdida asimétrica (solución discutida en los comentarios a continuación) que difiere sustancialmente de la función de error. La naturaleza asimétrica de la función de pérdida en este caso enfatiza el resultado catastrófico en el caso donde hay una subestimación del parámetro desconocido.