¿Qué es el error de Bayes en el aprendizaje automático?

http://www.deeplearningbook.org/contents/ml.html La página 116 explica el error de bayes de la siguiente manera

El modelo ideal es un oráculo que simplemente conoce la verdadera distribución de probabilidad que genera los datos. Incluso un modelo de este tipo aún incurrirá en algún error en muchos problemas, porque aún puede haber algo de ruido en la distribución. En el caso del aprendizaje supervisado, el mapeo de xay puede ser inherentemente estocástico, o y puede ser una función determinista que involucra otras variables además de las incluidas en x. El error incurrido por un oráculo al hacer predicciones de la distribución verdadera p (x, y) se llama error de Bayes.

Preguntas

1. ¿Explica el error de Bayes intuitivamente?
2. ¿Cómo es diferente del error irreducible?
3. ¿Puedo decir error total = sesgo + varianza + error de Bayes?
4. ¿Cuál es el significado de "y puede ser inherentemente estocástico"?

$y$

Por ejemplo, cuando se lanza una moneda justa, sabemos exactamente qué proceso genera el resultado (una distribución binomial). Sin embargo, si tuviéramos que predecir el resultado de una serie de lanzamientos de monedas, aún cometeríamos errores, porque el proceso es inherentemente aleatorio (es decir, estocástico).

Para responder a su otra pregunta, tiene razón al afirmar que el error total es la suma del sesgo (cuadrado), la varianza y el error irreducible. Consulte también este artículo para obtener una explicación fácil de entender de estos tres conceptos.

De https://www.cs.helsinki.fi/u/jkivinen/opetus/iml/2013/Bayes.pdf . Para la tarea de clasificación, el error bayes se define como:

$min_f=Cost(f)$

$argmin_f=Cost(f)$

$\not\equiv$

$y=f(x)=sin(x)$$\tilde{y}=y+t$$t\sim N(0, \sigma^2)$