El coeficiente de Bhattacharyya se define como
DB(p,q)=∫p(x)q(x)−−−−−−−√dx
dH(p,q)dH(p,q)={1−DB(p,q)}1/2
dKL(p∥q)≥2d2H(p,q)=2{1−DB(p,q)}.
Sin embargo, esta no es la pregunta: si la distancia Bhattacharyya se define como entonces
Por lo tanto, la desigualdad entre las dos distancias es
dB(p,q)=def−logDB(p,q),
dB(p,q)=−logDB(p,q)=−log∫p(x)q(x)−−−−−−−√dx=def−log∫h(x)dx=−log∫h(x)p(x)p(x)dx≤∫−log{h(x)p(x)}p(x)dx=∫−12log{h2(x)p2(x)}p(x)dx=∫−12log{q(x)p(x)}p(x)dx=12dKL(p∥q)
dKL(p∥q)≥2dB(p,q).
Uno podría preguntarse si esta desigualdad se sigue de la primera. Sucede lo contrario: dado que
−log(x)≥1−x0≤x≤1,
tenemos el orden completo
dKL(p∥q)≥2dB(p,q)≥2dH(p,q)2.