Entropía de Rényi en infinito o entropía mínima


8

Estoy leyendo un artículo que se refiere al límite cuando n va al infinito de la entropía de Rényi. Lo define comoHn(X)=11nlog2(i=1Npin). Luego dice que el límite comones . Vi otro artículo que usa el máximo de lugar de . Creo que esto funciona con bastante facilidad si todos los son iguales (una distribución uniforme). No tengo idea de cómo probar esto para otra cosa que no sea una distribución uniforme. ¿Alguien puede mostrarme cómo se hace?log2(p1)pisp1pis

Respuestas:


7

Suponer p1=maxipi. Tenemos Por lo tanto, Como , mientras .

p1ni=1NpinNp1n.
nlogp1+logN1nHn(X)nlogp11n.
nlogN/(1n)0n/(1n)1
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.