Preguntas etiquetadas con kullback-leibler

Considere la bayesiana posterior . Asintóticamente, su máximo ocurre en la estimación MLE , que simplemente maximiza la probabilidad .θ ∣ Xθ∣X\theta\mid Xθ argmin θθ^θ^\hat \thetaargminθFθ( X)argminθfθ(X)\operatorname{argmin}_\theta\, f_\theta(X) Todos estos conceptos (antecedentes bayesianos, maximizando la probabilidad) suenan súper principios y no son en absoluto arbitrarios. No hay un registro a …

9 bayesian  maximum-likelihood  kullback-leibler 

Quiero estimar la divergencia KL entre dos distribuciones continuas f y g. Sin embargo, no puedo escribir la densidad para f o g. Puedo tomar muestras de f y g a través de algún método (por ejemplo, markov chain monte carlo). La divergencia KL de f a g se define …

9 kullback-leibler 

El índice de estabilidad de la población cuantifica el cambio de una distribución de una variable comparando muestras de datos en dos períodos de tiempo. Se usa muy comúnmente para medir cambios en los puntajes. Se calcula de la siguiente manera: 1) La muestra del período base se discretiza. Por …

9 distributions  kullback-leibler 

Tengo la siguiente serie de tiempo obtenido utilizando los datos publicados a continuación. Para un tamaño de ventana deslizante de 10, estoy tratando de calcular la divergencia KL entre el PMF de los valores dentro de la ventana deslizante actual y el PMF del historial con el objetivo final de …

9 time-series  probability  multivariate-analysis  histogram  kullback-leibler 

Entiendo dónde ocurre el paso E en el algoritmo (como se explica en la sección matemática a continuación). En mi opinión, el ingenio clave del algoritmo es el uso de la desigualdad de Jensen para crear un límite inferior a la probabilidad logarítmica. En ese sentido, tomar Expectationsimplemente se hace …

8 maximum-likelihood  optimization  expectation-maximization  latent-variable  kullback-leibler