Quiero aprender cómo funciona Gibbs Sampling y estoy buscando un buen papel básico a intermedio. Tengo experiencia en informática y conocimientos básicos de estadística.
¿Alguien ha leído buen material? donde lo aprendiste?
Gracias
Quiero aprender cómo funciona Gibbs Sampling y estoy buscando un buen papel básico a intermedio. Tengo experiencia en informática y conocimientos básicos de estadística.
¿Alguien ha leído buen material? donde lo aprendiste?
Gracias
Respuestas:
Yo comenzaría con:
Casella, George; George, Edward I. (1992). " Explicando la muestra de Gibbs ". El estadístico estadounidense 46 (3): 167-174. ( PDF GRATUITO )
Resumen : Los algoritmos intensivos en computadora, como el muestreador Gibbs, se han convertido en herramientas estadísticas cada vez más populares, tanto en el trabajo aplicado como en el teórico. Sin embargo, las propiedades de tales algoritmos a veces pueden no ser obvias. Aquí damos una explicación simple de cómo y por qué funciona la muestra de Gibbs. Establecemos analíticamente sus propiedades en un caso simple y brindamos información para casos más complicados. También hay una serie de ejemplos.
El estadístico estadounidense es a menudo una buena fuente de artículos introductorios cortos (ish) que no asumen ningún conocimiento previo del tema, aunque sí asumen que tiene los antecedentes en probabilidad y estadísticas que razonablemente se pueden esperar de un miembro del estadounidense. Statistical Association .
Un artículo en línea que realmente me ayudó a comprender Gibbs Sampling es la estimación de parámetros para el análisis de texto de Gregor Heinrich. No es un tutorial general de muestreo de Gibbs, pero lo discute en términos de asignación de dirichlet latente, un modelo bayesiano bastante popular para el modelado de documentos. Entra en las matemáticas con bastante detalle.
Uno que entra en detalles matemáticos aún más exhaustivos es el muestreo de Gibbs para los no iniciados . Y quiero decir exhaustivo, ya que supone que conoces algunos cálculos multivariados y luego expone cada paso a partir de ese punto. Entonces, aunque hay muchas matemáticas, ninguna de ellas es avanzada.
Supongo que estos serán más útiles para usted que algo que obtenga resultados más avanzados, como los que demuestran por qué el muestreo de Gibbs converge a la distribución correcta. Las referencias que señalo no prueban esto.
El libro Monte Carlo Strategies in Scientific Computing es un excelente recurso. Aborda las cosas de una manera matemáticamente rigurosa, pero puede omitir fácilmente las secciones matemáticas que no le interesan y aún así obtener toneladas de consejos prácticos. En particular, hace un buen trabajo al vincular el muestreo de Metropolis-Hastings y Gibbs, lo cual es crucial. En la mayoría de las aplicaciones, deberá dibujar a partir de una distribución posterior utilizando el muestreo de Gibbs, por lo que es útil saber cómo encaja en la lógica de Metropolis en general.