Necesito estudiar los métodos de Markov Chain Monte Carlo, para ser más específico, necesito estudiar el algoritmo de Metropolis Hastings y todo lo relacionado con los criterios de convergencia.
¿Quién me puede recetar un libro, un documento o un sitio web que explique este argumento usando términos simples, pero sin ser trivial?
Respuestas:
Un excelente artículo introductorio es el de Chib y Greenberg.
Entender el algoritmo de aceleración de metrópolis
Una discusión magistral y concisa de la teoría es la de Tierney
Cadenas de Markov para explorar las distribuciones posteriores
Para un libro que no es "pesado en las matemáticas", recomendaría:
Ve al Capítulo 7.
El código R se proporciona en el libro, por lo que podrá jugar con los ejemplos y ver, de manera práctica, los efectos de cambiar el número de quemados, etc.
Hay un muy buen artículo de Christian Robert que describe el algoritmo MH en detalle
Robert, CP (2015). El algoritmo Metropolis-Hastings. preimpresión de arXiv arXiv: 1504.01896.
y un gran libro sobre los métodos de Monte Carlo en general del mismo autor
Robert, C. y Casella, G. (2013). Métodos estadísticos de Monte Carlo. Springer Science & Business Media.
Con respecto a los criterios de convergencia, la mayor parte del trabajo sobre convergencia es el sentido de distancia de variación total (TV). Principalmente porque hay mucha teoría de probabilidad elaborada para la distancia de televisión. Hay un buen trabajo de encuesta y también en el lado teórico está el trabajo de Roberts y Rosenthal que ofrece varios teoremas sobre los criterios de convergencia. En el lado más práctico, hay varios documentos escritos por Jim Hobert que proporcionan ejemplos de la aplicación de uno de los teoremas de Roberts y Rosenthal a MCMC. En general, la parte difícil de aplicar ese teorema parece ser una buena función de deriva de Lyapunov.
Aquí hay una analogía cruda que he usado para dar el sabor de MHA: la próxima vez que estés en el supermercado:
Coge un artículo al azar y ponlo en tu carrito.
Agarra otro objeto con tu mano derecha.
Si el artículo en su mano tiene un precio menor que el último artículo que cargó, póngalo en su carrito.
De lo contrario, coloque el artículo en su carrito con probabilidad (precio de último) ÷ (precio en mano) de lo contrario resálvelo.
Repita los pasos 2 a 4 hasta veintinueve artículos adicionales en su carrito.
Retire los primeros 15 artículos de su carrito.
Pagar y desearle al cajero un día agradable.
Pase el carrito a su auto.
Conduce a casa.