Hamiltoniano monte carlo

¿Alguien puede explicar la idea principal detrás de los métodos hamiltonianos de Monte Carlo y en qué casos arrojarán mejores resultados que los métodos de Markov Chain Monte Carlo?

Creo que la fuente más actualizada sobre Hamiltoniano Monte Carlo, sus aplicaciones prácticas y la comparación con otros métodos MCMC es este documento de revisión fechado en 2017 por Betancourt:

El último desafío para estimar las expectativas probabilísticas es cuantificar el conjunto típico de la distribución objetivo, un conjunto que se concentra cerca de una superficie compleja en el espacio de parámetros. Hamiltonian Monte Carlo genera una exploración coherente de distribuciones de objetivos uniformes al explotar la geometría del conjunto típico. Esta exploración efectiva produce no solo una mejor eficiencia computacional que otros algoritmos de Monte Carlo de la cadena de Markov, sino también garantías más sólidas sobre la validez de los estimadores resultantes. Además, el análisis cuidadoso de esta geometría facilita estrategias basadas en principios para construir automáticamente implementaciones óptimas del método, permitiendo a los usuarios concentrar su experiencia en la construcción de mejores modelos en lugar de luchar con las frustraciones de la computación estadística. Como resultado,Stan (Equipo de desarrollo de Stan, 2017).

Hamiltonian Monte Carlo ( HMC ), originalmente llamado Hybrid Monte Carlo, es una forma de Markov Chain Monte Carlo con un término de impulso y correcciones.

El "hamiltoniano" se refiere a la mecánica hamiltoniana.

El caso de uso explora estocásticamente (aleatoriamente) altas dimensiones para la integración numérica en un espacio de probabilidad.

Contraste con MCMC

La cadena de Markov llana / vainilla Monte Carlo (MCMC) usa solo el último estado para determinar el siguiente estado. Eso significa que es tan probable que avance como retroceda por el espacio que ya ha explorado.

Es probable que MCMC también se desplace fuera del área principal de interés en espacios de alta dimensión.

Esto hace que MCMC sea muy ineficiente a efectos de integración numérica en un espacio de probabilidad multidimensional.

Cómo maneja HMC estos problemas

Al agregar un término de impulso, HMC hace que la exploración del espacio de probabilidad sea más eficiente, ya que ahora es más probable que avance con cada paso a través de su espacio de probabilidad.

HMC también utiliza las correcciones de Metropolis-Hastings para garantizar que permanezca y explore la región de mayor probabilidad.

Al escribir esta respuesta, encontré que esta presentación en HMC es bastante esclarecedora.