¿Cuándo se convirtió MCMC en un lugar común?

¿Alguien sabe en qué año MCMC se convirtió en un lugar común (es decir, un método popular para la inferencia bayesiana)? Un enlace a la cantidad de artículos publicados de MCMC (revista) a lo largo del tiempo sería especialmente útil.

bayesian mcmc history

— Ethan Arenson
fuente

Dudo que alguien pueda proporcionar un solo año. Es más razonable considerar la difusión de MCMC a lo largo del tiempo. Se originó en los años 50 con el algoritmo Metropolis-Hastings, pero no vio una amplia adopción y uso hasta el advenimiento de un poder computacional relativamente económico que comenzó en los años 80. Que yo sepa, los primeros usos fueron en las tecnologías de reconocimiento facial bayesianas de la época. En segundo lugar, a partir de los años 90, el uso de MCMC se extendió a otros campos, como economía y marketing con la escuela de Chicago. Echa un vistazo a GilMC & Spiegelhalter's Practical MCMC de 1996 .

— user332577

Esta pregunta es vaga y requiere opinión (no hay una definición aceptada de lugar común o popular). Admite cualquier número de respuestas posiblemente correctas.

— Glen_b -Reinstalar Monica

@Glen_b Creo que la respuesta dada a continuación es excelente. ¿Estás en desacuerdo? ¿O escribiste tu comentario antes de esa respuesta? (Ambos solo dicen 'ayer').

— Peter Flom - Restablece a Monica

@ Peter Mine llegó antes de cualquier respuesta; coloque el mouse sobre la palabra "ayer" en cada uno (o cualquier cosa que indique un tiempo transcurrido desde la publicación) para ver la hora UTC precisa. Creo que la respuesta que indica es una buena respuesta parcial, pero la pregunta aún admitiría varias tomas completamente diferentes sin una buena base para elegir entre ellas.

— Glen_b -Reinstalar Monica

Respuestas:

Este papel de Christian (Xi'an) Robert y George Casella proporciona un buen resumen de la historia de MCMC. Del artículo (el énfasis es mío).

Lo que se puede ver razonablemente como el primer algoritmo MCMC es lo que ahora llamamos el algoritmo Metropolis, publicado por Metropolis et al. (1953) Emana del mismo grupo de científicos que produjo el método de Monte Carlo, a saber, los científicos de investigación de Los Alamos, en su mayoría físicos que trabajan en física matemática y la bomba atómica.

El algoritmo Metropolis fue generalizado más tarde por Hastings (1970) y su alumno Peskun (1973,1981)

Aunque algo alejado de la inferencia estadística en el sentido clásico y basado en técnicas anteriores utilizadas en Física estadística, el artículo de referencia de Geman y Geman (1984) llevó el muestreo de Gibbs al campo de la aplicación estadística. Este documento también es responsable del nombre de muestreo de Gibbs

En particular, Geman y Geman (1984) influyeron en Gelfand y Smith (1990) para escribir un artículo que sea el punto de partida genuino para un uso intensivo de los métodos MCMC por parte de la comunidad estadística principal . Provocó nuevos intereses en los métodos bayesianos, la computación estadística, los algoritmos y los procesos estocásticos mediante el uso de algoritmos informáticos como el muestreador Gibbs y el algoritmo Metropolis-Hastings.

Curiosamente, el artículo anterior de Tanner y Wong (1987) tenía esencialmente los mismos ingredientes que Gelfand y Smith (1990), a saber, el hecho de que simular a partir de las distribuciones condicionales es suficiente para simular asintóticamente desde la articulación. Este documento se consideró lo suficientemente importante. ser un documento de discusión en el Journal of the American Statistical Association, pero su impacto fue de alguna manera limitado, en comparación con Gelfand y Smith (1990).

No pude encontrar la cantidad de artículos publicados en el tiempo, pero aquí hay un diagrama de Google Ngram para la cantidad de menciones a lo largo del tiempo. Está más o menos de acuerdo con la idea de que MCMC se convirtió en algo común después del artículo de 1990 de Gelfand y Smith.

— knrumsey - Restablece a Monica
fuente

¡Gracias! Consideraría que 1990 es la fecha más importante en la historia de MCMC, ya que cuatro documentos de Alan Gelfand y Adrian Smith aparecieron ese mismo año en las principales revistas de Estadística e hicieron que el concepto de usar cadenas de Markov para la simulación se generalizara de repente. Recuerdo haber asistido a una charla de Adrian Smith en junio de 1989 en Seherbrooke (PQ) donde demostró la universalidad de la idea al mostrar una diapositiva con algunas líneas de código (¿Fortran?).

— Xi'an

La excelente respuesta de knrumsey da un poco de historia sobre la progresión del trabajo académico importante en MCMC. Otro aspecto que vale la pena examinar es el desarrollo de software para facilitar MCMC por parte del usuario común. Los métodos estadísticos a menudo son utilizados principalmente por especialistas hasta que se implementan en un software que permite al usuario común implementarlos sin programación. Por ejemplo, el software BUGS tuvo su primer lanzamiento en 1997. Eso no parece haber cambiado la trayectoria de crecimiento en la trama de N-Grams, pero puede haber sido una influencia para poner el método en uso común entre aquellos usuarios que lo encontraron intimidante para programar sus propias rutinas.

— Reinstalar a Mónica
fuente

Huh, hay un pequeño giro en la línea para MCMC alrededor de 1997.

— Muru

Bien visto: no estoy seguro de si sería un cambio lo suficientemente grande como para ser estadísticamente significativo, pero lo noté de todos modos.

— Vuelva a instalar a Monica el

Estimación visual, si se mantuviera la pendiente antes de 1997, habríamos visto algo así como 0.000015% alrededor de 2004 (pero el valor real es cercano a 0.0000225%). Eso es un aumento del 50%. Pero supongo que los números son demasiado pequeños de todos modos.

— muru

Quizás tengas razón, ¡buenos ojos!

— Vuelve a instalar a Monica el

hmmm, BUGS se presentó en la conferencia de Estadística Bayesiana de Valencia en 1991.

— Xi'an