¿MCMC no tiene memoria?

18

Estoy tratando de entender qué es la cadena de Markov Monte Carlo (MCMC) de la página de Wikipedia en francés. Dicen "que los métodos de Monte Carlo de la cadena de Markov consisten en generar un vector solo a partir de los datos del vector lo tanto, es un proceso" sin memoria "" $x_ {i}$ $x_ {i-1}$

Les méthodes de Monte-Carlo por chaînes de Markov coherente con el generador de vectores unicidad de la donnée du vecteur ; c'est donc un processus «sin memoria», $x_{i}$ $x_{{i-1}}$

No entiendo por qué dicen que MCMC están "sin memoria" en la medida en que usamos la información de los datos vectoriales para generar . $x_ {i-1}$ $x_i$

mcmc

— IggyPass
fuente

3

Porque no tiene que "recordar" nada sobre el proceso, excepto el último estado de la cadena. Supongo que todavía necesitas algo de memoria, pero es solo una pieza de información.

— user2974951

x_{i - 1}

$x_{i-1}$ no se "recuerda"; Es la entrada explícita.

— Chepner

28

La característica definitoria de una cadena de Markov es que la distribución condicional de su valor presente condicional a los valores pasados depende solo del valor anterior . Por lo tanto, cada cadena de Markov está "sin memoria" en la medida en que solo el valor anterior afecta la probabilidad condicional actual, y todos los estados anteriores están "olvidados". (Tiene razón en que no está completamente sin memoria; después de todo, la distribución condicional del valor presente depende del valor anterior). Eso es cierto para MCMC y también para cualquier otra cadena de Markov.

— Reinstalar a Mónica
fuente

99

Si lleva esto un paso adelante, puede decir que la distribución condicional de sus valores futuros condicional en los valores pasados y presentes depende solo del valor presente y, en ese sentido, la memoria del pasado no es necesaria mientras se conozca la posición actual

— Henry

Excepto que siempre puede ajustar el espacio de estado para almacenar cualquier cantidad finita de información sobre el pasado. Todavía es Markovian, por ejemplo, depende de sus últimos diez estados, ya que puede expandir el espacio de estado para incluir esa información en "el estado anterior".

— David Richerby

15

Si bien tenemos la respuesta correcta, me gustaría ampliar un poco la semántica intuitiva de la declaración. Imagine que redefinimos nuestros índices de modo que genere el vector partir del vector . Ahora, el momento se ve metafóricamente como "el presente", y todos los vectores que vienen "antes que" son irrelevantes para calcular el próximo en el futuro. $x_{i+1}$ $x_{i}$ $i$ $x_{i}$

A través de esta simple numeración, se vuelve "completamente sin memoria" en el sentido intuitivo, es decir, no importa en absoluto cómo el sistema de Markov llegó a estar en su estado actual . El estado presente solo determina los estados futuros , sin utilizar ninguna información de estados pasados ( ). $x_{i-n}$

Un punto quizás más sutil: la palabra "memoria" también se usa porque esto también significa que no se pueden inferir estados pasados del estado actual. Una vez que esté en , no sabrá qué sucedió "antes" durante . Esto es lo opuesto a los sistemas que codifican el conocimiento de estados pasados en el estado presente. $x_{i}$ $x_{i-n}$

— rumtscho
fuente

5

Te despiertas. No tienes idea de cómo llegaste a donde estás. Mire a su alrededor y tome una decisión sobre qué hacer a continuación basándose únicamente en la información que tiene disponible en ese momento. Esa es esencialmente la misma situación que lo que está sucediendo en MCMC.

Está utilizando la información actual que puede ver actualmente para tomar una decisión sobre qué hacer a continuación. En lugar de pensar en ello como descifrar de (que podría ser lo que le está causando problemas porque está pensando "oye, estamos mirando el pasado cuando miramos ) piense en ello como averiguar qué debe basarse en la información actual para la cual no necesita ninguna 'memoria'. Esas dos formulaciones son equivalentes pero podrían ayudarlo a pensar en la semántica Un poco mejor. $x_{i}$ $x_{i-1}$ $x_{i-1}$ $x_{i+1}$ $x_i$

— Razón
fuente

2

Llamémoslo el método de la resaca

— IggyPass

@ThePassenger Llámalo como quieras. Solo pasa la aspirina.

— Dason