Explicación intuitiva / motivación de la distribución estacionaria de un proceso.

A menudo, en la literatura, los autores han estado interesados en encontrar la distribución estacionaria de un proceso de series de tiempo. Por ejemplo, considere el siguiente proceso simple AR ( ) : donde . $1$ $\{X_t\}$

X_{t} = α X_{t - 1} + e_{t},

$X_t = \alpha X_{t-1} + e_t,$

e_{t} \overset{i i d}{\sim} f

$e_t\stackrel{iid}{\thicksim} f$

¿Cuál podría ser la motivación para encontrar la distribución estacionaria de cualquier proceso estocástico?

¿Qué otros análisis (teóricos y prácticos) se podrían hacer utilizando la distribución estacionaria resultante?

¿Cuál es (son) el (los) problema (s) si la distribución estacionaria no existe? ¿El proceso se volverá inútil?

¿Qué pasa si la distribución estacionaria existe pero no tiene una forma cerrada? ¿Cuáles son las desventajas de no tener una expresión cerrada de la misma?

— Cañas
fuente

Hasta cierto punto, creo que estamos interesados en la distribución estacionaria de un proceso AR por la misma razón por la que estamos interesados en la distribución de un proceso iid. Siempre que exista la distribución estacionaria, es entonces la distribución marginal de , que nos dice su media y varianza o intervalo de confianza en general. De hecho, solo estoy interesado en el proceso estacionario de covarianza, porque con el CLT, conozco la distribución asintótica siempre que sepa la media y la varianza.

X_{t}

$X_{t}$

— Semibruin

Existen varias motivaciones para el interés en las distribuciones estacionarias en este contexto, pero probablemente el aspecto más importante es que están estrechamente relacionadas con las distribuciones limitantes. Para la mayoría de los procesos de series temporales, existe una estrecha conexión entre la distribución estacionaria y la distribución limitante del proceso. En condiciones muy amplias, los procesos de series de tiempo basados en términos de error IID tienen una distribución estacionaria, y convergen a esta distribución estacionaria como una distribución limitante para cualquier distribución inicial que especifique. Eso significa que si deja que el proceso se ejecute durante mucho tiempo, su distribución estará cerca de la distribución estacionaria, independientemente de cómo comenzó. Por lo tanto, si tiene razones para creer que el proceso se ha estado ejecutando durante mucho tiempo,

En su pregunta, utiliza el ejemplo de un proceso de serie temporal AR ( ) con términos de error IID con una distribución marginal arbitraria. Si entonces este modelo es una cadena de Markov homogénea en el tiempo recurrente y su distribución estacionaria se puede encontrar invirtiéndola en un proceso MA ( ): $1$ $|\alpha|<1$ $\infty$

X_{t} = \sum_{k = 0}^{\infty} α^{k} e_{t - k} e_{t} \sim IID f .

$X_t = \sum_{k=0}^\infty \alpha^{k} e_{t-k} \quad \quad \quad e_t \sim \text{IID }f.$

Podemos ver que el proceso es una suma ponderada de una cadena infinita de términos de error IID, donde las ponderaciones están decayendo exponencialmente. La distribución limitante se puede obtener a partir de la distribución de error mediante una convolución apropiada para esta suma ponderada. En general, esto dependerá de la forma de y puede ser una distribución complicada. Sin embargo, vale la pena señalar que si la distribución del error no es de cola pesada, y si para que la disminución sea lenta, entonces la distribución límite estará cerca de una distribución normal, debido a la aproximación por el límite central teorema . $f$ $f$ $\alpha \approx 1$

Aplicaciones prácticas: en la mayoría de las aplicaciones del proceso de series temporales AR ( ) asumimos una distribución de error normal , lo que significa que la distribución estacionaria del proceso es : $1$ $e_t \sim \text{IID N}(0, \sigma^2)$

X_{t} \sim N (0, \frac{σ^{2}}{1 - α^{2}}) .

$X_t \sim \text{N} \Big( 0, \frac{\sigma^2}{1-\alpha^2} \Big).$

Independientemente de la distribución inicial para el proceso, esta distribución estacionaria es la distribución limitante del proceso. Si tenemos razones para creer que el proceso se ha estado ejecutando durante un período de tiempo razonable, entonces sabemos que el proceso habrá convergido cerca de esta distribución limitante, por lo que tiene sentido suponer que el proceso sigue esta distribución. Por supuesto, como con cualquier aplicación de modelado estadístico, observamos las gráficas / pruebas de diagnóstico para ver si los datos falsifican nuestra forma de modelo asumida. Sin embargo, este formulario se ajusta a una amplia clase de casos en los que se utiliza el modelo AR ( ). $1$

¿Qué sucede si no existe una distribución estacionaria? Existen ciertos procesos de series temporales en los que la distribución estacionaria no existe. Esto es más común cuando hay algún aspecto periódico fijo en la serie, o algún estado absorbente (u otras clases de estados no comunicantes). En este caso, puede que no haya una distribución limitante, o la distribución limitante podría ser una distribución marginal que se agrega a través de múltiples clases que no se comunican, lo que no es tan útil. Esto no es un problema inherente, solo significa que necesita un tipo diferente de modelo que represente correctamente la naturaleza no estacionaria del proceso. Esto es más complicado, pero la teoría estadística tiene formas y medios de lidiar con esto.

— Ben - Restablece a Monica
fuente

Muchas gracias, @Ben por la respuesta. Esto aclara algunas de mis dudas. Usted ha dicho que la distribución estacionaria puede usarse en varias aplicaciones estadísticas. ¿Significa eso que la distribución estacionaria es útil si solo tiene una forma cerrada? Si aclaras un poco más sobre lo que sucederá si la distribución estacionaria existe pero no tiene una forma explícita.

— Shanks

El caso habitual es asumir una distribución normal para los términos de error, que luego conduce a una distribución estacionaria normalmente distribuida para el proceso. Esto también tiene la ventaja de ser la distribución que se forma a partir del CLT. En el caso de que esté utilizando un modelo con una distribución estacionaria que no esté en forma cerrada, puede simularlo o tomar una aproximación utilizando mezclas de distribuciones normales. Es raro ver a alguien usar un proceso que no es normal.

— Ben - Restablece a Mónica el

Creo que la distribución estacionaria se vuelve no normal si solo complicamos un poco la función autorregresiva, digamos o .

X_{t} = α X_{t - 1}^{2} + e_{t}

$X_t = \alpha X_{t-1}^2 + e_t$

X_{t} = α | X_{t - 1} | + e_{t}

$X_t = \alpha |X_{t-1}| + e_t$

— Shanks el

Ahora tiene una forma de modelo diferente y, por lo tanto, una pregunta diferente.

— Ben - Restablece a Mónica el