Representación del espacio de estado de ARMA (p, q) de Hamilton


11

He estado leyendo el Capítulo 13 de Hamilton y tiene la siguiente representación de espacio de estado para un ARMA (p, q). Sea Luego, el proceso ARMA (p, q) es el siguiente: \ begin {alineado} y_t - \ mu & = \ phi_1 (y_ {t-1} - \ mu) + \ phi_2 (y_ {t-2} - \ mu) + ... + \ phi_3 (y_ {t-3} - \ mu) \\ & + \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +. .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}. \ end {alineado} Luego, define la ecuación de estado de la siguiente manera:r=max(p,q+1)

ytμ=ϕ1(yt1μ)+ϕ2(yt2μ)+...+ϕ3(yt3μ)+ϵt+θ1ϵt1+...+θr1ϵtr+1.

ξt+1=[ϕ1ϕ2ϕr1ϕr1000000010]ξt+[ϵt+100]

y la ecuación de observación como:

yt=μ+[1θ1θ2θr1]ξt.

No entiendo qué es el ξt en este caso. Porque en su representación AR (p) es [ytμyt1μytp+1μ] y en su representación MA (1) es [ϵtϵt1] .

¿Podría alguien explicarme esto un poco mejor?

Respuestas:


10

Hamilton muestra que esta es una representación correcta en el libro, pero el enfoque puede parecer un poco contradictorio. Permítanme, por lo tanto, primero dar una respuesta de alto nivel que motive su elección de modelo y luego elaborar un poco sobre su derivación.

La motivación :

Como debería quedar claro al leer el Capítulo 13, hay muchas formas de escribir un modelo dinámico en forma de espacio de estados. Por lo tanto, debemos preguntarnos por qué Hamilton eligió esta representación particular. La razón es que esta representación mantiene baja la dimensionalidad del vector de estado. Intuitivamente, pensarías (o al menos lo haría) que el vector de estado para un ARMA ( , ) debe ser al menos de dimensión . Después de todo, solo observando digamos , no podemos inferir el valor de . Sin embargo, muestra que podemos definir la representación del espacio de estados de una manera inteligente que deja el vector de dimensión de estado como máximopqp+qyt1ϵt1r=max{p,q+1}. Supongo que mantener baja la dimensionalidad del estado puede ser importante para la implementación computacional. Resulta que su representación en el espacio de estado también ofrece una buena interpretación de un proceso ARMA: el estado no observado es un AR ( ), mientras que la parte MA ( ) surge debido a un error de medición.pq

Derivación :

Ahora para la derivación. Primero tenga en cuenta que, usando la notación de operador de retraso, el ARMA (p, q) se define como: donde dejamos para , y para y omitimos ya que es al menos . Entonces, todo lo que tenemos que mostrar es que su estado y las ecuaciones de observación implican la ecuación anterior. Deje que el vector de estado sea Ahora mire el ecuación de estado Puedes comprobar que las ecuaciones a

(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt
ϕj=0j>pθj=0j>qθrrq+1
ξt={ξ1,t,ξ2,t,,ξr,t}
2rsimplemente mueva las entradas a un período más adelante y descarte en el vector de estado en . La primera ecuación, que define es, por lo tanto, la relevante. : Dado que el segundo elemento de es el primer elemento de y el tercer elemento de es el primer elemento deξi,tξi1,t+1ξr,tt+1ξi,t+1
ξ1,t+1=ϕ1ξ1,t+ϕ2ξ2,t++ϕrξr,t+ϵt+1
ξtξt1ξtξt2y así sucesivamente, podemos reescribir esto, usando la notación de operador de retraso y moviendo el polinomio de retraso al lado izquierdo (ecuación 13.1.24 en H.): Entonces el estado oculto sigue un proceso autorregresivo. De manera similar, la ecuación de observación es o Esto no se parece mucho a un ARMA hasta ahora, pero ahora viene el buena parte: multiplique la última ecuación por :
(1ϕ1LϕrLr)ξ1,t+1=ϵt+1
yt=μ+ξ1,t+θ1ξ2,t++θr1ξr1,t
ytμ=(1+θ1L++θr1Lr1)ξ1,t
(1ϕ1LϕrLr)
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)(1ϕ1LϕrLr)yt
¡Pero de la ecuación de estado (rezagada por un período), tenemos ! Entonces, lo anterior es equivalente a que es exactamente lo que necesitábamos mostrar! Entonces el sistema de observación de estado representa correctamente el ARMA (p, q). Realmente solo estaba parafraseando a Hamilton, pero espero que esto sea útil de todos modos.(1ϕ1LϕrLr)ξ1,t=ϵt
(1ϕ1LϕrLr)(ytμ)=(1+θ1L++θr1Lr1)ϵt

Sin embargo, no estoy totalmente convencido de la interpretación del estado. Cuando escribe la primera línea de la ecuación de transición de estado, parece una ecuación que entra en conflicto con el modelo asumido. También me parece extraño que asumas que los datos observados están al mismo tiempo ocultos / latentes.
Taylor

Tienes razón, el estado no es el mismo que . Gracias por señalar esto. Lo corregí, debería estar bien ahora. Por cierto, en general podríamos haber observado variables en el vector de estado, ver por ejemplo el ejemplo AR (p). Allí, la variable oculta puede considerarse como el valor del próximo período, . ytyt+1
Matthias Schmidtblaicher

¡Gracias! Pero todavía estoy confundido en cuanto a qué es en esta representación del espacio de estado. No, por ejemplo, su definición de en la ecuación 13.1.15 y 13.1.14 para un proceso AR (p) y MA (1). Mi confusión es, si pongo esto en matlab, ¿qué números obtengo en ? ξξξ
Dleal

Lo que es confuso aquí es que el modelado del espacio de estado tiene que ver con un estado oculto, mientras que con los procesos ARMA no pensamos en las variables como ocultas. La representación del espacio de estado y las técnicas de filtrado (Kalman) están motivadas por el filtrado del estado no observado. Para los procesos ARMA, solo usamos la formulación de modelos de espacio de estados para poder estimar los parámetros usando el filtro de Kalman. Por lo tanto, definimos de manera arbitraria el estado oculto en 13.1.4 como la observación del próximo período mientras que en 13.1.22, el estado es una nueva variable que no aparece en el modelo original. yt+1
Matthias Schmidtblaicher

Para responder a su pregunta sobre Matlab: si comienza desde un ARMA (p, q), el no es una variable que aparece en ese modelo. Sin embargo, la representación del espacio de estado en realidad ofrece una interpretación diferente del ARMA (p, q): el estado oculto podría ser la variable que le interesa y la estructura MA (q) surge debido a un error de medición. Puede escribir un AR (1) y agregar algo de ruido blanco para ver que surge una estructura ARMA. ξ
Matthias Schmidtblaicher

8

Esto es lo mismo que arriba, pero pensé que proporcionaría una respuesta más breve y concisa. Nuevamente, esta es la representación de Hamilton para un proceso ARMA causal ( , ), donde . Este número será la dimensión del vector de estado , y es necesario para hacer el número de filas de El estado coincide con el número de columnas de la matriz de observación. Eso significa que también tenemos que establecer coeficientes a cero siempre que el índice sea demasiado grande.pqr=max(p,q+1)r(ξt,ξt1,,ξtr+1)

  1. Ecuación de observación

ϕ(B)(ytμ)=θ(B)ϵt(causality)(ytμ)=ϕ1(B)θ(B)ϵtyt=μ+ϕ1(B)θ(B)ϵtyt=μ+θ(B)ϕ1(B)ϵt(letting ξt=ϕ1(B)ϵt)yt=μ+θ(B)ξt(this is where we need r)yt=μ+[1θ1θ2θr1][ξtξt1ξtr+1]the state vector+0.
  1. Ecuación de estado

ξt=ϕ1(B)ϵtϕ(B)ξt=ϵt(1ϕ1BϕrBr)ξt=ϵtξt=ϕ1ξt1++ϕrξtr+ϵt[ξtξt1ξt2ξtr+1]=[ϕ1ϕ2ϕ3ϕr1000010000010][ξt1ξt2ξtr]+[ϵt00].

1
Esto deja finalmente claro de dónde provienen esas ecuaciones de estado. Creo que decirlo así es didácticamente mucho mejor que simplemente dar esas ecuaciones de aparición aleatoria con la nota de que resulta correcto.
Alex

@CowboyTrader sí, es cierto. Al menos para esta representación ARMA. Hay algunos otros
Taylor

@CowboyTrader no, pero diría que es una sensación sensata porque la literatura sobre modelos de espacio de estado está sesgada hacia el filtrado. Existen ecuaciones de predicción recursiva para modelos lineales de espacio de estado gaussiano, pero obtienes el material de filtrado como una ventaja adicional.
Taylor

@CowboyTrader no dude en enviarme un correo electrónico. Sé que no todos aman las discusiones extendidas en los comentarios, por lo que podría ser más fácil hacerlo.
Taylor

Veo que está probado, pero, ¿podría ayudarme a dar algo de intuición? ¿Cuáles son las variables de estado, cuál es el vector de estado t = 0?
Frank
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.