Autocorrelación de procesos AR (1) independientes concatenados

Dejar $\left\{X_t\right\}$ ser un proceso estocástico formado mediante la concatenación de dibujos iid de un proceso AR (1), donde cada dibujo es un vector de longitud 10. En otras palabras, $\left\{X_1, X_2, \ldots, X_{10}\right\}$ son realizaciones de un proceso AR (1); $\left\{X_{11}, X_{12}, \ldots, X_{20}\right\}$se extraen del mismo proceso, pero son independientes de las primeras 10 observaciones; etcétera.

¿Cuál será el ACF de $X$ -- llámalo $\rho\left(l\right)$-- ¿parece? Esperaba que fuera cero para los retrasos de longitud ya que, por supuesto, cada bloque de 10 observaciones es independiente de todos los demás bloques.$\rho\left(l\right)$$l \geq 10$

Sin embargo, cuando simulo datos, obtengo esto:

simulate_ar1 <- function(n, burn_in=NA) {
    return(as.vector(arima.sim(list(ar=0.9), n, n.start=burn_in)))
}

simulate_sequence_of_independent_ar1 <- function(k, n, burn_in=NA) {
    return(c(replicate(k, simulate_ar1(n, burn_in), simplify=FALSE), recursive=TRUE))
}

set.seed(987)
x <- simulate_sequence_of_independent_ar1(1000, 10)
png("concatenated_ar1.png")
acf(x, lag.max=100)  # Significant autocorrelations beyond lag 10 -- why?
dev.off()

¿Por qué hay autocorrelaciones tan lejos de cero después del retraso 10?

Mi conjetura inicial fue que el quemado en arima.sim era demasiado corto, pero obtengo un patrón similar cuando configuro explícitamente, por ejemplo, burn_in = 500.

¿Qué me estoy perdiendo?

Editar : Tal vez el enfoque en concatenar AR (1) s es una distracción, un ejemplo aún más simple es este:

set.seed(9123)
n_obs <- 10000
x <- arima.sim(model=list(ar=0.9), n_obs, n.start=500)
png("ar1.png")
acf(x, lag.max=100)
dev.off()

Estoy sorprendido por los grandes bloques de autocorrelaciones significativamente distintas de cero en retrasos tan largos (donde el verdadero ACF es esencialmente cero). ¿Debo ser?$\rho(l) = 0.9^l$

Otra edición : quizás todo lo que está sucediendo aquí es que , el ACF estimado, en sí mismo está extremadamente autocorrelacionado. Por ejemplo, aquí está la distribución conjunta de , cuyos valores verdaderos son esencialmente cero ( ) :$\hat{\rho}$$\left(\hat{\rho}(60), \hat{\rho}(61)\right)$$0.9^{60} \approx 0$

## Look at joint sampling distribution of (acf(60), acf(61)) estimated from AR(1)
get_estimated_acf <- function(lags, n_obs=10000) {
    stopifnot(all(lags >= 1) && all(lags <= 100))
    x <- arima.sim(model=list(ar=0.9), n_obs, n.start=500)
    return(acf(x, lag.max=100, plot=FALSE)$acf[lags + 1])
}
lags <- c(60, 61)
acf_replications <- t(replicate(1000, get_estimated_acf(lags)))
colnames(acf_replications) <- sprintf("acf_%s", lags)
colMeans(acf_replications)  # Essentially zero
plot(acf_replications)
abline(h=0, v=0, lty=2)

Resumen ejecutivo: Parece que está confundiendo ruido con autocorrelación verdadera debido a un tamaño de muestra pequeño.

Simplemente puede confirmar esto aumentando el kparámetro en su código. Vea estos ejemplos a continuación (he usado el mismo set.seed(987)para mantener la replicabilidad):

k = 1000 (su código original)

k = 2000

k = 5000

k = 10000

k = 50000

Esta secuencia de imágenes nos dice dos cosas:

• La autocorrelación después de las primeras 10 observaciones disminuye enormemente a medida que aumenta el número de iteraciones. De hecho, con un número suficientemente grande de iteraciones, el$\hat\rho(l)$ para cualquier $l>10$convergerá a cero. Esta es la base de mi declaración al principio: que la autocorrelación que observó fue simplemente ruido.
• No obstante la observación antes mencionada de que $\hat\rho(l)$ converge a cero para cualquier $l>10$ a medida que aumenta el número de simulaciones, $\hat\rho(l)$ para cualquier $l \le 10$ en realidad permanece constante en $\hat\rho(l)=\rho(l)=0.9^l$, tal como sugeriría la construcción de su modelo.

Tenga en cuenta que me refiero a la autocorrelación observada como$\hat\rho(l)$y a la verdadera autocorrelación como$\rho(l)$.