Autocorrélation de processus AR (1) indépendants concaténés

Soit un processus stochastique formé en concaténant les tirages iid d'un processus AR (1), où chaque tirage est un vecteur de longueur 10. En d'autres termes, sont des réalisations d'un processus AR (1); sont tirés du même processus, mais sont indépendants des 10 premières observations; etc.$\left\{X_t\right\}$$\left\{X_1, X_2, \ldots, X_{10}\right\}$$\left\{X_{11}, X_{12}, \ldots, X_{20}\right\}$

À quoi ressemblera l'ACF de - appelez-le ? Je m'attendais à ce que soit nul pour les retards de longueur$X$$\rho\left(l\right)$$\rho\left(l\right)$$l \geq 10$ puisque, par hypothèse, chaque bloc de 10 observations est indépendant de tous les autres blocs.

Cependant, lorsque je simule des données, j'obtiens ceci:

simulate_ar1 <- function(n, burn_in=NA) {
    return(as.vector(arima.sim(list(ar=0.9), n, n.start=burn_in)))
}

simulate_sequence_of_independent_ar1 <- function(k, n, burn_in=NA) {
    return(c(replicate(k, simulate_ar1(n, burn_in), simplify=FALSE), recursive=TRUE))
}

set.seed(987)
x <- simulate_sequence_of_independent_ar1(1000, 10)
png("concatenated_ar1.png")
acf(x, lag.max=100)  # Significant autocorrelations beyond lag 10 -- why?
dev.off()

Pourquoi y a-t-il des autocorrélations si loin de zéro après le décalage 10?

Ma supposition initiale était que le burn-in dans arima.sim était trop court, mais j'obtiens un modèle similaire lorsque je définis explicitement par exemple burn_in = 500.

Qu'est-ce que je rate?

Edit : Peut-être que l'accent sur la concaténation des AR (1) est une distraction - un exemple encore plus simple est le suivant:

set.seed(9123)
n_obs <- 10000
x <- arima.sim(model=list(ar=0.9), n_obs, n.start=500)
png("ar1.png")
acf(x, lag.max=100)
dev.off()

Je suis surpris par les gros blocs d'autocorrélations significativement non nulles à de si longs décalages (où le véritable ACF $\rho(l) = 0.9^l$est essentiellement nul). Dois-je l'être?

Un autre Edit : peut-être que tout ce qui se passe ici est que$\hat{\rho}$, l'ACF estimé, est lui-même extrêmement autocorrélé. Par exemple, voici la distribution conjointe de$\left(\hat{\rho}(60), \hat{\rho}(61)\right)$, dont les vraies valeurs sont essentiellement nulles ($0.9^{60} \approx 0$):

## Look at joint sampling distribution of (acf(60), acf(61)) estimated from AR(1)
get_estimated_acf <- function(lags, n_obs=10000) {
    stopifnot(all(lags >= 1) && all(lags <= 100))
    x <- arima.sim(model=list(ar=0.9), n_obs, n.start=500)
    return(acf(x, lag.max=100, plot=FALSE)$acf[lags + 1])
}
lags <- c(60, 61)
acf_replications <- t(replicate(1000, get_estimated_acf(lags)))
colnames(acf_replications) <- sprintf("acf_%s", lags)
colMeans(acf_replications)  # Essentially zero
plot(acf_replications)
abline(h=0, v=0, lty=2)

Résumé: Il semble que vous confondiez le bruit avec une véritable autocorrélation en raison de la petite taille de l'échantillon.

Vous pouvez simplement le confirmer en augmentant le kparamètre dans votre code. Voir ces exemples ci-dessous (j'ai utilisé votre même set.seed(987)partout pour maintenir la réplicabilité):

k = 1000 (votre code d'origine)

k = 2000

k = 5000

k = 10000

k = 50000

Cette séquence d'images nous dit deux choses:

• L'autocorrélation après les 10 premières observations diminue considérablement à mesure que le nombre d'itérations augmente. En effet, avec un nombre d’itérations suffisamment important,$\hat\rho(l)$ pour toute $l>10$convergera vers zéro. C'est la base de ma déclaration au début - que l'autocorrélation que vous avez observée n'était que du bruit.
• Nonobstant l'observation susmentionnée selon laquelle $\hat\rho(l)$ converge vers zéro pour tout $l>10$ à mesure que le nombre de simulations augmente, $\hat\rho(l)$ pour toute $l \le 10$ reste en fait constante à $\hat\rho(l)=\rho(l)=0.9^l$, comme le suggère la construction de votre modèle.

Notez que je me réfère à l' autocorrélation observée comme$\hat\rho(l)$et à la véritable autocorrélation comme$\rho(l)$.