Comment créer une chaîne de Markov avec une distribution marginale gamma et un coefficient AR (1) de

8

Je veux générer une série chronologique synthétique. La série chronologique doit être une chaîne de Markov avec une distribution marginale gamma et un paramètre AR (1) de . Puis-je le faire en utilisant simplement une distribution gamma comme terme de bruit dans un modèle AR (1), ou dois-je utiliser une approche plus sophistiquée? $\rho$

— hydrologue
source

La définition d'un processus AR (1) pourrait être clarifiée: s'agit-il d'un Markov général de premier ordre tel qu'il est écrit dans le titre ou d'un Markov de premier ordre avec une forme spécifique de transition? Dans le premier cas, serait considéré comme l'autocorrélation de premier ordre.

ρ

$\rho$

— Yves

Merci Yves. Je pense avoir une solution complète au problème, grâce au vôtre et aux autres commentaires ci-dessous. Je publierai la solution complète demain quand j'aurai le temps de l'écrire!

— hydrologue

1

Je viens de réaliser que cette question est un doublon de stats.stackexchange.com/q/180109/10479 et que ma propre réponse avait beaucoup en commun avec celle de @Glen_b. Désolé.

— Yves

3

On pourrait deviner (moi aussi au départ) que oui, mais que le processus AR (1) aura de nouveaux paramètres. Pour la forme et l'échelle , soit . Écrivez . $a$ $s$ $g_t\sim \Gamma(a,s)$ $\tilde{g}_t=g_t-E(g_t)$

Ensuite, un AR (1) se dans , peut également s'écrire Rappelez et . Par les propriétés des processus AR (1), et Résolution du système des équations des deux premiers moments d'une distribution gamma pour ses deux paramètres donne de nouveaux paramètres de forme de , et . $g_t$ $y_t=\rho y_{t-1}+g_t$

y_{t} = E (g_{t}) + ρ y_{t - 1} + {\tilde{g}}_{t}

$y_t=E(g_t)+\rho y_{t-1}+\tilde{g}_t$

E (g_{t}) = a s

$E(g_t)=as$

V a r (g_{t}) = a s^{2}

$Var(g_t)=as^2$

E (y_{t}) = \frac{une s}{1 - ρ}

$E(y_t)=\frac{as}{1-\rho}$

V une r (y_{t}) = \frac{une s^{2}}{1 - ρ^{2}}

$Var(y_t)=\frac{as^2}{1-\rho^2}$

y_{t}

$y_t$

a_{y} = E (y_{t})^{2} / V a r (y_{t})

$a_y=E(y_t)^2/Var(y_t)$

s_{y} = V a r (y_{t}) / E (y_{t})

$s_y=Var(y_t)/E(y_t)$

Cet argument est cependant incomplet car il ne montre pas que est bien . Fondamentalement, notez la représentation de sorte que peut être vu comme une série pondérée de RV gamma dégradés Ma lecture de messages comme celui-ci (voir aussi les autres réponses plus récentes) suggère que ce n'est pas une variation gamma. $y_t$ $\Gamma$ $MA(\infty)$

y_{t} = \frac{une s}{1 - ρ} + \sum_{j = 0}^{\infty} ρ^{j} {\tilde{g}}_{t},

$y_t=\frac{as}{1-\rho}+\sum_{j=0}^\infty\rho^j\tilde{g}_t,$

y_{t}

$y_t$

Cela dit, une petite simulation suggère que l'approche donne une assez bonne approximation:

n <- 50000

shape.u <- 2
scale.u <- 1
u <- rgamma(n,shape=shape.u,scale=scale.u)

rho <- 0.75
y <- arima.sim(n=n, list(ar=rho), innov = u)
hist(y, col="lightblue", freq = F, breaks = 40)

(Theoretical.mean <- shape.u*scale.u/(1-rho))
mean(y)
(Theoretical.Variance <- shape.u*scale.u^2/(1-rho^2))
var(y)

shape.y <- Theoretical.mean^2/Theoretical.Variance
scale.y <- Theoretical.Variance/Theoretical.mean

grid <- seq(0,15,0.05)  
lines(grid,dgamma(grid,shape=shape.y,scale=scale.y))

— Christoph Hanck
source

Merci @christophhank - c'est vraiment utile. Je verrai si quelqu'un d'autre intervient en attendant!

— hydrologue

Merci. Le tracé plot(grid,dgamma(grid,shape=shape.y,scale=scale.y), lwd=2, col="red", type = "l")et lines(density(y), type="l", col="lightblue", lwd=2)cependant suggère effectivement qu'il y a un écart même pour les très grands n, lorsque l'estimateur de densité de noyau de densitydevrait être OK.

— Christoph Hanck

1

Avec , la transformée de Laplace de la distribution stationnaire satisfait . Lorsque suit un gamma décalé, ne suit pas une distribution gamma. Une distribution mixte avec une masse de probabilité à 0 est requise pour .

y_{t} = ρ y_{t - 1} + ε_{t}

$y_t = \rho y_{t-1} + \varepsilon_t$

ψ (s) := E [e^{- s y}]

$\psi(s) := \text{E}[e^{-sy}]$

ψ (s) / ψ (ρ s) = E [e^{- s ε}]

$\psi(s) / \psi(\rho s) = \text{E}[e^{-s \varepsilon}]$

ε_{t}

$\varepsilon_t$

y_{t}

$y_t$

ε

$\varepsilon$

— Yves

C'est formidable de voir plus de connaissance du domaine ici qu'il n'y en a à mon avis - j'ai adapté ma réponse en conséquence.

— Christoph Hanck

3

J'ai maintenant la réponse à cette question que j'ai posée, mais cela m'amène à une autre question.

Donc, tout d'abord, la solution est la suivante:

Pour une chaîne de Markov stationnaire avec une distribution marginale , la fonction de densité de probabilité de à est donnée par: $\Gamma[\alpha, p]$ $P_t$ $x$

$f_{P_t}[x] = \frac{x^{p-1}\exp[-x/\alpha]}{\alpha^p\Gamma[p]} \quad x \geq 0$

alors le pdf conditionnel de à étant donné $ P_t = u est: $P_{t+1}$ $x$

$f_{P_{t+1}|P_t}[x|u]=\frac{1}{\alpha(1-\rho)\rho^{(p-1)/2}}\left[\frac{x}{u}\right]^{(p-1)/2}\exp\left[-\frac{x+\rho u}{\alpha(1-\rho)}\right]I_{p-1}\left[\frac{2\sqrt{\rho x u}}{\alpha(1-\rho)}\right]$

où désigne la fonction de Bessel modifiée. Cela fournit une chaîne de Markov avec une distribution marginale gamma et une structure de corrélation AR où est . $I_\nu$ $\rho(1)$ $\rho$

De plus amples détails à ce sujet sont donnés dans un excellent article de David Warren, publié en 1986 dans le Journal of Hydrology, "Outflow Skewness in non-saisonnier linear reservoirs with gamma-distribué flows" (Volume 85, pp127-137; http: // www.sciencedirect.com/science/article/pii/0022169486900806# ).

C'est génial, car cela répond à ma question initiale, cependant, les systèmes que je veux représenter avec ce PDF nécessitent la génération de séries synthétiques. Si les paramètres de forme et d'échelle de la distribution sont importants, cela est simple. Cependant, si je veux que les paramètres soient petits, je ne peux pas générer une série avec les caractéristiques appropriées. J'utilise MATLAB pour ce faire et le code est le suivant:

% specify parameters for distribution
p = 0.05;
a = 0.5;

% generate first value
u = gamrnd(p,a);

$ keep a version of the margins pdf
x = 0.00001:0.00001:6;

f = (x.^(p-1)).*(exp(-x./a))./((a.^p).*gamma(p));

% specify the correlation structure
rho = 0.5;

% store the first value
input(1,1) = u;

% generate 999 other cvalues using the conditional distribution
for i = 2:1:999

    i
    z = (2./(a.*(1-rho))).*sqrt(rho.*x.*u);

    PDF = (1./a).*(1./(1-rho)).*(rho.^(-(p-1)./2)).*((x./u).^((p-1)./2)).*...
           exp(-(x+rho.*u)./(a.*(1-rho))).*besseli(p-1,z);

    ycdf = cumsum(PDF,'omitnan')/sum(PDF,'omitnan');

    rn = rand;
    u = x(find(ycdf>rn,1));
    input(i,1) = u;

end

Si j'utilise des nombres beaucoup plus grands pour les paramètres de distribution gamma, alors le marginal ressort parfaitement, mais je dois utiliser de petites valeurs. Avez-vous des réflexions sur la façon dont je peux faire cela?

— hydrologue
source

Vous pouvez utiliser la représentation du processus stochastique plutôt que la distribution conditionnelle. Voir ma réponse stats.stackexchange.com/a/289326/10479 pour un exemple de simulation d'une chaîne de Markov de premier ordre avec une marge gamma arbitraire utilisant un processus Shot Noise.

— Yves

Merci @Yves. La raison pour laquelle je veux utiliser la distribution marginale est parce que je peux dériver des propriétés spécifiques de la série de sortie (variance, asymétrie et kurtosis) en termes de distribution d'entrée - mais j'ai du mal à générer l'entrée aléatoire à partir de la distribution conditionnelle. Si je devais suivre votre modèle de bruit de tir, les statistiques dérivées pour l'écoulement resteraient-elles les mêmes?

— hydrologue

La distribution conditionnelle du bruit de tir (SN) pourrait ne pas être disponible sous forme fermée, car des approximations de point de selle ont été proposées (recherches Google avec bruit de tir et prédiction ); ces approximations sont généralement très bonnes. La représentation SN n'implique pas d'entrées et de sorties comme dans l'article que vous avez cité, mais les sauts exponentiels peuvent être considérés comme des entrées équilibrant une perte continue, par exemple due à l'évaporation.

— Yves

2

Il existe plusieurs façons d'obtenir un processus de Markov de premier ordre avec des marges gamma. Une très bonne référence sur ce sujet est l'article de GK Grunwald, RJ Hyndman et LM Tedesko: Une vue unifiée des modèles AR (1) .

Comme vous le verrez, la "forme d'innovation" classique $y_t = \phi y_{t-1} + \varepsilon_t$ n'est pas le moyen le plus simple de spécifier la transition de Markov $p(y_t \, \vert \, y_{t-1})$ , sauf si $\phi$ est pris comme aléatoire. Utiliser des distributions bien choisies; Bêta pour $\phi$ et Gamma pour $\varepsilon_t$ , on peut obtenir une marge gamma.

Un processus AR (1) à temps continu célèbre avec une marge gamma est le processus de bruit de tir avec des étapes exponentielles, largement utilisé par exemple en hydrologie et lié au processus de Poisson. Ceci peut également être utilisé avec un échantillonnage à temps discret, il apparaît alors comme un coefficient aléatoire AR (1) avec une distribution de type mixte pour l'innovation.

— Yves
source

2

Une idée inspirée d'une copule serait de transformer un processus gaussien AR (1), par exemple

X_{t} = ϕ_{1} X_{t - 1} + w_{t}

$x_t = \phi_1 x_{t-1} + w_t$ où

w_{t}

$w_t$ est

N (0, σ_{w}^{2})

$N(0,\sigma_w^2)$ où

σ_{w}^{2} = 1 - ϕ^{2}

$\sigma_w^2=1-\phi^2$ de telle sorte que la distribution marginale de

x_{t} \sim N (0, 1)

$x_t\sim N(0,1)$ à un nouveau processus

y_{t} = F^{- 1} (Φ (x_{t}); a, s))

$y_t=F^{-1}(\Phi(x_t); a, s))$ où

F^{- 1}

$F^{-1}$ est la fonction quantile de la distribution gamma et

Φ

$\Phi$ est la fonction de densité normale standard cumulative.

Alors que le processus résultant $y_t$ aurait la propriété Markov, mais ne serait pas AR (1), cependant, car sa fonction d'autocorrélation partielle ne se coupe pas pour les décalages supérieurs à 1 comme le montre la simulation suivante:

phi <- .5
x <- arima.sim(model=list(ar=phi),n=1e+6,sd=sqrt(1-phi^2))
y <- qgamma(pnorm(x), shape=.1)
par(mfrow=c(2,1))
acf(y)
pacf(y)

Si laisser plutôt $x_t$ être AR (p) avec des coefficients appropriés, alors peut-être $y_t$ peut être fait approximativement AR (1), c'est-à-dire choisir l'ordre $p$ et $\phi_1,\dots,\phi_p$ de telle sorte que le pacf de $y_t$ devient suffisamment petit pour tous les décalages supérieurs à 1. Mais maintenant, le processus $y_t$ n'aurait plus la propriété Markov.

— Jarle Tufto
source

Merci pour tous vos commentaires - ils sont très appréciés. À la suite de vos messages réfléchis, je pense avoir une solution, que je publierai une fois que je pourrai la taper ...

— hydrologue

Les séries

y_{t}

$y_t$ est en effet une chaîne de Markov de premier ordre, et a une marge gamma (si elle est convenablement commencée). Cela ne prend tout simplement pas la forme classique de l'innovation - à mes yeux, pas une préoccupation. L'utilisation de la formule standard pour le PACF théorique est trompeuse car elle repose sur l'hypothèse de normalité, qui n'est plus valable ici.

— Yves

1

@Yves Non, la définition habituelle du pacf ne suppose pas la normalité, elle s'applique à tout processus stationnaire de covariance, y compris

y_{t}

$y_t$ comme défini ci-dessus.

— Jarle Tufto

@JarleTufto +1 Oh oui, vous avez raison. Pourtant, je crois toujours que le processus

y_{t}

$y_t$ est Markov: les propriétés de l' échantillon PACF pourraient-elles expliquer le problème que vous avez signalé sur le graphique?

— Yves

1

@JarleTufto J'ai été attiré par un piège classique mais plutôt subtil:

y_{t}

$y_t$ et

y_{t - 2}

$y_{t-2}$ n'ont pas de corrélation conditionnelle (sur

y_{t - 1}

$y_{t - 1}$ ) mais ils ont une corrélation partielle . Ainsi, le PACF pour le décalage 2 peut être différent de zéro.

— Yves