Représentation dans l'espace d'états d'ARMA (p, q) de Hamilton

J'ai lu le chapitre 13 de Hamilton et il a la représentation de l'espace d'état suivante pour un ARMA (p, q). Soit .Puis le processus ARMA (p, q) est le suivant: \ begin {aligné} y_t - \ mu & = \ phi_1 (y_ {t-1} - \ mu) + \ phi_2 (y_ {t-2} - \ mu) + ... + \ phi_3 (y_ {t-3} - \ mu) \\ & + \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +. .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}. \ end {aligné} Ensuite, il définit l'équation d'état comme suit:$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

et l'équation d'observation comme:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Je ne comprends pas ce qu'est le $\xi_t$ dans ce cas. Parce que dans sa représentation AR (p), c'est $\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$ et dans sa représentation MA (1) c'est $\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$ .

Quelqu'un pourrait-il m'expliquer un peu mieux?

Hamilton montre que c'est une représentation correcte dans le livre, mais l'approche peut sembler un peu contre-intuitive. Permettez-moi donc d'abord de donner une réponse de haut niveau qui motive son choix de modélisation, puis de développer un peu sa dérivation.

La motivation :

Comme il ressort de la lecture du chapitre 13, il existe de nombreuses façons d'écrire un modèle dynamique sous forme d'espace d'état. Nous devons donc nous demander pourquoi Hamilton a choisi cette représentation particulière. La raison en est que cette représentation maintient la dimensionnalité du vecteur d'état faible. Intuitivement, vous penseriez (ou du moins je le ferais) que le vecteur d'état d'un ARMA ( , ) doit être au moins de dimension . Après tout, rien observant disons , nous ne pouvons pas déduire la valeur de . Pourtant, il montre que nous pouvons définir la représentation de l'espace d'état d'une manière intelligente qui laisse le vecteur d'état de dimension d'au plusq p + q y t - 1 ϵ t - 1 r = max { p , q + 1 } p $p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Garder la dimensionnalité de l'état faible peut être important pour l'implémentation informatique, je suppose. Il s'avère que sa représentation de l'espace d'état offre également une belle interprétation d'un processus ARMA: l'état non observé est un AR ( ), tandis que la partie MA ( ) se pose en raison d'une erreur de mesure.$p$$q$

Dérivation :

Maintenant pour la dérivation. Notez d'abord que, en utilisant la notation de l'opérateur de décalage, l'ARMA (p, q) est défini comme: où nous laissons pour , et pour et nous puisque est au moins . Donc, tout ce que nous devons montrer, c'est que ses équations d'état et d'observation impliquent l'équation ci-dessus. Soit le vecteur d'état Maintenant, regardez le équation d'état. Vous pouvez vérifier que les équations àϕ j = 0 j > p θ j = 0 j > q θ r r q +

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ 2r ξ i , t ξ i - 1 , t + 1 ξ r , t t+1 ξ i , t + 1 ξ 1 , t + 1 = ϕ 1 ξ 1 $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$déplacez simplement les entrées vers une période en avant et jetez dans le vecteur d'état à . La première équation, définissant est donc la plus pertinente. Écriture: Puisque le deuxième élément de est le premier élément de et le troisième élément de est le premier élément de$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ξ t ξ t - 1 ξ t ξ t - 2 (1- ϕ 1 L-…- ϕ r L r ) ξ 1 , t + 1 = ϵ t + 1 y $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$et ainsi de suite, nous pouvons réécrire ceci, en utilisant la notation de l'opérateur de décalage et en déplaçant le polynôme de décalage vers la gauche (équation 13.1.24 en H.): Ainsi, l'état caché suit un processus autorégressif. De même, l'équation d'observation est ou Cela ne ressemble pas beaucoup à un ARMA jusqu'à présent, mais voici maintenant le belle partie: multipliez la dernière équation par : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ y t - μ = ( 1 + θ 1 L + … + θ r - 1 L r - 1 ) ξ 1 , t ( 1 - ϕ 1 L $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ ( 1 - ϕ 1 L - … - ϕ r L r ) ( y t - μ ) = ( 1 + θ 1 L + … + θ r - 1 L r - 1 ) ( 1 - ϕ 1 L - … - ϕ r L r ) $(1-\phi_1L - \ldots - \phi_rL^r)$ ( 1 - ϕ 1 L - … - ϕ r L r ) ξ 1 , t = ϵ t ( 1 - ϕ 1 L - … - ϕ r L r ) ( y t - μ ) = ( 1 + θ 1 L + … + Θ r - 1 L r - 1 $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Mais à partir de l'équation d'état (décalée d'une période), nous avons ! Donc, ce qui précède est équivalent à qui est exactement ce que nous devions montrer! Le système d'observation d'état représente donc correctement l'ARMA (p, q). Je paraphrasais vraiment Hamilton, mais j'espère que cela sera utile de toute façon.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

C'est la même chose que ci-dessus, mais j'ai pensé fournir une réponse plus courte et plus concise. Encore une fois, c'est la représentation de Hamilton pour un processus ARMA causal ( , ), où . Ce nombre sera la dimension du vecteur d'état , et il est nécessaire de faire le nombre de lignes de la l'état correspond au nombre de colonnes de la matrice d'observation. Cela signifie que nous devons également définir des coefficients à zéro chaque fois que l'indice est trop grand.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Équation d'observation

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Équation d'état

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$