Processus AR (1) avec des erreurs de mesure hétéroscédastiques

1. Le problème

J'ai des mesures d'une variable $y_t$ , où $t=1,2,..,n$ , pour lequel j'ai une distribution obtenue via MCMC, qui pour simplifier je suppose que c'est un gaussien de moyenne et de variance .$f_{y_t}(y_t)$$\mu_t$$\sigma_t^2$

J'ai un modèle physique pour ces observations, disons , mais les résidus semblent être corrélés; en particulier, j'ai des raisons physiques de penser qu'un processus suffira pour prendre en compte la corrélation, et je prévois d'obtenir les coefficients de l'ajustement via MCMC, pour lesquels j'ai besoin de la probabilité . Je pense que la solution est plutôt simple, mais je ne suis pas sûr (cela semble si simple, que je pense que je manque quelque chose).$g(t)$$r_t = \mu_t-g(t)$$AR(1)$

2. Dériver la probabilité

Un processus moyenne nulle peut s'écrire: où je supposerai . Les paramètres à estimer sont donc (dans mon cas, je dois également ajouter les paramètres du modèle g (t) , mais ce n'est pas le problème). Ce que j'observe cependant, c'est la variable R_t = X_t + \ eta_t, \ \ \ (2) où je suppose que \ eta_t \ sim N (0, \ sigma_t ^ 2) , et le \ sigma_t ^ 2 sont connus (le erreurs de mesure). Parce que X_t est un processus gaussien, R_t l' est aussi. En particulier, je sais que $AR(1)$

$$X_t = \phi X_{t-1}+\varepsilon_t,\ \ \ (1)$$ $\varepsilon_t\sim N(0,\sigma_w^2)$$\theta = \{\phi,\sigma_w^2\}$$g(t)$ $$R_t = X_t+\eta_t,\ \ \ (2)$$ $\eta_t\sim N(0,\sigma_t^2)$$\sigma_t^2$$X_t$$R_t$ $$X_1 \sim N(0,\sigma_w^2/[1-\phi^2]),$$ donc $$R_1 \sim N(0,\sigma_w^2/[1-\phi^2]+\sigma_t^2).$$ Le prochain défi consiste à obtenir $R_t|R_{t-1}$ pour $t\neq 1$ . Pour dériver la distribution de cette variable aléatoire, notez que, en utilisant l'éq. $(2)$ Je peux écrire $$X_{t-1} = R_{t-1}-\eta_{t-1}.\ \ \ (3)$$ En utilisant l'équation. $(2)$ , et en utilisant la définition de l'équation. $(1)$ , je peux écrire, $$R_{t} = X_t+\eta_t = \phi X_{t-1}+\varepsilon_{t}+\eta_t.$$ En utilisant l'eq. $(3)$ dans cette dernière expression, alors j'obtiens , R_ {t} = \ phi (R_ {t-1} - \ eta_ {t-1}) + \ varepsilon_ {t} + \ eta_t, $$R_{t} = \phi (R_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ ainsi, $$R_t|R_{t-1} = \phi (r_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ et, par conséquent, $$R_t|R_{t-1} \sim N(\phi r_{t-1},\sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}).$$ Enfin, je peux écrire la fonction de vraisemblance comme $$L(\theta) = f_{R_1}(R_1=r_1) \prod_{t=2}^{n} f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1}),$$ où les $f(\cdot)$ sont les distributions des variables que je viens de définir, .ie, définissant $\sigma'^2 = \sigma_w^2/[1-\phi^2]+\sigma_t^2,$ $$f_{R_1}(R_1=r_1) = \frac{1}{\sqrt{2\pi \sigma'^2}}\text{exp}\left(-\frac{r_1^2}{2\sigma'^2}\right),$$ et définissant $\sigma^2(t) = \sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}$ , $$f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1})=\frac{1}{\sqrt{2\pi \sigma^2(t)}}\text{exp}\left(-\frac{(r_t-\phi r_{t-1})^2}{2\sigma^2(t)}\right)$$

3. Questions

1. Ma dérivation est-elle correcte? Je n'ai pas d'autres ressources à comparer que des simulations (qui semblent d'accord), et je ne suis pas statisticien!
2. Y a-t-il une dérivation de ce genre de choses dans la littérature pour les ou ? $MA(1)$$ARMA(1,1)$Une étude pour les en général qui pourraient être particuliers à ce cas serait bien.$ARMA(p,q)$

1. Vous êtes sur la bonne voie, mais vous avez fait une erreur en dérivant la distribution de étant donné : la moyenne conditionnelle n'est pas . Il s'agit de , où est votre meilleure estimation de rapport à la période précédente. La valeur de inclut les informations des observations précédentes ainsi que . (Pour voir ceci, considérez une situation où et sont négligeables, donc vous estimez effectivement une moyenne fixe. Après beaucoup d'observations, votre incertitude sur sera beaucoup plus petite que$R_t$$R_{t-1}$$\phi r_{t-1}$$\phi \widehat{x}_{t-1}$$\widehat{x}_{t-1}$$X$$\widehat{x}_{t-1}$$r_{t-1}$$\sigma_w$$\phi$$X$$\sigma_{\eta}$ .) Cela peut être déroutant au premier abord, parce que vous observez et non . Cela signifie simplement que vous avez affaire à un modèle d'espace d'état .$R$$X$

2. Oui, il existe un cadre très général pour l'utilisation de modèles linéaires-gaussiens avec des observations bruyantes, appelé filtre de Kalman . Cela s'applique à tout ce qui a une structure ARIMA et bien d'autres modèles également. Variable dans le temps est OK pour le filtre de Kalman, à condition qu'il ne soit pas stochastique. Les modèles avec, par exemple, une volatilité stochastique nécessitent des méthodes plus générales. Pour voir comment le filtre de Kalman est dérivé, essayez Durbin-Koopman ou le chapitre 3 de Harvey . Dans la notation de Harvey, votre modèle a , , , , et .$\sigma_{\eta}$$Z=1$$d=c=0$$H_t = \sigma_{\eta,t}^2$$T=\phi$$R=1$$Q=\sigma^2_w$

Honnêtement, vous devez coder cela dans des BUG ou STAN et ne pas vous en soucier à partir de là. Sauf s'il s'agit d'une question théorique.