Jeffreys prior pour plusieurs paramètres

Dans certains cas, l'a priori de Jeffreys pour un modèle multidimensionnel complet est généralement considéré comme insuffisant, c'est par exemple le cas dans: (où , avec et inconnus) où le prieur suivant est préféré (au précédent de Jeffreys complet ):

y_{i} = μ + ε_{i},

$y_i=\mu + \varepsilon_i \, ,$

ε \sim N (0, σ^{2})

$\varepsilon \sim N(0,\sigma^2)$

μ

$\mu$

σ

$\sigma$

π (μ, σ) \propto σ^{- 2}

$\pi(\mu,\sigma)\propto \sigma^{-2}$

où

est le précédent de Jeffreys obtenu en gardant

fixe (et de même pour

). Cet a priori coïncide avec l'a prior de référence lors du traitement de

dans des groupes séparés.

p (μ, σ) = π (μ) \cdot π (σ) \propto σ^{- 1},

$p(\mu,\sigma) = \pi(\mu) \cdot \pi(\sigma) \propto \sigma^{-1}\, ,$

π (μ)

$\pi(\mu)$

σ

$\sigma$

p (σ)

$p(\sigma)$

σ

$\sigma$

μ

$\mu$

Question 1: Pourquoi les traiter comme dans des groupes séparés a-t-il plus de sens que de les traiter dans le même groupe (ce qui entraînera, si je ne me trompe pas (?), Dans le Jeffreys complet avant, voir [1])?

Considérons alors la situation suivante: où

y_{i} = g (x_{i}, θ) + ε_{i},

$y_i=g(x_i,\mathbf{\theta}) +\varepsilon_i\, ,$

est inconnu,

est inconnu et

est une fonction non linéaire connue. Dans un tel cas, il est tentant et d'après mon expérience parfois fructueuse de considérer la décomposition suivante:

θ \in R^{n}

$\theta \in \mathbb{R}^n$

ε_{i} \sim N (0, σ^{2})

$\varepsilon_i \sim N(0,\sigma^2)$

σ

$\sigma$

g

$g$

p (σ, θ) = π (σ) π (θ),

$p(\sigma,\theta)=\pi(\sigma) \pi(\theta) \, ,$

π (σ)

$\pi(\sigma)$

π (θ)

$\pi(\theta)$

$p(\sigma,\theta)$

[1] Sur https://theses.lib.vt.edu/theses/available/etd-042299-095037/unrestricted/etd.pdf :

Enfin, nous notons que le prieur de Jeffreys est un cas particulier d'un prieur de référence. Plus précisément, l'a prior de Jeffreys correspond à l'a prior de référence dans lequel tous les paramètres du modèle sont traités dans un seul groupe.

— peuhp
source

Je pense que vous voulez dire le modèle multivariable, la régression multivariée est strictement réservée à plusieurs variables sur le côté gauche.

— mdewey

$\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}$ $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}^2$

— Xi'an
source

Merci pour votre contribution. Néanmoins, à mon avis, Jeffreys prior offre une sorte d'optimalité dans le sens où, au moins dans le cadre 1d, ils sont ceux qui minimisent une quantité théorique d'information qui peut avoir du sens et être discutée (veuillez me faire savoir si je me trompe ). Mon point est: pouvons-nous écrire un "critère" similaire, la procédure antérieure de Jeffreys satisfait pour les deux paramètres donnés dans ma question? D'après la citation donnée dans ma question, il semble que oui et j'aimerais discuter de l'implication de choisir ce critère au lieu d'un autre (d'un point de vue purement informatique :)).

— peuhp