Simuler à partir d'une distribution normale de mélange tronqué

Je veux simuler un échantillon d'une distribution normale de mélange telle que

p \times N (μ_{1}, σ_{1}^{2}) + (1 - p) \times N (μ_{2}, σ_{2}^{2})

$p\times\mathcal{N}(\mu_1,\sigma_1^2) + (1-p)\times\mathcal{N}(\mu_2,\sigma_2^2)$

est limité à l'intervalle au lieu de . Cela signifie que je veux simuler un mélange tronqué de distributions normales. $[0,1]$ $\mathbb{R}$

Je sais qu'il existe des algorithmes pour simuler une normale tronquée (c'est-à-dire à partir de cette question ) et un package correspondant dans R pour ce faire. Mais comment puis-je simuler un mélange tronqué normal? Est-ce la même chose si je simule deux normales tronquées de et ) pour rendre un mélange tronqué normal? $\mathcal{N}(\mu_1,\sigma_1^2)$ $\mathcal{N}(\mu_2,\sigma_2^2$

— Alexy
source

Si c'est sur l'intervalle unitaire, pourquoi ne pas utiliser des bêtas au lieu de normales? Pour , la distribution est symétrique et unimodale et bornée sur l'intervalle unitaire.

α = β > 1

$\alpha=\beta>1$

— Sycorax dit Réintégrer Monica

Si vous n'avez pas besoin que vos simulations soient très rapides, vous pouvez le faire en utilisant l'échantillonnage de rejet: (1) échantillonnez partir du mélange de deux normales, (2) si n'est pas dans , revenez à étape 1, (3) sortie . (mais user777 a raison, avez-vous une bonne raison de choisir cette distribution au lieu d'un mélange de bêtas?)

x

$x$

x

$x$

[0, 1]

$[0,1]$

x

$x$

— Elvis

@ user777 un mélange gaussien tronqué a une distribution différente d'une distribution bêta et ne peut pas être remplacé simplement parce que vous pouvez appliquer la symétrie et le même support.

— mjnichol

La simulation à partir d'une normale tronquée se fait facilement si vous avez accès à une fonction quantile normale appropriée. Par exemple, dans R, la simulation de où et désignent les limites inférieure et supérieure peut être effectuée en inversant le cdf par exemple, dans R

N_{a}^{b} (μ, σ^{2})

$\mathcal{N}_a^b(\mu,\sigma^2)$

a

$a$

b

$b$

\frac{Φ (σ^{- 1} {x - μ}) - Φ (σ^{- 1} {a - μ})}{Φ (σ^{- 1} {b - μ}) - Φ (σ^{- 1} {a - μ})}

$\dfrac{\Phi(\sigma^{-1}\{x-\mu\})-\Phi(\sigma^{-1}\{a-\mu\})}{\Phi(\sigma^{-1}\{b-\mu\})-\Phi(\sigma^{-1}\{a-\mu\})}$

x = mu + sigma * qnorm( pnorm(a,mu,sigma) + 
     runif(1)*(pnorm(b,mu,sigma) - pnorm(a,mu,sigma)) )

Sinon, j'ai développé il y a vingt ans un algorithme normal d'acceptation-rejet tronqué .

Si nous considérons le problème du mélange tronqué, avec la densité c'est un mélange de distributions normales tronquées mais avec des poids différents : Par conséquent, pour simuler à partir d'une normale tronquée mélange, il suffit de prendre

f (x; θ) \propto {p φ (x; μ_{1}, σ_{1}) + (1 - p) φ (x; μ_{2}, σ_{2})} I_{[a, b]} (x)

$f(x;\theta) \propto \left\{p\varphi(x;\mu_1,\sigma_1)+(1-p)\varphi(x;\mu_2,\sigma_2)\right\}\mathbb{I}_{[a,b]}(x)$

f (x; θ) \propto p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} \frac{σ_{1}^{- 1} ϕ (σ_{1}^{- 1} {x - μ_{1}})}{Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} + (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} \frac{σ_{2}^{- 1} ϕ (σ_{2}^{- 1} {x - μ_{2}})}{Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{1}^{- 1} {a - μ_{2}})}

$f(x;\theta) \propto p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}\dfrac{\sigma_1^{-1}\phi(\sigma_1^{-1}\{x-\mu_1\})}{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\})} \\[15pt] +(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\}\dfrac{\sigma_2^{-1}\phi(\sigma_2^{-1}\{x-\mu_2\})}{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_1^{-1}\{a-\mu_2\})}$

x = {\begin{cases} x_{1} \sim N_{a}^{b} (μ_{1}, σ_{1}^{2}) & with probability \\ p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} / s \\ x_{2} \sim N_{a}^{b} (μ_{2}, σ_{2}^{2}) & with probability \\ (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} / s \end{cases}

$x=\begin{cases} x_1\sim\mathcal{N}_a^b(\mu_1,\sigma_1^2) &\text{with probability }\\ &\qquad p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}\big/\mathfrak{s}\\ x_2\sim\mathcal{N}_a^b(\mu_2,\sigma_2^2) &\text{with probability }\\ &\qquad(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\}\big/\mathfrak{s} \end{cases}$ où

\begin{aligned} s = & p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} + \\ (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} \end{aligned}

$\begin{align} \mathfrak{s}=&p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}+ \\ &(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\} \end{align}$

— Xi'an
source

Pourquoi ne pouvons-nous pas simplement tirer l'échantillon de la première normale avec probabilité p et de la seconde distribution avec probabilité 1 - p?

— mjnichol

Ah! Je pense que je vois le problème. C'est parce que la distribution entière est tronquée, pas chaque distribution séparément. Si chaque sous-distribution du mélange était tronquée individuellement avant d'être ajoutée au mélange, nous pourrions simplement échantillonner à partir de la distribution en fonction des poids relatifs de chaque sous-distribution, non?

— mjnichol

@mjnichol C'est un mélange mais avec des poids différents de et .

p

$p$

1 - p

$1-p$

— Xi'an

@ Xi'an: Supposons que nous considérions une configuration légèrement différente: et si au lieu de construire la distribution du mélange à partir de Gaussiens pondérés puis de tronquer, nous avons plutôt mélangé deux Gaussiens déjà tronqués (avec le même support). Si les Gaussiens étaient tronqués avant le mélange, serions-nous en mesure d'échantillonner à partir de la distribution en échantillonnant le premier gaussien tronqué avec probabilité p et le second avec probabilité 1 - p?

— mjnichol

@mjnichol: dans ce cas, vous auriez donc oui en effet cela fonctionnerait.

p N_{a}^{b} (μ_{1}, σ_{1}^{2}) + (1 - p) N_{a}^{b} (μ_{2}, σ_{2}^{2})

$p\mathcal{N}_a^b(\mu_1,\sigma_1^2)+(1-p)\mathcal{N}_a^b(\mu_2,\sigma_2^2)$

— Xi'an