Comment échantillonner rapidement X si exp (X) ~ Gamma?

J'ai un problème d'échantillonnage simple, où ma boucle intérieure ressemble à:

v = sample_gamma(k, a)

où des sample_gammaéchantillons de la distribution Gamma pour former un échantillon de Dirichlet.

Cela fonctionne bien, mais pour certaines valeurs de k / a, certains des calculs en aval sont sous-jacents.

Je l'ai adapté pour utiliser des variables d'espace de log:

v = log(sample_gamma(k, a))

Après avoir adapté tout le reste du programme, il fonctionne correctement (au moins, il me donne les mêmes résultats exacts sur les cas de test). Cependant, il est plus lent qu'auparavant.

Existe-t-il un moyen d'échantillonner directement sans utiliser de fonctions lentes comme ? J'ai essayé de googler pour cela, mais je ne sais même pas si cette distribution a un nom commun (log-gamma?).log ( $X, \exp(X) \sim \text{Gamma}$$\log()$

Considérons un petit paramètre de forme près de 0, tel que . Dans la plage comprise entre 0 et , est d'environ , donc le pdf Gamma est d'environ . Cela peut être intégré à un CDF approximatif, . En l'inversant, nous voyons une puissance : un énorme exposant. Pour cela entraîne un risque de sous-dépassement (une valeur de double précision inférieure à , plus ou moins). Voici un graphique de la chance d'obtenir un dépassement de capacité en fonction du logarithme en base dix deα = 1 / 100 α e - α 1 x α - 1 d x / Γ ( α ) F de ( la x ) = x $\alpha$$\alpha = 1/100$$\alpha$$e^{-\alpha}$$1$$x^{\alpha-1}dx / \Gamma(\alpha)$ 1/αα=1/10010-300$F_\alpha(x) = \frac{x^\alpha}{\alpha \Gamma(\alpha)}$$1/\alpha$$\alpha = 1/100$$10^{-300}$$\alpha$ :

Une solution consiste à exploiter cette approximation pour générer des variables log (Gamma): en effet, essayez de générer une variable Gamma et si elle est trop petite, générez son logarithme à partir de cette distribution de puissance approximative (comme illustré ci-dessous). (Effectuez cette opération à plusieurs reprises jusqu'à ce que le journal se trouve dans la plage de sous-dépassement, afin qu'il soit un substitut valide pour la variable de sous-flux d'origine.) Pour le calcul de Dirichlet, soustrayez le maximum de tous les logarithmes de chacune des valeurs de journal: cela redimensionne implicitement tous le gamma varie donc il n'affectera pas les valeurs de Dirichlet. Traitez tout journal résultant qui est trop petit (par exemple, moins de -100) comme étant le journal d'un vrai zéro. Exponentiate les autres journaux. Vous pouvez maintenant continuer sans débordement.

Cela va prendre encore plus de temps qu'auparavant, mais au moins ça marchera!

Pour générer une variable Gamma logarithmique approximative avec le paramètre de forme , précalculez . C'est facile, car il existe des algorithmes pour calculer directement les valeurs du journal Gamma . Générer un flotteur aléatoire uniforme entre 0 et 1, prendre son logarithme, diviser par , et ajouter à elle.C = log ( Γ ( α ) ) + log ( α ) α $\alpha$$C = \log(\Gamma(\alpha)) + \log(\alpha)$$\alpha$$C$

Étant donné que le paramètre d'échelle ne fait que redimensionner la variable, il n'y a aucun problème à l'adapter dans ces procédures. Vous n'en avez même pas besoin si tous les paramètres d'échelle sont identiques.

Éditer

Dans une autre réponse, l'OP décrit une méthode dans laquelle la puissance d'une variable uniforme (une variable ) est multipliée par une variable . Cela fonctionne car le pdf de la distribution conjointe de ces deux variables est égal à . Pour trouver le pdf de nous substituons , divisons par le jacobéen et intégrons . L'intégrale doit aller de à car , d'où$1/\alpha$$B(\alpha)$$\Gamma(\alpha+1)$$\left(\alpha x^{\alpha-1}\right) \left(y^{\alpha}e^{-y}dy/\Gamma(\alpha+1)\right)$$z = xy$$y \to z/x$$x$$x$$z$$\infty$$0 \le y \le 1$

qui est le pdf d'une distribution .$\Gamma(\alpha)$

Le fait est que lorsque , une valeur tirée de est peu susceptible de dépasser et en sommant son log et fois le log d'une variable uniforme indépendante, nous aura le journal d'une variable . Le journal est probablement très négatif, mais nous aurons contourné la construction de son antilog, qui débordera dans une représentation en virgule flottante.$0 \lt \alpha \lt 1$$\Gamma(\alpha+1)$$1/\alpha$$\Gamma(\alpha)$

Je réponds à ma propre question, mais j'ai trouvé une assez bonne solution, même si je ne la comprends pas bien. En regardant le code de la bibliothèque scientifique GNU, voici comment il échantillonne les variables gamma ( rest le générateur de nombres aléatoires, aest et est ):$\alpha$b$\beta$

  if (a < 1)
    {
      double u = gsl_rng_uniform_pos (r);
      return gsl_ran_gamma (r, 1.0 + a, b) * pow (u, 1.0 / a);
   }

gsl_ran_gammaest la fonction qui retourne un échantillon aléatoire gamma (donc ce qui précède est un appel récursif), tandis que gsl_rng_uniform_posretourne un nombre uniformément distribué en (le est pour strictement positif car il est garanti de ne pas retourner 0,0).$(0,1)$_pos

Par conséquent, je peux prendre le journal de la dernière expression et utiliser

return log(gsl_ran_gamma(r, 1.0 + a, b)) + log(u)/a;

Pour obtenir ce que je voulais. J'ai maintenant deux log()appels (mais un de moins pow()), mais le résultat est probablement meilleur. Avant, comme l'a souligné Whuber, j'avais quelque chose élevé à la puissance de , potentiellement un nombre énorme. Maintenant, dans l'espace de journal, je multiplie par . Il est donc moins susceptible de déborder.1 /$1/a$$1/a$