Questions marquées «dirichlet-distribution»

Je commence à me familiariser avec l’utilisation de glmnetavec LASSO Regression, où mon résultat d’intérêt est dichotomique. J'ai créé un petit cadre de données fictif ci-dessous: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Dans l'algorithme de modèle de sujet LDA, j'ai vu cette hypothèse. Mais je ne sais pas pourquoi choisir la distribution de Dirichlet? Je ne sais pas si nous pouvons utiliser la distribution uniforme sur Multinomial par paire?

36 bayesian  dirichlet-distribution  conjugate-prior 

Je suis assez nouveau dans les statistiques bayésiennes et je suis tombé sur une mesure de corrélation corrigée, SparCC , qui utilise le processus Dirichlet dans le backend de son algorithme. J'ai essayé de parcourir pas à pas l'algorithme pour vraiment comprendre ce qui se passe mais je ne sais …

26 distributions  bayesian  dirichlet-distribution 

Disons que nous avons une distribution de Dirichlet avec le paramètre de vecteur dimension . Comment puis-je tirer un échantillon (un vecteur dimensionnel) de cette distribution? J'ai besoin d'une explication (éventuellement) simple.→ α = [ α 1 , α 2 , . . . , α K ]KKKα⃗ = [ …

25 sampling  dirichlet-distribution 

Cette question est donc un peu compliquée, mais je vais inclure des graphiques colorés pour compenser cela! D'abord le contexte puis les questions. Contexte Supposons que vous ayez une distribution multinomiale à nnn dimensions avec des probailites égales sur les nnn catégories. Soit π= ( π1, … , Πn)π=(π1,…,πn)\pi = …

24 distributions  bayesian  bootstrap  multinomial  dirichlet-distribution 

Soit un bâton de longueur 1 cassé en k+1k+1k+1 fragments uniformément au hasard. Quelle est la distribution de la longueur du plus long fragment? Plus formellement, soit (U1,…Uk)(U1,…Uk)(U_1, \ldots U_k) soit IID U(0,1)U(0,1)U(0,1) , et soit (U(1),…,U(k))(U(1),…,U(k))(U_{(1)}, \ldots, U_{(k)}) les statistiques d'ordre associées, c'est-à - dire que nous commandons simplement …

21 distributions  uniform  order-statistics  dirichlet-distribution  maximum 

Soit X1,…,Xk+1X1,…,Xk+1X_1,\dots,X_{k+1} des variables aléatoires mutuellement indépendantes, ayant chacune une distribution gamma avec les paramètres αi,i=1,2,…,k+1αi,i=1,2,…,k+1\alpha_i,i=1,2,\dots,k+1 montrent que Yi=XiX1+⋯+Xk+1,i=1,…,kYi=XiX1+⋯+Xk+1,i=1,…,kY_i=\frac{X_i}{X_1+\cdots+X_{k+1}},i=1,\dots,k, ont une distribution commune commeDirichlet(α1,α2,…,αk;αk+1)Dirichlet(α1,α2,…,αk;αk+1)\text{Dirichlet}(\alpha_1,\alpha_2,\dots,\alpha_k;\alpha_{k+1}) PDF commun de (X1,…,Xk+1)=e−∑k+1i=1xixα1−11…xαk+1−1k+1Γ(α1)Γ(α2)…Γ(αk+1)(X1,…,Xk+1)=e−∑i=1k+1xix1α1−1…xk+1αk+1−1Γ(α1)Γ(α2)…Γ(αk+1)(X_1,\dots,X_{k+1})=\frac{e^{-\sum_{i=1}^{k+1}x_i}x_1^{\alpha_1-1}\dots x_{k+1}^{\alpha_{k+1}-1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)\dots \Gamma(\alpha_{k+1})} .Puis pour trouver le pdf commun de(Y1,…,Yk+1)(Y1,…,Yk+1)(Y_1,\dots,Y_{k+1})je ne peux pas trouver jacobien ieJ(x1,…,xk+1y1,…,yk+1)J(x1,…,xk+1y1,…,yk+1)J(\frac{x_1,\dots,x_{k+1}}{y_1,\dots,y_{k+1}})

18 self-study  multivariate-analysis  gamma-distribution  dirichlet-distribution 

Lors de l'utilisation de la modélisation de sujet (allocation Dirichlet latente), le nombre de sujets est un paramètre d'entrée que l'utilisateur doit spécifier. Il me semble que nous devrions également fournir une collection d'ensembles de sujets candidats que le processus Dirichlet doit échantillonner? Ma compréhension est-elle correcte? En pratique, comment …

17 machine-learning  bayesian  clustering  text-mining  dirichlet-distribution 

Ainsi, dans la modélisation de texte (non supervisée), l'allocation de Dirichlet latent (LDA) est une version bayésienne de l'analyse sémantique probabiliste latente (PLSA). Essentiellement, LDA = PLSA + Dirichlet prioritaire sur ses paramètres. Ma compréhension est que LDA est maintenant l'algorithme de référence et est implémenté dans divers packages, tandis …

15 bayesian  multinomial  prior  naive-bayes  dirichlet-distribution 

Il est facile de produire une variable aléatoire avec une distribution de Dirichlet en utilisant des variables Gamma avec le même paramètre d'échelle. Si: Xi∼Gamma(αi,β)Xi∼Gamma(αi,β) X_i \sim \text{Gamma}(\alpha_i, \beta) Alors: (X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn)(X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn) \left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n) Problème Que se passe-t-il si les paramètres d'échelle ne sont pas …

14 expected-value  dirichlet-distribution  gamma-distribution  integral 

Sur l' article wikipedia du lissage de Laplace (ou lissage additif), il est dit que d'un point de vue bayésien, cela correspond à la valeur attendue de la distribution postérieure, en utilisant une distribution de Dirichlet symétrique avec le paramètre comme priorité.αα\alpha Je suis perplexe quant à la réalité de …

11 bayesian  smoothing  dirichlet-distribution  laplace-smoothing 

J'ai une question sur la distribution postérieure de Dirichlet. Étant donné une fonction de vraisemblance multinomiale, il est connu que le postérieur est , où est le nombre de fois où nous avons vu observation.D i r ( αje+ Nje)Dir(αi+Ni)Dir({\alpha_i + N_i})NjeNiN_ijet hjethi^{th} Que se passe-t-il si nous commençons à …

11 dirichlet-distribution 

Je vais essayer de décrire le problème en question aussi général que possible. Je modélise les observations comme une distribution catégorielle avec un vecteur de probabilité de paramètre thêta. Ensuite, je suppose que le vecteur paramètre thêta suit une distribution a priori de Dirichlet avec les paramètres .α1, α2, …

10 categorical-data  multinomial  dirichlet-distribution  hierarchical-bayesian  dirichlet-process 

Dans les articles AlphaGo Zero et AlphaZero de DeepMind , ils décrivent l'ajout de bruit de Dirichlet aux probabilités antérieures d'actions du nœud racine (état de la carte) dans Monte Carlo Tree Search: Une exploration supplémentaire est obtenue en ajoutant du bruit de Dirichlet aux probabilités antérieures dans le nœud …

10 machine-learning  neural-networks  dirichlet-distribution 

Je regarde actuellement un article sur le modèle d'effets aléatoires du processus de Dirichlet et la spécification du modèle est la suivante: où est le paramètre d'échelle et est la mesure de base. Plus loin dans l'article, cela suggère que nous intégrons une fonction sur la mesure de base telle …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory