Statistiques et Big Data

Je travaille sur des données gravement déséquilibrées. Dans la littérature, plusieurs méthodes sont utilisées pour rééquilibrer les données en utilisant un rééchantillonnage (sur ou sous-échantillonnage). Deux bonnes approches sont: SMOTE: TEchnique de suréchantillonnage des minorités synthétiques ( SMOTE ) ADASYN: Approche d'échantillonnage synthétique adaptative pour l'apprentissage déséquilibré ( ADASYN ) …

18 classification  dataset  resampling  unbalanced-classes  oversampling 

Contexte : régression hiérarchique avec quelques données manquantes. Question : Comment utiliser l'estimation du maximum de vraisemblance (FIML) pour traiter les données manquantes dans R? Y a-t-il un package que vous recommanderiez et quelles sont les étapes typiques? Des ressources et des exemples en ligne seraient également très utiles. PS …

18 r  maximum-likelihood  missing-data 

Soit X1,…,Xk+1X1,…,Xk+1X_1,\dots,X_{k+1} des variables aléatoires mutuellement indépendantes, ayant chacune une distribution gamma avec les paramètres αi,i=1,2,…,k+1αi,i=1,2,…,k+1\alpha_i,i=1,2,\dots,k+1 montrent que Yi=XiX1+⋯+Xk+1,i=1,…,kYi=XiX1+⋯+Xk+1,i=1,…,kY_i=\frac{X_i}{X_1+\cdots+X_{k+1}},i=1,\dots,k, ont une distribution commune commeDirichlet(α1,α2,…,αk;αk+1)Dirichlet(α1,α2,…,αk;αk+1)\text{Dirichlet}(\alpha_1,\alpha_2,\dots,\alpha_k;\alpha_{k+1}) PDF commun de (X1,…,Xk+1)=e−∑k+1i=1xixα1−11…xαk+1−1k+1Γ(α1)Γ(α2)…Γ(αk+1)(X1,…,Xk+1)=e−∑i=1k+1xix1α1−1…xk+1αk+1−1Γ(α1)Γ(α2)…Γ(αk+1)(X_1,\dots,X_{k+1})=\frac{e^{-\sum_{i=1}^{k+1}x_i}x_1^{\alpha_1-1}\dots x_{k+1}^{\alpha_{k+1}-1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)\dots \Gamma(\alpha_{k+1})} .Puis pour trouver le pdf commun de(Y1,…,Yk+1)(Y1,…,Yk+1)(Y_1,\dots,Y_{k+1})je ne peux pas trouver jacobien ieJ(x1,…,xk+1y1,…,yk+1)J(x1,…,xk+1y1,…,yk+1)J(\frac{x_1,\dots,x_{k+1}}{y_1,\dots,y_{k+1}})

18 self-study  multivariate-analysis  gamma-distribution  dirichlet-distribution 

Les manuels ont généralement de beaux exemples de la base des splines uniformes lorsqu'ils expliquent le sujet. Quelque chose comme une rangée de petits triangles pour une spline linéaire, ou une rangée de petits bosses pour une spline cubique. Voici un exemple typique: http://support.sas.com/documentation/cdl/en/statug/63033/HTML/default/viewer.htm#statug_introcom_a0000000525.htm Je me demande s'il existe un …

18 data-visualization  splines 

Je me rends compte que c'est une question très fondamentale, mais je ne trouve de réponse nulle part. Je calcule les coefficients de régression en utilisant les équations normales ou la décomposition QR. Comment puis-je calculer les erreurs standard pour chaque coefficient? Je pense généralement que les erreurs standard sont …

18 standard-error  regression-coefficients 

Je ne sais pas si cela a été demandé auparavant, mais je n'ai rien trouvé à ce sujet. Ma question est de savoir si quelqu'un peut fournir une bonne référence pour apprendre comment obtenir la proportion de variance expliquée par chacun des facteurs fixes et aléatoires dans un modèle à …

18 mixed-model  variance 

Dans un scénario de régression LASSO où y=Xβ+ϵy=Xβ+ϵy= X \beta + \epsilon , et les estimations de LASSO sont données par le problème d'optimisation suivant minβ||y−Xβ||+τ||β||1minβ||y−Xβ||+τ||β||1 \min_\beta ||y - X \beta|| + \tau||\beta||_1 Existe-t-il des hypothèses de distribution concernant le ?ϵϵ\epsilon Dans un scénario OLS, on peut s'attendre à ce …

18 regression  lasso  assumptions  residuals 

L'année dernière, au NIPS 2017, Ali Rahimi et Ben Recht ont remporté le prix du test du temps pour leur article "Random Features for Large-Scale Kernel Machines" où ils ont introduit des fonctionnalités aléatoires, codifiées plus tard comme l'algorithme des éviers de cuisine aléatoires. Dans le cadre de la publicité …

18 machine-learning  svm  gaussian-process  approximation 

J'ai quelques questions qui me portent à confusion concernant le CNN. 1) Les caractéristiques extraites à l'aide de CNN sont invariantes d'échelle et de rotation? 2) Les noyaux que nous utilisons pour la convolution avec nos données sont déjà définis dans la littérature? quel genre de ces grains sont? est-ce …

18 neural-networks  deep-learning  conv-neural-network 

Je veux créer un code pour tracer ACF et PACF à partir de données de séries chronologiques. Tout comme ce graphique généré à partir de minitab (ci-dessous). J'ai essayé de rechercher la formule, mais je ne la comprends toujours pas bien. Pourriez-vous me dire la formule et comment l'utiliser, s'il …

18 correlation  data-visualization  autocorrelation  partial-correlation 

Je suis tombé sur ce fil en regardant les différences entre le bootstrap et la validation croisée - une excellente réponse et des références d'ailleurs. Ce que je me demande maintenant, c'est si je devais répéter un CV multiplié par 10 pour calculer la précision d'un classificateur, combien de fois …

18 cross-validation 

Pourquoi la divergence KL n'est-elle pas négative? Du point de vue de la théorie de l'information, j'ai une telle compréhension intuitive: Disons qu'il y a deux ensembles UNEUNEA et BBB qui sont composés du même ensemble d'éléments étiquetés par XXx . p ( x )p(X)p(x) et q( x )q(X)q(x) sont …

18 information-theory  kullback-leibler 

Fermé. Cette question est hors sujet . Il n'accepte pas actuellement les réponses. Voulez-vous améliorer cette question? Mettez à jour la question afin qu'elle soit sur le sujet pour la validation croisée. Fermé il y a 2 ans . Jusqu'à présent, j'ai supprimé les variables colinéaires dans le cadre du …

18 python  multicollinearity  scikit-learn 

Je veux implémenter un algorithme dans un document qui utilise le noyau SVD pour décomposer une matrice de données. J'ai donc lu des documents sur les méthodes du noyau et le PCA du noyau, etc. Pourquoi les méthodes du noyau? Ou, quels sont les avantages des méthodes du noyau? Quel …

18 pca  svd  kernel-trick 

J'ai vu des tracés d'erreur de test / formation chuter soudainement à certaines époques pendant la formation du réseau neuronal, et je me demande ce qui cause ces sauts de performances: Cette image est tirée de Kaiming He Github, mais des intrigues similaires apparaissent dans de nombreux journaux.

18 conv-neural-network