Statistiques et Big Data

2

La forêt aléatoire est-elle une bonne option pour la classification des données déséquilibrées? [fermé]

Fermé . Cette question doit être plus ciblée . Il n'accepte pas actuellement de réponses. Voulez-vous améliorer cette question? Mettez à jour la question afin qu'elle se concentre sur un problème uniquement en modifiant ce message . Fermé il y a 3 ans . Malgré les approches ressemblantes et d'autres …

9 machine-learning classification data-mining supervised-learning statistical-learning

1

Approche de la moyenne du modèle - estimation des coefficients de moyenne par rapport aux prévisions du modèle?

J'ai une question de base concernant les approches de la moyenne des modèles à l'aide de critères informatiques pour pondérer les modèles au sein d'un ensemble candidat. La plupart des sources que j'ai lues sur la moyenne du modèle préconisent de faire la moyenne des estimations des coefficients des paramètres …

9 mixed-model model-averaging forecast-combination

2

SVD d'une matrice de données après une projection orthogonale à un sous-espace

Disons que je peux connaître la SVD d'une matrice :XXXX=USVTX=USVTX = USV^T Si j'ai une matrice orthogonale (c'est-à-dire que est carré et a des colonnes orthonormées), alors la SVD de estAAAAAAXAXAXA XA=USWTXA=USWTXA = USW^T où .W=ATVW=ATVW = A^TV Mais peut-on dire quelque chose sur la SVD de si a des …

9 pca svd matrix-decomposition

2

Si la multi-colinéarité est élevée, les coefficients LASSO diminueraient-ils à 0?

Étant donné , quel est le comportement théorique des coefficients LASSO et pourquoi?x2=2x1x2=2x1x_2 = 2 x_1 Est-ce que l'un des ou se à ou les deux?x1x1x_1x2x2x_2000 require(glmnet) x1 = runif(100, 1, 2) x2 = 2*x1 x_train = cbind(x1, x2) y = 100*x1 + 100 + runif(1) ridge.mod = cv.glmnet(x_train, y, …

9 lasso multicollinearity

2

Bonferroni Correction et apprentissage automatique

Dans les études de psychologie, j'ai appris que nous devrions utiliser la méthode de Bonferroni pour ajuster le niveau de signification lors du test de plusieurs hypothèses sur un seul ensemble de données. Actuellement, je travaille avec des méthodes d'apprentissage automatique telles que les machines à vecteurs de support ou …

9 machine-learning cross-validation svm overfitting bonferroni

3

Comment le générateur d'un GAN est-il formé?

Le document sur les GAN indique que le discriminateur utilise le gradient suivant pour s'entraîner: ∇θré1m∑i = 1m[ journalD (X( i )) +journal( 1 - D ( G (z( i )) ) ) ]∇θd1m∑i=1m[log⁡D(x(i))+log⁡(1−D(G(z(i))))]\nabla _{\theta_d} \frac{1}{m}\sum^{m}_{i=1} [\log{D(x^{(i)})} + \log{(1-D(G(z^{(i)})))}] Les valeurs sont échantillonnées, passées à travers le générateur pour générer …

9 machine-learning neural-networks

2

FINIS ième instant pour un vecteur aléatoire

Si où le support de est . Donc, . Disons alors que je suppose que a moments finis. Lorsque , je sais que ce que des moyens où est la densité associée de . Quel est l'équivalent mathématique de supposer que a moments finis lorsque ?X∼FX∼FX \sim FXXXRpRp\mathbb{R}^pX=(X1,X2,…,Xp)X=(X1,X2,…,Xp)X = (X_1, …

9 probability random-variable expected-value moments

1

Faire CCA vs construire une variable dépendante avec PCA puis faire une régression

Étant donné deux ensembles de données multidimensionnels, XXX et OuiYY, certaines personnes effectuent une analyse multivariable en créant une variable dépendante de substitution à l'aide de l' analyse en composantes principales (ACP). Autrement dit, exécutez PCA surOuiYY définir, prendre des scores le long du premier composant y′y′y'et exécutez une régression …

9 regression multiple-regression pca canonical-correlation

2

Distribution conditionnelle de la variable aléatoire uniforme étant donné la statistique de l'Ordre

J'ai la question suivante sous la main: Supposons que sont des variables aléatoires iid suivant Unif . quelle est la distribution conditionnelle de étant donné ?U,VU,VU,V(0,1)(0,1)(0,1)UUUZ:=max(U,V)Z:=max(U,V)Z:=\max(U,V) J'ai essayé d'écrire Z=I⋅V+(1−I)⋅UZ=I⋅V+(1−I)⋅UZ=\Bbb{I}\cdot V+(1-\Bbb{I})\cdot U où I={10U<VU>VI={1U<V0U>V\Bbb{I}=\begin{cases}1&U;V\end{cases} Mais je ne vais nulle part.

9 probability distributions uniform conditioning

1

Les arrêts et abandons précoces sont-ils suffisants pour régulariser la grande majorité des réseaux de neurones profonds dans la pratique?

Il y a tellement de techniques de régularisation qu'il n'est pas pratique d'essayer toutes les combinaisons: l1 / l2 norme max abandonner arrêt précoce ... Il semble que la plupart des gens soient satisfaits d'une combinaison d'abandon + d'arrêt précoce: y a-t-il des cas où l'utilisation d'autres techniques a du …

9 neural-networks regularization dropout

2

Pourquoi les distributions de probabilité se multiplient-elles ici?

Soit par exemple votre nombre de jours restant à vivre. Un médecin 1 évalue la distribution de comme un gaussien: . Un autre médecin indépendant 2 évalue . Les deux médecins sont également fiables. Comment combiner les deux informations?XXXXXXP(X)∼N(μ1,σ1)P(X)∼N(μ1,σ1)P(X)\sim\mathcal{N}(\mu_1,\sigma_1)P(X)∼N(μ2,σ2)P(X)∼N(μ2,σ2)P(X)\sim\mathcal{N}(\mu_2,\sigma_2) Dans cet article de blog , l'auteur dit que Si nous …

9 probability normal-distribution

2

Comment un taux d'apprentissage plus faible peut-il nuire aux performances d'un gbm?

J'ai toujours souscrit à la sagesse populaire selon laquelle la diminution du taux d'apprentissage dans un gbm (modèle d'arbre boosté par gradient) ne nuit pas aux performances hors échantillon du modèle. Aujourd'hui, je n'en suis pas si sûr. J'ajuste des modèles (minimisant la somme des erreurs quadratiques) au jeu de …

9 machine-learning boosting out-of-sample

2

La somme de deux variables est-elle indépendante d'une troisième variable, si elles le sont par elles-mêmes?

Compte tenu de 3 variables aléatoires , et . et sont indépendants. et sont indépendants. Intuitivement, je suppose que et sont indépendants. Est-ce le cas et comment puis-je le prouver formellement?X1X1X_1X2X2X_2YYYYYYX1X1X_1YYYX2X2X_2YYYX1+X2X1+X2X_1+X_2

9 independence

1

Attente d'une fonction d'une variable aléatoire de CDF

Est-il possible de calculer l'espérance d'une fonction d'une variable aléatoire avec seulement le CDF du VR? Dis que j'ai une fonctiong(x)g(x)g(x) qui a la propriété ∫∞−∞g(x)dx≤∞∫−∞∞g(x)dx≤∞\int_{-\infty}^{\infty}g(x)dx \leq \infty et la seule information que j'ai sur la variable aléatoire est le CDF. Par exemple, j'ai un scénario où il y a …

9 random-variable expected-value

2

Rao-Blackwellization de Gibbs Sampler

J'évalue actuellement un modèle de volatilité stochastique avec les méthodes de Markov Chain Monte Carlo. Ainsi, j'implémente les méthodes d'échantillonnage de Gibbs et Metropolis. En supposant que je prenne la moyenne de la distribution postérieure plutôt qu'un échantillon aléatoire, est-ce ce que l'on appelle communément Rao-Blackwellization ? Dans l'ensemble, cela …

9 mcmc monte-carlo gibbs point-estimation rao-blackwell