Statistiques et Big Data

2

Sélection de fonctionnalités pour les problèmes de clustering

J'essaie de regrouper différents ensembles de données en utilisant des algorithmes non supervisés (clustering). Le problème est que j'ai de nombreuses fonctionnalités (~ 500) et une petite quantité de cas (200-300). Jusqu'à présent, je ne faisais que des problèmes de classification pour lesquels j'avais toujours étiqueté les données comme des …

9 r clustering feature-selection unsupervised-learning

3

Réduire de moitié une variable aléatoire discrète?

Soit une variable aléatoire discrète prenant ses valeurs dans . Je voudrais diviser par deux cette variable, c'est-à-dire trouver une variable aléatoire telle que:NXXXNN\mathbb{N}OuiYY X= Y+ Y∗X=Y+Y∗X = Y + Y^* où Oui∗Y∗Y^* est une copie indépendante de OuiYY . Je parle de ce processus comme de la réduction de …

9 random-variable

1

Sélection du modèle original (?) Avec CV k-fold

Lors de l'utilisation de k-fold CV pour sélectionner parmi les modèles de régression, je calcule généralement l'erreur CV séparément pour chaque modèle, ainsi que son erreur standard SE, et je sélectionne le modèle le plus simple dans 1 SE du modèle avec l'erreur CV la plus faible (le 1 règle …

9 regression cross-validation model-selection

1

Pourquoi la colonne d'interception dans model.matrix remplace-t-elle le premier facteur?

J'essaie de convertir ma colonne de facteurs en variables factices: str(cards$pointsBin) # Factor w/ 5 levels ".lte100",".lte150",..: 3 2 3 1 4 4 2 2 4 4 ... labels <- model.matrix(~ pointsBin, data=cards) head(labels) # (Intercept) pointsBin.lte150 pointsBin.lte200 pointsBin.lte250 pointsBin.lte300 # 741 1 0 0 0 0 # 407 1 …

9 r categorical-data categorical-encoding

1

Impossible de faire fonctionner correctement ce réseau d'auto-encodeur (avec les couches convolutionnelles et maxpool)

Les réseaux de codage automatique semblent être beaucoup plus délicats que les réseaux MLP classificateurs normaux. Après plusieurs tentatives d'utilisation de la lasagne, tout ce que j'obtiens dans la sortie reconstruite ressemble à son mieux à une moyenne floue de toutes les images de la base de données MNIST sans …

9 machine-learning neural-networks dimensionality-reduction unsupervised-learning autoencoders

3

Ensemble de variables non corrélées mais linéairement dépendantes

Est-il possible d'avoir un ensemble de variables non corrélées mais linéairement dépendantes?KKK c'est-à-dire et∑ K i = 1 a i x i = 0cor(xi,xj)=0cor(xi,xj)=0cor(x_i, x_j)=0∑Ki=1aixi=0∑i=1Kaixi=0 \sum_{i=1}^K a_ix_i=0 Si oui, pouvez-vous écrire un exemple? EDIT: Des réponses, il s'ensuit que ce n'est pas possible. Serait-il au moins possible que où est …

9 correlation mathematical-statistics multicollinearity

1

Régression linéaire avec erreurs de Laplace

Considérons un modèle de régression linéaire: yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, où εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , c'est-à-dire , La distribution de Laplace avec 000 moyenne et paramètre d'échelle bbb , sont tous indépendants les uns des autres. Considérons …

9 regression laplace-distribution

1

Comment calculer la probabilité du résultat de ce mécanisme de roulement de dés alambiqué?

Cette question porte sur la probabilité de réussite d'un jeu de rôle. Cependant, la question et ses réponses ne couvrent pas certaines des complexités du mécanicien de dés. En particulier, il ne couvre pas du tout les bots (un résultat possible). Un joueur a un pool de dés, basé sur …

9 dice

1

Pourquoi les coefficients de régression linéaire et logistique ne peuvent-ils pas être estimés en utilisant la même méthode?

J'ai lu dans un livre d'apprentissage automatique que les paramètres de régression linéaire peuvent être estimés (entre autres méthodes) par descente de gradient, tandis que les paramètres de régression logistique sont généralement estimés par estimation de vraisemblance maximale. Est-il possible d'expliquer à un novice (moi) pourquoi nous avons besoin de …

9 regression logistic maximum-likelihood

3

Faites pivoter les composants PCA pour égaliser la variance de chaque composant

J'essaie de réduire la dimensionnalité et le bruit d'un ensemble de données en effectuant l'ACP sur l'ensemble de données et en jetant les derniers PC. Après cela, je veux utiliser certains algorithmes d'apprentissage automatique sur les PC restants, et donc je veux normaliser les données en égalisant la variance des …

9 variance pca factor-rotation

3

Quel est ce compromis biais-variance pour les coefficients de régression et comment le dériver?

Dans cet article , ( Inférence bayésienne pour les composants de la variance utilisant uniquement des contrastes d'erreur , Harville, 1974), l'auteur affirme pour être "bien connu" relation ", pour une régression linéaire où y = X β( y- Xβ)′H- 1( y- Xβ) = ( y- Xβ^)′H-1( y- Xβ^) +( …

9 regression regression-coefficients heteroscedasticity bias linear-algebra

1

Mise à jour d'un facteur Bayes

Un facteur bayésien est défini dans les tests bayésiens d'hypothèse et de sélection du modèle bayésien par le rapport de deux probabilités marginales: pour un échantillon iid et les densités d'échantillonnage respectives et , avec les a priori correspondants et , le facteur Bayes pour comparer les deux modèles est …

9 bayes marginal sequential-analysis bayes-factors

1

Peut-on toujours réécrire une distribution asymétrique droite en termes de composition d'une distribution arbitraire et symétrique?

Considérons une distribution deux fois différentiable et symétrique . Considérons maintenant une seconde distribution deux fois différentiable rigth asymétrique en ce sens que:FXFX\mathcal{F}_XFZFZ\mathcal{F}_Z (1)FX⪯cFZ.(1)FX⪯cFZ.(1)\quad\mathcal{F}_X\preceq_c\mathcal{F}_Z. où est l'ordre convexe de van Zwet [0] de sorte que est équivalent à:⪯c⪯c\preceq_c(1)(1)(1) (2)F−1ZFX(x) is convex ∀x∈R.(2)FZ−1FX(x) is convex ∀x∈R.(2)\quad F^{-1}_ZF_X(x)\text{ is convex $\forall x\in\mathbb{R}.$} …

9 distributions skewness

3

Comment puis-je savoir qu'il n'y a pas de tendance dans les résultats de l'ACP?

J'ai un ensemble de données de 1000+ échantillons de 19 variables. Mon objectif est de prédire une variable binaire basée sur les 18 autres variables (binaires et continues). Je suis assez confiant que 6 des variables de prédiction sont associées à la réponse binaire, cependant, je voudrais analyser davantage l'ensemble …

9 pca

2

Pourquoi la somme des résidus au carré n'augmente-t-elle pas lors de l'ajout d'une variable explicative?

Dans mon manuel d'économétrie (économétrie d'introduction) couvrant l'OLS, l'auteur écrit: "La RSS doit tomber lorsqu'une autre variable explicative est ajoutée." Pourquoi?

9 regression optimization econometrics intuition sums-of-squares