Statistiques et Big Data

Bien que j'aime à penser que j'ai une bonne compréhension du concept de l'information préalable dans l'analyse statistique et la prise de décision bayésienne, j'ai souvent du mal à comprendre ma demande. Je pense à quelques situations qui illustrent mes luttes et je pense qu'elles ne sont pas correctement traitées …

9 bayesian  prior  rule-of-thumb  elicitation 

Les valeurs typiques de l'AIC que j'ai vues pour les modèles logistiques sont en milliers, au moins en centaines. par exemple sur http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ l'AIC est 727.39 Bien qu'il soit toujours dit que l'AIC ne devrait être utilisé que pour comparer des modèles, je voulais comprendre ce que signifie une valeur …

9 regression  model-selection  aic  accuracy 

J'ai eu beaucoup de mal à concilier ma compréhension intuitive des distributions de probabilités avec les propriétés étranges que possèdent presque toutes les topologies sur les distributions de probabilités. Par exemple, considérons une variable aléatoire de mélange : choisissez une gaussienne centrée sur 0 avec la variance 1, et avec …

9 mathematical-statistics  convergence  central-limit-theorem  topologies 

Supposons la séquence unidimensionnelle suivante: A, B, C, Z, B, B, #, C, C, C, V, $, W, A, % ... Les lettres A, B, C, ..ici représentent des événements «ordinaires». Les symboles #, $, %, ...ici représentent des événements «spéciaux» L'espacement temporel entre tous les événements est non uniforme …

9 time-series  deep-learning  rare-events  lstm  sequential-pattern-mining 

Ce ne sont pas des devoirs. Soit XXX une variable aléatoire. Si E[X]=k∈RE[X]=k∈R\mathbb{E}[X] = k \in \mathbb{R} et Var[X]=0Var[X]=0\text{Var}[X] = 0 , est-ce que Pr(X=k)=1Pr(X=k)=1\Pr\left(X = k\right) = 1 ? Intuitivement, cela semble évident, mais je ne sais pas comment je le prouverais. Je sais pertinemment que d'après les hypothèses, …

9 probability 

Après avoir lu de nombreux articles d'apprentissage en profondeur, une sorte de sentiment brutal est qu'il existe de nombreuses astuces pour entraîner le réseau à obtenir des performances supérieures à la normale. Du point de vue des applications de l'industrie, il est très difficile de développer ce genre de trucs, …

9 machine-learning  deep-learning  deep-belief-networks 

Je voudrais dessiner efficacement des échantillons partir de sous la contrainte que .x∈Rdx∈Rdx \in \mathbb{R}^dN(μ,Σ)N(μ,Σ)\mathcal{N}(\mu, \Sigma)||x||2=1||x||2=1||x||_2 = 1

9 distributions  normal-distribution  sampling  multivariate-normal  importance-sampling 

Contexte: J'ai un échantillon que je veux modéliser avec une distribution à queue lourde. J'ai des valeurs extrêmes, telles que la diffusion des observations est relativement importante. Mon idée était de modéliser cela avec une distribution Pareto généralisée, et c'est ce que j'ai fait. Maintenant, le quantile 0,975 de mes …

9 confidence-interval  quantiles  asymptotics  order-statistics 

Supposons que les variables aléatoires et sont indépendantes et distribuées. Montrer que a un \ texte {Exp} (1) distribution.X1,...,XnX1,...,XnX_1, ... , X_nY1,...,YnY1,...,YnY_1, ..., Y_nU(0,a)U(0,a)U(0,a)Zn=nlogmax(Y(n),X(n))min(Y(n),X(n))Zn=nlog⁡max(Y(n),X(n))min(Y(n),X(n))Z_n= n\log\frac{\max(Y_{(n)},X_{(n)})}{\min(Y_{(n)},X_{(n)})}Exp(1)Exp(1)\text{Exp}(1) J'ai commencé ce problème en définissant {X1,...,Xn,Y1,...Yn}={Z1,...,Zn}{X1,...,Xn,Y1,...Yn}={Z1,...,Zn}\{X_1,...,X_n,Y_1,...Y_n\} = \{Z_1,...,Z_n\} Puis le max(Yn,Xn)=Z(2n)max(Yn,Xn)=Z(2n)\max(Y_n,X_n)= Z_{(2n)} serait distribué comme (za)2n(za)2n(\frac{z}{a})^{2n} et min(Yn,Xn)=Z(1)min(Yn,Xn)=Z(1)\min(Y_n,X_n)= Z_{(1)} serait distribué comme 1−(1−za)2n1−(1−za)2n1 - …

9 self-study  data-transformation  order-statistics 

Il existe une abondance de ressources bien connues offrant des conseils sur la visualisation des données. (Par exemple, Tufte, Stephen Few et al , Nathan Yau .) Mais vers quel (s) domaine (s) peut-on se tourner pour obtenir des réponses à des questions comme celles-ci: La critique du diagramme circulaire …

9 data-visualization  interpretation  terminology  presentation 

Je suppose une configuration générale de régression, c'est-à-dire qu'une fonction continue est choisie dans une famille pour s'adapter aux données données ( peut être n'importe quel espace tel que cube ou en fait tout espace topologique raisonnable) selon certains critères naturels.hθ: X→ Rnhθ:X→Rnh_\theta:X\to \mathbb R^n{ hθ}θ{hθ}θ\{h_\theta\}_\theta( xje, yje) ∈ X× …

9 regression  machine-learning  multiple-regression 

On m'a demandé de proposer un cours de conception expérimentale pour des étudiants diplômés avancés en agronomie et écologie. Je n'ai jamais suivi un tel cours, et j'ai été surpris de constater que le cours pourrait être mieux nommé "Au-delà de l'ANOVA unidirectionnelle", et qu'il couvre des matières que j'ai …

9 references  experiment-design  teaching 

C'est en fait l'un des problèmes de la 4ème édition de Gujarati Basic Econometrics (Q3.11) et dit que le coefficient de corrélation est invariant par rapport au changement d'origine et d'échelle, c'est-à-dire où , , , sont des constantes arbitraires.corr(aX+b,cY+d)=corr(X,Y)corr(aX+b,cY+d)=corr(X,Y)\text{corr}(aX+b, cY+d) = \text{corr}(X,Y)aaabbbcccddd Mais ma principale question est la suivante: …

9 self-study  correlation  linear-algebra  mathematical-statistics 

Je pensais résoudre le Lasso via des méthodes de premier cycle à la vanille. Mais j'ai lu des gens suggérant d'utiliser la descente du gradient proximal. Quelqu'un peut-il souligner pourquoi la méthode proximale GD au lieu de la vanille est utilisée pour le Lasso?

9 machine-learning  optimization  lasso  gradient-descent 

On a beaucoup parlé de l'importance des distributions normales dans la nature. Un grand nombre de mesures comme la taille ou le poids sont réparties approximativement normalement. Mais aucun d'eux n'est exactement normal, autant que je sache. Considérant que la distribution normale est l'une des distributions d'entropie maximales , il …

9 normal-distribution  normality-assumption