Statistiques et Big Data

2

Estimation des paramètres avec des modèles linéaires généralisés

Par défaut, lorsque nous utilisons une glmfonction dans R, elle utilise la méthode des moindres carrés itérativement repondérés (IWLS) pour trouver l'estimation du maximum de vraisemblance des paramètres. Maintenant, j'ai deux questions. Les estimations IWLS garantissent-elles le maximum global de la fonction de vraisemblance? D'après la dernière diapositive de cette …

9 r estimation generalized-linear-model maximum-likelihood optimization

2

Pourquoi les résidus de Pearson d'une régression binomiale négative sont-ils plus petits que ceux d'une régression de poisson?

J'ai ces données: set.seed(1) predictor <- rnorm(20) set.seed(1) counts <- c(sample(1:1000, 20)) df <- data.frame(counts, predictor) J'ai couru une régression de poisson poisson_counts <- glm(counts ~ predictor, data = df, family = "poisson") Et une régression binomiale négative: require(MASS) nb_counts <- glm.nb(counts ~ predictor, data = df) Ensuite, j'ai calculé …

9 generalized-linear-model residuals negative-binomial poisson-regression dispersion

3

L'ICA doit-il d'abord exécuter PCA?

J'ai passé en revue un article basé sur l'application disant que l'application de l'APC avant d'appliquer l'ICA (en utilisant le package fastICA). Ma question est la suivante: ICA (fastICA) nécessite-t-il que PCA soit exécuté en premier? Ce document mentionne que ... il est également soutenu que la pré-application de l'ACP …

9 pca dimensionality-reduction pattern-recognition ica

2

Problème de pratique de l'algorithme EM

Il s'agit d'un problème de pratique pour un examen à mi-parcours. Le problème est un exemple d'algorithme EM. J'ai des problèmes avec la partie (f). J'énumère les parties (a) - (e) à compléter et au cas où j'aurais fait une erreur plus tôt. Soit des variables aléatoires exponentielles indépendantes avec …

9 self-study maximum-likelihood latent-variable expectation-maximization

2

Analyse de survie lorsque les covariables ne sont pas disponibles pour les données censurées

Je regarde le temps nécessaire aux juges pour prendre des décisions. Chaque juge évalue un certain nombre de candidats et peut approuver ou non la demande. L'affaire est finalisée lorsque le juge rend son rapport, ce qui peut prendre un certain temps après l'audience. Un certain nombre de dossiers étaient …

9 survival

4

Technique non orthogonale analogue à l'ACP

Supposons que j'ai un jeu de données ponctuelles 2D et que je veuille détecter les directions de tous les maxima locaux de variance dans les données, par exemple: L'ACP n'aide pas dans cette situation car il s'agit d'une décomposition orthogonale et ne peut donc pas détecter les deux lignes que …

9 pca dimensionality-reduction

1

Pourquoi la corrélation des résidus n'a-t-elle pas d'importance lors des tests de normalité?

Lorsque (c'est-à-dire que provient d'un modèle de régression linéaire), \ varepsilon \ sim \ mathcal {N} (0, \ sigma ^ 2 I) \ hspace {1em} \ Rightarrow \ hspace {1em} \ hat {e} = (I - H) Y \ sim \ mathcal {N} (0, (I - H) \ sigma ^ …

9 regression residuals non-independent

4

Comment faire un apprentissage automatique multivarié? (prédire plusieurs variables dépendantes)

Je cherche à prédire les groupes d'articles que quelqu'un achètera ... c'est-à-dire que j'ai plusieurs variables dépendantes colinéaires. Plutôt que de construire environ 7 modèles indépendants pour prédire la probabilité que quelqu'un achète chacun des 7 articles, puis de combiner les résultats, quelles méthodes devrais-je étudier pour avoir un modèle …

9 r machine-learning multivariate-analysis

3

Sélection de k nœuds dans la spline de lissage de régression équivalente à k variables catégorielles?

Je travaille sur un modèle de coût prédictif où l'âge du patient (une quantité entière mesurée en années) est l'une des variables prédictives. Une forte relation non linéaire entre l'âge et le risque d'hospitalisation est évidente: J'envisage une spline de lissage de régression pénalisée pour l'âge du patient. Selon The …

9 nonlinear-regression lasso ridge-regression smoothing splines

2

Si l'interaction ne m'intéresse pas, y a-t-il une raison d'exécuter une ANOVA bidirectionnelle au lieu de deux ANOVA unidirectionnelles?

Je veux dire toute raison autre que la commodité de pouvoir terminer l'analyse en une seule procédure.

9 anova

3

Si

Supposons la configuration suivante: Soit Zi=min{ki,Xi},i=1,...,nZi=min{ki,Xi},i=1,...,nZ_i = \min\{k_i, X_i\}, i=1,...,n . Aussi Xi∼U[ai,bi],ai,bi>0Xi∼U[ai,bi],ai,bi>0X_i \sim U[a_i, b_i], \; a_i, b_i >0 . De plus ki=cai+(1−c)bi,0<c<1ki=cai+(1−c)bi,0<c<1k_i = ca_i + (1-c)b_i,\;\; 0 k_i) = 1- \Pr(X_i \le k_i) =1−ki−aibi−ai=1−(1−c)(bi−ai)bi−ai=c=1−ki−aibi−ai=1−(1−c)(bi−ai)bi−ai=c= 1- \frac {k_i - a_i}{b_i-a_i} = 1-\frac {(1-c)(b_i-a_i)}{b_i-a_i} =c Donc, dans tous les FZi(zi)=⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪0zi<aizi−aibi−aiai≤zi<ki1ki≤ziFZi(zi)={0zi<aizi−aibi−aiai≤zi<ki1ki≤ziF_{Z_i}(z_i) …

9 distributions central-limit-theorem censoring minimum

2

Un intervalle de confiance étroit autour d'un effet non significatif peut-il prouver le nul?

Il est évidemment fallacieux de supposer que le fait de ne pas rejeter le null implique que le null est vrai. Mais dans un cas où le nul n'est pas rejetée et l'est étroite et centrée sur 0 intervalle de confiance (CI) correspondant, ne fournit pas cette preuve pour l'hypothèse …

9 hypothesis-testing statistical-significance confidence-interval

4

Qu'est-ce qu'une «distribution strictement positive»?

Je lis "Causality" de Judea Pearl (deuxième édition 2009) et dans la section 1.1.5 Indépendance conditionnelle et graphoïdes, il déclare: Voici une liste (partielle) de propriétés satisfaites par la relation d'indépendance conditionnelle (X_ || _Y | Z). Symétrie: (X_ || _ Y | Z) ==> (Y_ || _X | Z). …

9 self-study bayesian

2

Détection de point de commutation avec programmation probabiliste (pymc)

Je lis actuellement le livre " Programmation probabiliste et méthodes bayésiennes pour les pirates ". J'ai lu quelques chapitres et je pensais au premier chapitre où le premier exemple avec pymc consiste à détecter un point de sorcière dans les messages texte. Dans cet exemple, la variable aléatoire pour indiquer …

9 probability mcmc pymc change-point

1

Quand une règle de notation appropriée est-elle une meilleure estimation de la généralisation dans un cadre de classification?

Une approche typique pour résoudre un problème de classification consiste à identifier une classe de modèles candidats, puis à effectuer une sélection de modèle à l'aide d'une procédure telle que la validation croisée. Généralement, on sélectionne le modèle avec la plus grande précision, ou une fonction associée qui code des …

9 machine-learning model-selection error scoring-rules