Statistiques et Big Data

1

Cette question fait suite à stats.stackexchange.com/q/233658 Le modèle de régression logistique pour les classes {0, 1} est P(y=1|x)=exp(wTx)1+exp(wTx)P(y=0|x)=11+exp(wTx)P(y=1|x)=exp⁡(wTx)1+exp⁡(wTx)P(y=0|x)=11+exp⁡(wTx) \mathbb{P} (y = 1 \;|\; x) = \frac{\exp(w^T x)}{1 + \exp(w^T x)} \\ \mathbb{P} (y = 0 \;|\; x) = \frac{1}{1 + \exp(w^T x)} Clairement, ces probabilités sont à 1. En définissant …

8 logistic neural-networks multinomial-logit softmax identifiability

2

Comment représenter correctement les variables de différence dans les DAG?

Si je suis intéressé par les effets causals du changement d'une variable ( ) sur certains résultats ( ), comment pourrais-je représenter cela dans un graphique acyclique dirigé (DAG)?EEEOOO Supposons que , où et se produisent aux moments 1 et 2, un DAG correct serait-il: ΔE2=E2−E1ΔE2=E2-E1\Delta E_2 = E_2 - …

8 time-series dag

1

Les machines à vecteurs de support (SVM) sont la limite de température zéro de la régression logistique?

J'ai eu récemment une discussion rapide avec un ami bien informé qui a mentionné que les SVM sont la limite de température zéro de la régression logistique. La justification impliquait des polytopes marginaux et la dualité fenchel. Je n'ai pas pu suivre. Cette affirmation selon laquelle les SVM sont la …

8 logistic svm graphical-model exponential-family maximum-entropy

2

Sélection adaptative du nombre de répliques bootstrap

Comme pour la plupart des méthodes Monte Carlo, la règle de bootstrap est que plus le nombre de répliques est élevé, plus l'erreur Monte Carlo est faible. Mais les rendements diminuent, il n'est donc pas logique d'exécuter autant de répliques que possible. Supposons que vous vouliez vous assurer que votre …

8 bootstrap

1

Interprétation des coefficients de régression basés sur la méthode de redimensionnement d'Andrew Gelman

J'ai deux prédicteurs dans un modèle de régression logistique binaire: un binaire et un continu. Mon objectif principal est de comparer les coefficients des deux prédicteurs au sein d'un même modèle. Je suis tombé sur la suggestion d'Andrew Gelman de standardiser les variables d'entrée de régression continue: I) Proposition originale …

8 regression logistic regression-coefficients standardization scales

1

Distribution de

Je travaille sur le problème suivant: Soit et des variables aléatoires indépendantes de densité commune où . Soit U = \ min (X, Y) et V = \ max (X, Y) . Trouvez la densité conjointe de (U, V) et donc trouver le pdf de U + V .XXXYYYf(x)=αβ−αxα−110<x<βf(x)=αβ−αxα−110<x<βf(x)=\alpha\beta^{-\alpha}x^{\alpha-1}\mathbf1_{0<x<\beta}α⩾1α⩾1\alpha\geqslant1U=min(X,Y)U=min(X,Y)U=\min(X,Y)V=max(X,Y)V=max(X,Y)V=\max(X,Y)(U,V)(U,V)(U,V)U+VU+VU+V Comme …

8 self-study distributions mathematical-statistics random-variable

1

Intervalles de prédiction pour le résultat d'une régression logistique avec réponse binomiale

Supposons que nous ayons un modèle de régression logistique: P(y=1|x)log(p1−p)=p=βxP(y=1|x)=plog⁡(p1−p)=βx\begin{align} P(y=1\vert\mathbf{x}) &= p \\ \log\left(\frac{p}{1-p}\right) &= \boldsymbol{\beta}\mathbf{x} \end{align} Étant donné un échantillon aléatoire D={X,y}D={X,y}D=\{\mathbf{X},\mathbf{y}\} de taille NNN , nous pouvons calculer les intervalles de confiance pour le ββ\boldsymbol{\beta} et les intervalles de prédiction correspondants pour ppp , étant donné une …

8 logistic binomial prediction-interval

3

La «taille de bac» dans un histogramme peut-elle être considérée comme une contrainte de régularité?

En pensant à un histogramme comme une estimation de la fonction de densité, est-il raisonnable de penser à la taille du bac comme un paramètre qui contraint la structure locale de cette fonction? Existe-t-il également une meilleure façon d'articuler ce raisonnement?

8 machine-learning distributions regularization histogram binning

1

Distance minimale attendue d'un point de densité variable

J'examine comment la distance euclidienne minimale attendue entre des points uniformément aléatoires et l'origine change à mesure que nous augmentons la densité de points aléatoires ( points par unité de carré ) autour de l'origine. J'ai réussi à trouver une relation entre les deux décrits comme tels: Distance minimale prévue …

8 r expected-value monte-carlo uniform minimum

1

Analyse statistique des aigles en voie de disparition

Des aigles marqués par satellite disparaissent en Écosse, et le tableau ci-dessus montre le sort des balises par modèle de balise. Je suis particulièrement intéressé par ces étiquettes qui sont «arrêtées - pas de dysfonctionnement», car il est possible que ces oiseaux soient également tués et que les corps et …

8 statistical-significance categorical-data missing-data

3

Quel est le pire qui puisse arriver lorsque l'hypothèse d'homoscédasticité est violée dans l'ANOVA?

Ceci est une question de suivi que j'ai après avoir examiné ce post: Différence de test statistique des moyennes pour les données hétéroscédastiques non normales? Pour être clair, je demande dans une perspective pragmatique (ne pas suggérer que les réponses théoriques ne sont pas les bienvenues). Lorsque la normalité entre …

8 anova heteroscedasticity assumptions

2

Point technique sur la convergence avec l'attente conditionnelle

J'ai une séquence de variables non négatives telles que: XnXnX_nE(Xn|Cn)=Cnn2E(Xn|Cn)=Cnn2E(X_n|C_n)=\frac{C_n}{n^2} où est une séquence de variables aléatoires convergeant presque sûrement vers .CnCnC_n111 Puis-je conclure que tend à 0 presque sûrement?XnXnX_n Remarque: vous pouvez remplacer par n'importe quelle séquence à somme finie. La question reste essentiellement la même et la réponse …

8 probability convergence conditional-expectation

2

Can soit supérieur à 1?

La page Wikipedia sur R2 dit que peut prendre une valeur supérieure à 1. Je ne vois pas comment cela est possible.R2R2R^2 Des valeurs de R2R2R^2 dehors de la plage de 0 à 1 peuvent apparaître lorsqu'elles sont utilisées pour mesurer l'accord entre les valeurs observées et modélisées et lorsque …

8 regression r-squared

1

Les variables aléatoires suivent-elles les mêmes règles algébriques que les nombres ordinaires?

Dans les commentaires sur ma réponse à une question récente sur la somme des variables aléatoires , je suis tombé sur un lien vers l'article de Wikipedia sur la distribution des ratios , et j'ai remarqué la revendication particulière suivante: Les règles algébriques connues avec des nombres ordinaires ne s'appliquent …

8 mathematical-statistics random-variable definition ratio

1

Pourquoi MAP converge-t-il vers MLE?

Dans "L'apprentissage automatique: une perspective probabiliste" de Kevin Murphy, le chapitre 3.2, l'auteur montre l'apprentissage conceptuel bayésien sur un exemple appelé "jeu de nombres": Après avoir observé NNN des échantillons de {1,...,100}{1,...,100}\{1,...,100\}, nous voulons choisir une hypothèse qui décrit le mieux la règle qui a généré les échantillons. Par exemple, …

8 self-study bayesian maximum-likelihood convergence