Statistiques et Big Data

Récemment, j'ai récapitulé mes connaissances sur les séries temporelles et j'ai réalisé que l'apprentissage automatique ne donne généralement qu'une seule longueur d'avance. Par prévisions à un pas, j'entends des prévisions qui, par exemple, si nous avons des données horaires, utilisent les données de 10h à 11h et de 11h à …

9 machine-learning  time-series  forecasting  arima 

La définition la plus simple d'une statistique suffisante dans la perspective fréquentiste est donnée ici dans Wikipedia . Cependant, je suis récemment tombé sur un livre bayésien, avec la définition . Il est indiqué dans le lien que les deux sont équivalents, mais je ne vois pas comment. Aussi, dans …

9 bayesian  mathematical-statistics  sufficient-statistics 

J'essaie de modéliser et de prévoir une série chronologique qui est cyclique plutôt que saisonnière (c'est-à-dire qu'il y a des schémas saisonniers, mais pas avec une période fixe). Cela devrait être possible en utilisant un modèle ARIMA, comme mentionné dans la section 8.5 de la prévision: principes et pratique : …

9 time-series  forecasting  arima  seasonality 

J'ai récemment regardé cette conférence d'Eric J. Ma et vérifié son entrée sur le blog , où il cite Radford Neal, que les modèles bayésiens ne surajustent pas (mais ils peuvent suréquiper ) et lorsque vous les utilisez, nous n'avons pas besoin de jeux de test pour les valider (pour …

9 machine-learning  bayesian  cross-validation  deep-learning 

Fermé . Cette question doit être plus ciblée . Il n'accepte pas actuellement les réponses. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle se concentre sur un seul problème en modifiant ce post . Fermé il y a 2 ans . Je suis nouveau dans le …

9 machine-learning  classification  neural-networks  transfer-learning 

J'étudie la différence entre la régularisation dans la régression RKHS et la régression linéaire, mais j'ai du mal à saisir la différence cruciale entre les deux. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} où, avec quelques abus de notation, la i,ji,ji,j jième entrée de la matrice du …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Un pdf est généralement écrit comme , où le minuscule est traité comme une réalisation ou un résultat de la variable aléatoire qui a ce pdf. De même, un cdf est écrit comme , qui a la signification . Cependant, dans certaines circonstances, telles que la définition de la fonction …

9 random-variable  pdf  cdf  intuition 

Je recherche actuellement un aperçu des algorithmes d'apprentissage par renforcement et peut-être une classification de ceux-ci. Mais à côté de Sarsa et Q-Learning + Deep Q-Learning, je ne trouve pas vraiment d'algorithmes populaires. Wikipedia me donne un aperçu des différentes méthodes générales d'apprentissage par renforcement, mais il n'y a aucune …

9 reinforcement-learning  q-learning 

J'ai rencontré un comportement paradoxal de soi-disant "tests exacts" ou "tests de permutation", dont le prototype est le test de Fisher. C'est ici. Imaginez que vous avez deux groupes de 400 individus (par exemple 400 témoins contre 400 cas) et une covariable avec deux modalités (par exemple exposée / non …

9 power  permutation-test  fishers-exact 

J'essaie de comprendre le fonctionnement interne de Hamiltonian Monte Carlo (HMC), mais je ne peux pas comprendre pleinement la partie lorsque nous remplaçons l'intégration temporelle déterministe par une proposition Metropolis-Hasting. Je lis le génial article d'introduction A Conceptual Introduction to Hamiltonian Monte Carlo de Michael Betancourt, je vais donc suivre …

9 mcmc  monte-carlo  hmc 

Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Cela se produit par exemple parce que, si nous utilisons la fonction d'activation ReLU à l'intérieur d'un réseau profond, et supposons via le CLT que les entrées d'une couche donnée sont approximativement normales, alors c'est la distribution des sorties. (Je suis …

9 probability  distributions  normal-distribution  moments  censoring 

L'occurrence pas si rare lorsqu'il s'agit de modèles mixtes maximaux complexes (estimation de tous les effets aléatoires possibles pour des données et un modèle donnés) est parfaite (+1 ou -1) ou une corrélation presque parfaite entre certains effets aléatoires. Aux fins de la discussion, observons le modèle et le résumé …

9 r  correlation  mixed-model  lme4-nlme  covariance-matrix 

Supposons que nous faisons un exemple de jouet sur un gradient décent, minimisant une fonction quadratique , en utilisant une taille de pas fixe . ( )α = 0,03 A = [ 10 , 2 ; 2 , 3 ]xTAxxTAxx^TAxα=0.03α=0.03\alpha=0.03A=[10,2;2,3]A=[10,2;2,3]A=[10, 2; 2, 3] Si nous traçons la trace de à …

9 r  machine-learning  optimization  gradient-descent 

Si j'ai deux distributions symétriques différentes (par rapport à la médiane) et , la différence également une distribution symétrique (par rapport à la médiane)?XXXYYYX−YX−YX-Y

9 distributions  median 

Si , trouvez la distribution de .X∼C(0,1)X∼C(0,1)X\sim\mathcal C(0,1)Y=2X1−X2Y=2X1−X2Y=\frac{2X}{1-X^2} Nous avonsFY(y)=Pr(Y≤y)FY(y)=Pr(Y≤y)F_Y(y)=\mathrm{Pr}(Y\le y) =Pr(2X1−X2≤y)=Pr(2X1−X2≤y)\qquad\qquad\qquad=\mathrm{Pr}\left(\frac{2X}{1-X^2}\le y\right) =⎧⎩⎨⎪⎪⎪⎪⎪⎪Pr(X∈(−∞,−1−1+y2√y])+Pr(X∈(−1,−1+1+y2√y]),ify&gt;0Pr(X∈(−1,−1+1+y2√y])+Pr(X∈(1,−1−1+y2√y]),ify&lt;0={Pr(X∈(−∞,−1−1+y2y])+Pr(X∈(−1,−1+1+y2y]),ify&gt;0Pr(X∈(−1,−1+1+y2y])+Pr(X∈(1,−1−1+y2y]),ify&lt;0\qquad\qquad=\begin{cases} \mathrm{Pr}\left(X\in\left(-\infty,\frac{-1-\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y>0\\ \mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(1,\frac{-1-\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y<0 \end{cases} Je me demande si la distinction de cas ci-dessus est correcte ou non. D'un autre côté, la méthode suivante semble plus simple: On peut écrire utilisant l'identité \ frac {2 \ …

9 self-study  distributions  mathematical-statistics  random-variable