Statistiques et Big Data

1

Pourquoi l'apprentissage par renforcement profond est-il instable?

Dans l'article de DeepMind de 2015 sur l'apprentissage par renforcement profond, il déclare que «les tentatives précédentes de combiner RL avec des réseaux de neurones ont échoué en grande partie en raison d'un apprentissage instable». L'article énumère ensuite certaines causes de cela, en fonction des corrélations entre les observations. S'il …

13 machine-learning neural-networks deep-learning reinforcement-learning

2

Approches conflictuelles de la sélection des variables: AIC, valeurs p ou les deux?

D'après ce que je comprends, la sélection de variables basée sur les valeurs de p (au moins dans le contexte de régression) est très imparfaite. Il semble que la sélection de variables basée sur AIC (ou similaire) soit également considérée comme imparfaite par certains, pour des raisons similaires, bien que …

13 hypothesis-testing multiple-regression feature-selection model-selection aic

2

La moyenne harmonique minimise la somme des erreurs relatives au carré

Je recherche une référence où il est prouvé que la moyenne harmonique x¯h=n∑ni=11xix¯h=n∑i=1n1xi\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} minimise (en ) la somme des erreurs relatives au carrézzz ∑i=1n((xi−z)2xi).∑i=1n((xi−z)2xi).\sum_{i=1}^n \left( \frac{(x_i - z)^2}{x_i}\right).

13 references mean error weighted-regression harmonic-mean

1

Modélisation de séries chronologiques de données circulaires

Je construis des modèles ARIMA pour certaines données vent / vagues. Je construis un modèle distinct pour chaque variable. Deux des variables que je dois modéliser sont la direction des vagues et du vent. Les valeurs sont en degrés (0-360 °). Est-il possible de modéliser ce type de données où …

13 time-series arima circular-statistics

2

Que nous disent r, r au carré et l'écart type résiduel sur une relation linéaire?

Petit historique Je travaille sur l'interprétation de l'analyse de régression mais je suis vraiment confus quant à la signification de r, r au carré et de l'écart-type résiduel. Je connais les définitions: Caractérisations r mesure la force et la direction d'une relation linéaire entre deux variables sur un nuage de …

13 r regression regression-coefficients linear pearson-r

2

KKT en bref graphiquement

Objectif Confirmez si la compréhension de KKT est correcte ou non. Cherchez plus d'explications et de confirmations sur KKT. Contexte Essayer de comprendre les conditions KKT, en particulier la condition complémentaire, qui apparaît toujours à l'improviste dans les articles SVM. Je n'ai pas besoin d'une liste de formules abstraites mais …

13 svm optimization lagrange-multipliers

3

Choix des hyperparamètres à l'aide de T-SNE pour la classification

En tant que problème spécifique avec lequel je travaille (une compétition), j'ai le réglage suivant: 21 fonctionnalités (numériques sur [0,1]) et une sortie binaire. J'ai environ 100 K rangées. Le cadre semble être très bruyant. Moi et d'autres participants appliquons la génération de fonctionnalités pendant un certain temps et l'intégration …

13 machine-learning dimensionality-reduction unsupervised-learning tsne

4

Comment la somme de deux variables peut-elle expliquer plus de variance que les variables individuelles?

J'obtiens des résultats déroutants pour la corrélation d'une somme avec une troisième variable lorsque les deux prédicteurs sont corrélés négativement. Qu'est-ce qui cause ces résultats déroutants? Exemple 1: corrélation entre la somme de deux variables et une troisième variable Considérons la formule 16.23 à la page 427 du texte de …

13 correlation multiple-regression

1

Solution de forme fermée au problème du lasso lorsque la matrice de données est diagonale

\newcommand{\diag}{\operatorname{diag}} Nous avons le problème: en supposant que: \ sum_ {i = 1} ^ nx_ix_i ^ T = \ diag (\ sigma_1 ^ 2, ..., \ sigma_d ^ 2).n Σ i=1xix T i =diag(σ 2 1 ,...,Σ 2 d ).minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),∑i=1nxixTi=diag(σ21,...,σ2d).∑i=1nxixiT=diag⁡(σ12,...,σd2).\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2). Existe-t-il une solution sous …

13 mathematical-statistics lasso computational-statistics regularization

2

Pourquoi les réseaux de neurones sont-ils facilement trompés?

J'ai lu des articles sur la création manuelle d'images pour "tromper" un réseau de neurones (voir ci-dessous). Est-ce parce que les réseaux ne modélisent que la probabilité conditionnelle ? Si un réseau peut modéliser la probabilité conjointe p ( y , x ) , de tels cas se produiront-ils toujours?p …

13 machine-learning neural-networks deep-learning

2

D'un point de vue statistique: transformée de Fourier vs régression avec base de Fourier

J'essaie de comprendre si la transformée de Fourier discrète donne la même représentation d'une courbe qu'une régression utilisant la base de Fourier. Par exemple, library(fda) Y=daily$tempav[,1] ## my data length(Y) ## =365 ## create Fourier basis and estimate the coefficients mybasis=create.fourier.basis(c(0,365),365) basisMat=eval.basis(1:365,mybasis) regcoef=coef(lm(Y~basisMat-1)) ## using Fourier transform fftcoef=fft(Y) ## compare …

13 fourier-transform functional-data-analysis

2

Quelle est l'origine des réseaux de neurones auto-encodeurs?

J'ai recherché sur Google, Wikipedia, Google scholar, et plus, mais je n'ai pas pu trouver l'origine des Autoencoders. C'est peut-être l'un de ces concepts qui a évolué très progressivement, et il est impossible de retracer un point de départ clair, mais je voudrais quand même trouver une sorte de résumé …

13 neural-networks autoencoders history

3

Pourquoi , mais ?

Sur cette page centrale AP Variables aléatoires vs Variables algébriques , l'auteur, Peter Flanagan-Hyde établit une distinction entre les variables algébriques et aléatoires. Il dit en partie x+x=2xx+x=2xx + x = 2x , mais X+X≠2XX+X≠2XX + X \neq 2X - en fait c'est le sous-titre de l'article. Quelle est la …

13 probability random-variable

2

Les données d'entrée corrélées entraînent-elles un sur-ajustement avec les réseaux de neurones?

À mon avis, les données d'entrée corrélées doivent conduire à un sur-ajustement dans les réseaux de neurones car le réseau apprend la corrélation, par exemple le bruit dans les données. Est-ce correct?

13 correlation neural-networks overfitting

3

Faire MCMC: utiliser jags / stan ou l'implémenter moi-même

Je suis nouveau dans la recherche sur les statistiques bayésiennes. J'ai entendu des chercheurs dire que les chercheurs bayésiens mettaient mieux en œuvre MCMC par eux-mêmes plutôt que d'utiliser des outils comme JAGS / Stan. Puis-je demander quel est l'avantage d'implémenter l'algorithme MCMC par soi-même (dans des langages "pas assez …

13 bayesian mcmc