Statistiques et Big Data

1

Comment calculer sur l'échantillon R au carré?

Je sais que cela a probablement été discuté ailleurs, mais je n'ai pas pu trouver de réponse explicite. J'essaie d'utiliser la formule pour calculer hors échantillon d'un modèle de régression linéaire, où est la somme des carrés des résidus et est la somme totale des carrés. Pour l'ensemble de formation, …

10 regression machine-learning r-squared out-of-sample

2

Prédiction des besoins en mémoire CPU et GPU de la formation DNN

Disons que j'ai une architecture de modèle d'apprentissage en profondeur, ainsi qu'une taille de mini-lot choisie. Comment puis-je dériver de ces exigences de mémoire attendues pour la formation de ce modèle? Par exemple, considérons un modèle (non récurrent) avec une entrée de dimension 1000, 4 couches cachées entièrement connectées de …

10 deep-learning

1

Comment un estimateur qui minimise une somme pondérée de biais et de variance au carré s’inscrit-il dans la théorie de la décision?

D'accord - mon message d'origine n'a pas réussi à obtenir une réponse; alors, permettez-moi de poser la question différemment. Je commencerai par expliquer ma compréhension de l'estimation d'un point de vue théorique de la décision. Je n'ai aucune formation formelle et cela ne m'étonnerait pas si ma pensée était défectueuse …

10 bias loss-functions frequentist decision-theory risk

3

Meilleure façon d'évaluer les méthodes d'estimation PDF

Je souhaite tester certaines de mes idées qui me semblent meilleures que tout ce que j'ai vu. Je peux me tromper mais je voudrais tester mes idées et vaincre mes doutes par des observations plus certaines. Ce que j'ai pensé faire, c'est ce qui suit: Définissez analytiquement un ensemble de …

10 hypothesis-testing estimation pdf kernel-smoothing model-evaluation

4

Pourquoi une descente en pente est-elle nécessaire?

Quand nous pouvons différencier la fonction de coût et trouver des paramètres en résolvant des équations obtenues par différenciation partielle par rapport à chaque paramètre et savoir où la fonction de coût est minimale. Je pense aussi qu'il est possible de trouver plusieurs endroits où les dérivées sont nulles, ainsi …

10 machine-learning computational-statistics

3

Prévoir des données de séries chronologiques avec des variables externes

Actuellement, je travaille sur un projet de prévision d'une série chronologique (données mensuelles). J'utilise R pour faire les prévisions. J'ai 1 variable dépendante (y) et 3 variables indépendantes (x1, x2, x3). La variable y a 73 observations, tout comme les 3 autres variables (alos 73). De janvier 2009 à janvier …

10 time-series multiple-regression forecasting lags

4

Existe-t-il une formule pour une courbe en S avec domaine et plage [0,1]

Fondamentalement, je veux convertir les mesures de similitude en poids qui sont utilisés comme prédicteurs. Les similitudes seront sur [0,1], et je limiterai les poids à également sur [0,1]. J'aimerais une fonction paramétrique qui effectue cette cartographie que j'optimiserai probablement en utilisant la descente de gradient. Les exigences sont que …

10 optimization curve-fitting

1

Explication intuitive de la perte de journal

Dans plusieurs compétitions de kaggle, la notation était basée sur la "perte de log". Cela concerne l'erreur de classification. Voici une réponse technique mais je recherche une réponse intuitive. J'ai vraiment aimé les réponses à cette question sur la distance de Mahalanobis, mais PCA n'est pas logloss. Je peux utiliser …

10 interpretation intuition loss-functions

1

Interprétation du coefficient du ratio de Mills inverse

Comment interprétez-vous le coefficient du ratio de Mills inverse (lambda) dans le modèle Heckman en deux étapes ?

10 econometrics heckman selection-bias

1

Est-ce que les résidus étudiés sont des résidus standardisés v / s dans le modèle lm

Les «résidus étudiés» et les «résidus standardisés» sont-ils les mêmes dans les modèles de régression? J'ai construit un modèle de régression linéaire dans R et je voulais tracer le graphique des valeurs ajustées v / s des résidus Studentized, mais je n'ai pas trouvé de moyen automatisé de le faire …

10 r regression residuals terminology

2

Qu'est-ce qu'une matrice de covariance isotrope (sphérique)?

Quelqu'un pourrait-il m'expliquer en termes simples ce qu'est une matrice de covariance isotrope? Je ne trouve rien en ligne.

10 terminology covariance-matrix definition

3

Comment effectuer une régression de crête non négative?

Comment effectuer une régression de crête non négative? Le lasso non négatif est disponible en scikit-learn, mais pour la crête, je ne peux pas imposer la non-négativité des bêtas, et en effet, j'obtiens des coefficients négatifs. Est-ce que quelqu'un sait pourquoi c'est comme ça? De plus, puis-je implémenter ridge en …

10 regression lasso regularization ridge-regression

2

Comment prouver la coopération à partir de séquences comportementales

Situation: Deux oiseaux (mâle et femelle) protègent leurs œufs dans leur nid contre un intrus. Chaque oiseau peut utiliser une attaque ou une menace pour se protéger et être présent ou absent. Un schéma émerge des données selon lesquelles le comportement peut être complémentaire - les attaques masculines tandis que …

10 r sequence-analysis

2

Explication lucide de la «stabilité numérique de l'inversion matricielle» dans la régression des crêtes et son rôle dans la réduction de la surajustement

Je comprends que nous pouvons utiliser la régularisation dans un problème de régression des moindres carrés comme w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] et que ce problème a une solution de forme fermée comme: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. Nous voyons que dans la 2e équation, la régularisation consiste …

10 regression regularization ridge-regression overfitting matrix-inverse

1

Y a-t-il des applications où SVM est encore supérieur?

L'algorithme SVM est assez ancien - il a été développé dans les années 1960, mais était extrêmement populaire dans les années 1990 et 2000. C'est une partie classique (et assez belle) des cours d'apprentissage automatique. Aujourd'hui, il semble que dans le traitement des médias (images, son, etc.) les réseaux de …

10 machine-learning svm