Statistiques et Big Data kernel-trick

1

J'étudie la différence entre la régularisation dans la régression RKHS et la régression linéaire, mais j'ai du mal à saisir la différence cruciale entre les deux. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} où, avec quelques abus de notation, la i,ji,ji,j jième entrée de la matrice du …

9 regression generalized-linear-model regularization kernel-trick rbf-kernel

2

Quel noyau SVM utiliser pour un problème de classification binaire?

Je suis un débutant en matière de prise en charge des machines vectorielles. Existe-t-il des directives qui indiquent quel noyau (par exemple linéaire, polynomial) est le mieux adapté à un problème spécifique? Dans mon cas, je dois classer les pages Web selon qu'elles contiennent ou non des informations spécifiques, c'est-à-dire …

9 classification svm model-selection libsvm kernel-trick

2

Utilisation du paramètre Gamma avec des machines à vecteurs de support

Lors de l'utilisation libsvm, le paramètre est un paramètre de la fonction noyau. Sa valeur par défaut est configurée comme γ = 1γγ\gammaγ= 1nombre de fonctionnalités.γ=1nombre de fonctionnalités.\gamma = \frac{1}{\text{number of features.}} Existe-t-il des directives théoriques pour la configuration de ce paramètre en plus des méthodes existantes, par exemple, la …

9 machine-learning svm data-mining libsvm kernel-trick

2

Est-il possible d'utiliser le noyau PCA pour la sélection des fonctionnalités?

Est-il possible d'utiliser l'analyse du composant principal du noyau (kPCA) pour l'indexation sémantique latente (LSI) de la même manière que PCA est utilisé? J'exécute LSI dans R en utilisant la prcompfonction PCA et j'extrais les caractéristiques avec les charges les plus élevées à partir des premiers composants. Par cela, j'obtiens …

9 r pca feature-selection kernel-trick

1

Covariance dans le processus gaussien

Je suis un peu confus quant à la formule de calcul de la covariance dans le processus gaussien (l'ajout de variance me confond toujours car il n'est pas toujours explicitement indiqué). L'origine de la confusion est que les formules sont données dans Pattern Recognition et Machine Learning par Bishop et …

8 machine-learning covariance covariance-matrix kernel-trick gaussian-process

1

Quels sont les avantages des méthodes d'apprentissage du noyau multiple (MKL)?

Les méthodes d'apprentissage à noyaux multiples visent à construire un modèle de noyau où le noyau est une combinaison linéaire de noyaux à base fixe. L'apprentissage du noyau consiste alors à apprendre les coefficients de pondération pour chaque noyau de base, plutôt que d'optimiser les paramètres du noyau d'un seul …

8 machine-learning svm kernel-trick

1

Classification SVM non linéaire avec noyau RBF

J'implémente un classificateur SVM non linéaire avec le noyau RBF. On m'a dit que la seule différence avec un SVM normal était que je devais simplement remplacer le produit scalaire par une fonction du noyau: Je sais comment fonctionne un SVM linéaire normal, c'est-à-dire qu'après avoir résolu le problème d'optimisation …

8 classification svm kernel-trick nonlinear

3

Test post hoc dans une conception mixte 2x3 ANOVA utilisant SPSS?

J'ai deux groupes de 10 participants qui ont été évalués trois fois au cours d'une expérience. Pour tester les différences entre les groupes et entre les trois évaluations, j'ai exécuté une ANOVA de conception mixte 2x3 avec group(contrôle, expérimental), time(premier, deuxième, trois) et group x time. Les deux timeet grouprésulté …

8 anova mixed-model spss post-hoc bonferroni time-series unevenly-spaced-time-series classification normal-distribution discriminant-analysis probability normal-distribution estimation sampling classification svm terminology pivot-table random-generation self-study estimation sampling estimation categorical-data maximum-likelihood excel least-squares instrumental-variables 2sls total-least-squares correlation self-study variance unbiased-estimator bayesian mixed-model ancova statistical-significance references p-value fishers-exact probability monte-carlo particle-filter logistic predictive-models modeling interaction survey hypothesis-testing multiple-regression regression variance data-transformation residuals minitab r time-series forecasting arima garch correlation estimation least-squares bias pca predictive-models genetics sem partial-least-squares nonparametric ordinal-data wilcoxon-mann-whitney bonferroni wilcoxon-signed-rank traminer regression econometrics standard-error robust misspecification r probability logistic generalized-linear-model r-squared effect-size gee ordered-logit bayesian classification svm kernel-trick nonlinear bayesian pca dimensionality-reduction eigenvalues probability distributions mathematical-statistics estimation nonparametric kernel-smoothing expected-value filter mse time-series correlation data-visualization clustering estimation predictive-models recommender-system sparse hypothesis-testing data-transformation parametric probability summations correlation pearson-r spearman-rho bayesian replicability dimensionality-reduction discriminant-analysis outliers weka

Questions marquées «kernel-trick»