Statistiques et Big Data k-nearest-neighbour

1

Je suis nouveau dans les noyaux et j'ai rencontré un problème en essayant de noyauer kNN. Préliminaires J'utilise un noyau polynomiale: K(x,y)=(1+⟨x,y⟩)dK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d Votre kNN euclidien typique utilise la métrique de distance suivante: d(x,y)=||x−y||d(x,y)=||x−y||d(\mathbf{x}, \mathbf{y}) = \vert\vert \mathbf{x} - \mathbf{y} \vert\vert Soit mapper x dans …

12 machine-learning kernel-trick k-nearest-neighbour

3

Explication de la formule du point médian le plus proche de l'origine des N échantillons de l'unité de balle

Dans Elements of Statistical Learning , un problème est introduit pour mettre en évidence les problèmes de k-nn dans les espaces de grande dimension. Il y a NNN points de données qui sont uniformément distribués dans une boule d'unité ppp dimensionnelle. La distance médiane de l'origine au point de données …

11 self-study proof k-nearest-neighbour

3

Pourquoi devons-nous adapter un classifieur k-voisins les plus proches?

Si j'ai bien compris, k-NN est un algorithme d'apprentissage paresseux et il n'a pas besoin d'une phase de formation. Alors, pourquoi devons-nous utiliser .fit()avec sklearn et que se passe-t-il lorsque nous l'utilisons?

11 classification scikit-learn k-nearest-neighbour

1

Avantages de la distance de Jeffries Matusita

Selon certains articles que je lis, la distance de Jeffries et Matusita est couramment utilisée. Mais je n'ai pas trouvé beaucoup d'informations à ce sujet, sauf pour la formule ci-dessous JMD (x, y) =∑(xi−−√2−yi−−√2)2−−−−−−−−−−−−−√2∑(xi2−yi2)22\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2} Elle est similaire à la distance euclidienne à l'exception de la racine carrée E (x, y) …

11 classification k-nearest-neighbour euclidean

4

Malédiction de dimensionnalité: classificateur kNN

Je lis le livre de Kevin Murphy: Machine Learning-A probabilistic Perspective. Dans le premier chapitre, l'auteur explique la malédiction de la dimensionnalité et il y a une partie que je ne comprends pas. À titre d'exemple, l'auteur déclare: Considérez que les entrées sont uniformément réparties le long d'un cube unitaire …

11 self-study k-nearest-neighbour high-dimensional

1

VC-Dimension du k-plus proche voisin

Quelle est la dimension VC de l'algorithme k le plus proche voisin si k est égal au nombre de points d'apprentissage utilisés? Contexte: Cette question a été posée dans un cours que j'ai suivi et la réponse donnée était 0. Je ne comprends cependant pas pourquoi c'est le cas. Mon …

10 machine-learning self-study k-nearest-neighbour vc-dimension

1

Le théorème du déjeuner gratuit et la cohérence K-NN

Dans l'apprentissage informatique, le théorème de la NFL déclare qu'il n'y a pas d'apprenant universel. Pour chaque algorithme d'apprentissage, il existe une distribution qui amène l'apprenant à émettre une hypotesis avec une grande erreur, avec une probabilité élevée (bien qu'il y ait une hypotesis à faible erreur). La conclusion est …

10 k-nearest-neighbour consistency

2

K-plus proche voisin avec variables continues et binaires

J'ai un ensemble de données avec des colonnes a b c(3 attributs). aest numérique et continue tandis que bet csont catégoriques chacun avec deux niveaux. J'utilise la méthode K-Neighbors la plus proche de classer aet bsur c. Donc, pour pouvoir mesurer les distances, je transforme mon ensemble de données en …

10 r classification k-nearest-neighbour

4

Pourquoi KNN n'est-il pas «basé sur un modèle»?

Le chapitre 2.4 d' ESL semble classer la régression linéaire comme "basée sur un modèle", car elle suppose , alors qu'aucune approximation similaire n'est indiquée pour les k-voisins les plus proches. Mais les deux méthodes ne font-elles pas d'hypothèses sur ?f ( x )F( x ) ≈ x ⋅ βf(x)≈x⋅βf(x) …

10 machine-learning model k-nearest-neighbour

4

Étant donné une chaîne 10MC MCMC, comment puis-je déterminer son ou ses modes postérieurs dans R?

Question: Avec une chaîne MCMC à 10 dimensions, disons que je suis prêt à vous remettre une matrice des tirages: 100 000 itérations (lignes) par 10 paramètres (colonnes), comment identifier au mieux les modes postérieurs? Je suis particulièrement préoccupé par plusieurs modes. Contexte:Je me considère comme un statisticien averti en …

10 r bayesian mcmc k-nearest-neighbour mode

1

Comprendre kNN pour les données multidimensionnelles

Je comprends la prémisse de l'algorithme kNN pour les données spatiales. Et je sais que je peux étendre cet algorithme à utiliser sur n'importe quelle variable de données continue (ou données nominales avec distance de Hamming). Cependant, quelles stratégies sont utilisées pour traiter des données de dimension supérieure? Par exemple, …

10 machine-learning k-nearest-neighbour

1

Quel type de normalisation de données doit être utilisé avec KNN?

Je sais qu'il existe plus de deux types de normalisation. Par exemple, 1- Transformer les données en utilisant un z-score ou un t-score. Ceci est généralement appelé standardisation. 2- Redimensionner les données pour avoir des valeurs comprises entre 0 et 1. La question maintenant si j'ai besoin de normaliser Quel …

9 machine-learning normalization standardization k-nearest-neighbour

3

KNN: 1 voisin le plus proche

Ma question porte sur le classificateur du plus proche voisin et concerne une déclaration faite dans l'excellent livre The Elements of Statistical Learning, par Hastie, Tibshirani et Friedman. La déclaration est (p. 465, section 13.3): "Parce qu'il utilise uniquement le point d'apprentissage le plus proche du point d'interrogation, le biais …

9 classification k-nearest-neighbour

2

Erreur d'apprentissage dans le classificateur KNN lorsque K = 1

J'ai obtenu cette question dans un quiz, il a demandé quelle sera l'erreur de formation pour un classificateur KNN lorsque K = 1. Que signifie la formation pour un classificateur KNN? Ma compréhension du classificateur KNN était qu'il considère l'ensemble des données et attribue à toute nouvelle observation la valeur …

8 classification supervised-learning k-nearest-neighbour

3

Différents résultats après l'appariement du score de propension dans R

J'ai effectué l'appariement du score de prospérité (dans R en utilisant le package R "Matchit"). J'ai utilisé la méthode d'appariement "le plus proche voisin". Après l'appariement, j'ai comparé le traitement et le groupe témoin en fonction de leur variable de résultat. Pour cette comparaison, j'ai utilisé le test t. J'ai …

8 k-nearest-neighbour matching propensity-scores

Questions marquées «k-nearest-neighbour»