«L'estimation de la densité du noyau» est une convolution de quoi?


25

J'essaie de mieux comprendre l'estimation de la densité du noyau.

En utilisant la définition de Wikipedia: https://en.wikipedia.org/wiki/Kernel_density_estimation#Definition

fh^(x)=1ni=1nKh(xxi)=1nhi=1nK(xxih)

Prenons pour être une fonction rectangulaire qui donne si est compris entre et et sinon, et (taille de fenêtre) pour être 1.K()1x0.50.50h

Je comprends que la densité est une convolution de deux fonctions, mais je ne suis pas sûr de savoir comment définir ces deux fonctions. L'un d'eux devrait (probablement) être une fonction des données qui, pour chaque point de R, nous indique combien de points de données nous avons à cet endroit (principalement ). Et l'autre fonction devrait probablement être une modification de la fonction du noyau, combinée avec la taille de la fenêtre. Mais je ne sais pas comment le définir.0

Aucune suggestion?

Ci-dessous est un exemple de code R qui (je soupçonne) reproduit les paramètres que j'ai définis ci-dessus (avec un mélange de deux Gaussiens et ), sur lequel j'espère voir une "preuve" que les fonctions à alambiquer sont comme nous le suspectons .n=100

# example code:
set.seed(2346639)
x <- c(rnorm(50), rnorm(50,2))
plot(density(x, kernel='rectangular', width=1, n = 10**4))
rug(x)

entrez la description de l'image ici


3
Votre tapis en bas donne une intuition approximative. Imaginez que chaque valeur de i = 1 à n soit un pic avec un poids associé 1 / n . Maintenant, étalez chaque pic en utilisant la forme et la largeur de votre noyau, de sorte que le pic soit transformé pour prendre la même forme et la même largeur, avec une hauteur telle que la zone ci-dessous soit 1 / n . Ajoutez les résultats et vous obtenez une estimation de la densité du noyau. xii=1n1/n1/n
Nick Cox

Salut Nick, merci pour le commentaire. Jusqu'ici dans l'intuition que j'ai déjà, c'est le transformer formellement en la forme de la convolution que j'étais curieux de voir :) (j'ai hâte de passer par la réponse de Whuber!)
Tal Galili

Réponses:


27

Correspond à tout lot de données X=(x1,x2,,xn) est sa «fonction de densité empirique»

fX(x)=1ni=1nδ(xxi).

Ici, δ est une "fonction généralisée". Malgré ce nom, ce n'est pas du tout une fonction: c'est un nouvel objet mathématique qui ne peut être utilisé que dans les intégrales. Sa propriété déterminante est que pour toute fonction g de support compact continu dans un voisinage de 0 ,

Rδ(x)g(x)dx=g(0).

(Les noms pour δ incluent la mesure "atomique" ou "ponctuelle" et la " fonction delta de Dirac " . Dans le calcul suivant, ce concept est étendu pour inclure les fonctions g qui sont continues d'un seul côté.)

La justification de cette caractérisation de fX est l'observation que

xfX(y)dy=x1ni=1nδ(yxi)dy=1ni=1nxδ(yxi)dy=1ni=1nRI(yx)δ(yxi)dy=1ni=1nI(xix)=FX(x)

FXI10RIX

fX(x)k

(fXk)(x)=RfX(xy)k(y)dy=R1ni=1nδ(xyxi)k(y)dy=1ni=1nRδ(xyxi)k(y)dy=1ni=1nk(xix).

k(x)=Kh(x)Kh(x)


1
La situation en deux dimensions est expliquée (en termes plus familiers) et illustrée sur le site SIG à gis.stackexchange.com/questions/14374/… .
whuber

1
Cher Whuber, je viens de lire et de lire votre réponse avec plaisir! Merci beaucoup pour l'explication et les détails, vos réponses (celle-ci et vos autres en général) sont vraiment inspirantes. Bien à vous, Tal
Tal Galili

1
δg,xig(xi).

1
@whuber Merci. La phrase La fonction généralisée δ n'est pas du tout une fonction: c'est un nouvel objet mathématique qui ne peut être utilisé qu'au sein d'intégrales. rendu plus clair. sur le point comme toujours. ;)
Jan Vainer

1
@Jan Merci pour votre aide: j'ai intégré cette idée dans cette réponse.
whuber
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.