Avantages de la distance de Jeffries Matusita

Selon certains articles que je lis, la distance de Jeffries et Matusita est couramment utilisée. Mais je n'ai pas trouvé beaucoup d'informations à ce sujet, sauf pour la formule ci-dessous

JMD (x, y) = $\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2}$

Elle est similaire à la distance euclidienne à l'exception de la racine carrée

E (x, y) = $\sqrt[2]{\sum(x_i-y_i)^2}$

La distance JM serait plus fiable que la distance euclidienne en termes de classification. Quelqu'un peut-il expliquer pourquoi cette différence améliore la distance JM?

classification k-nearest-neighbour euclidean

— romy_ngo
source

Je ne trouve pas de référence faisant autorité qui utilise cette formule pour la distance Jeffries-Matusita. Les formules que je trouve sont basées sur des matrices de covariance pour deux classes et semblent n'avoir aucun rapport avec celle donnée ici, mais il semble qu'il puisse y avoir deux (ou plus) choses différentes connues sous ce nom. Pourriez-vous fournir une référence ou (encore mieux) un lien? BTW, est-ce que et comptent par hasard? (Si c'est le cas, il existe une interprétation naturelle de votre formule.)

x_{i}

$x_i$

y_{i}

$y_i$

— whuber

@whuber: peut - être le et sont se substituer à et

x

$x$

y

$y$

p (x)

$p(x)$

q (x)

$q(x)$

— user603

@ user603 Oui, je pense que vous l'avez. Maintenant, les liens avec les divergences KL et la mesure Battacharyya deviennent apparents.

— whuber

Certaines différences clés, précédant une explication plus longue ci-dessous, sont les suivantes:

Point crucial: la distance Jeffries-Matusita s'applique aux distributions plutôt qu'aux vecteurs en général.
La formule de distance JM que vous citez ci-dessus ne s'applique qu'aux vecteurs représentant des distributions de probabilité discrètes (c'est-à-dire des vecteurs qui totalisent 1).
Contrairement à la distance euclidienne, la distance JM peut être généralisée à toutes les distributions pour lesquelles la distance Bhattacharrya peut être formulée.
La distance JM a, via la distance Bhattacharrya, une interprétation probabiliste.

La distance de Jeffries-Matusita, qui semble être particulièrement populaire dans la littérature de télédétection, est une transformation de la distance de Bhattacharrya (une mesure populaire de la dissimilarité entre deux distributions, notée ici ) à partir de la plage à la plage fixe : $b_{p,q}$ $[0, \inf)$ $[0, \sqrt{2}]$

J M_{p, q} = \sqrt{2 (1 - \exp (- b (p, q))}

$JM_{p,q}=\sqrt{2(1-\exp(-b(p,q))}$

Un avantage pratique de la distance JM, selon cet article, est que cette mesure "tend à supprimer les valeurs de séparabilité élevées, tout en surestimant les valeurs de séparabilité faibles".

La distance de Bhattacharrya mesure la dissimilarité de deux distributions et dans le sens continu abstrait suivant: Si les distributions et sont capturés par des histogrammes, représentés par des vecteurs de longueur unitaire (où le ème élément est le compte normalisé pour ème de cases) cela devient: Et par conséquent la distance JM pour les deux histogrammes est: Qui, en notant que pour les histogrammes normalisés $p$ $q$

b (p, q) = - \ln \int \sqrt{p (x) q (x)} d x

$b(p,q)=-\ln\int{\sqrt{p(x)q(x)}}dx$

p

$p$

q

$q$

i

$i$

i

$i$

N

$N$

b (p, q) = - \ln \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}}

$b(p,q)=-\ln\sum_{i=1}^{N}\sqrt{p_i\cdot q_i}$

J M_{p, q} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

\sum_{i} p_{i} = 1

$\sum_{i}{p_i}=1$ , est la même que la formule que vous avez donnée ci-dessus:

J M_{p, q} = \sqrt{\sum_{i = 1}^{N} {(\sqrt{p_{i}} - \sqrt{q_{i}})}^{2}} = \sqrt{\sum_{i = 1}^{N} (p_{i} - 2 \sqrt{p_{i}} \sqrt{q_{i}} + q_{i})} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{\sum_{i=1}^{N}{\left(\sqrt{p_i} - \sqrt{q_i}\right)^2}}=\sqrt{\sum_{i=1}^{N}{\left(p_i -2 \sqrt{p_i}\sqrt{q_i} + q_i \right)}}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

— rroowwllaanndd
source

+1 Merci d'avoir sauté et d'avoir fait cet effort très bien fait pour clarifier la situation.

— whuber