Плюсы дистанции Джеффриса Матуситы

Согласно какой-то статье, которую я читаю, расстояние Джеффриса и Матуситы обычно используется. Но я не мог найти много информации об этом, кроме формулы ниже

JMD (x, y) = $\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2}$

Это похоже на евклидово расстояние, за исключением квадратного корня

E (x, y) = $\sqrt[2]{\sum(x_i-y_i)^2}$

JM расстояние считается более надежным, чем евклидово расстояние с точки зрения классификации. Кто-нибудь может объяснить, почему эта разница делает расстояние JM лучше?

classification k-nearest-neighbour euclidean

— romy_ngo
источник

Я не могу найти авторитетную ссылку, которая использует эту формулу для расстояния Джеффриса-Матуситы. Формулы, которые я нахожу, основаны на ковариационных матрицах для двух классов и, по-видимому, не имеют отношения к приведенному здесь, но кажется, что могут быть две (или более) разные вещи, известные под этим именем. Не могли бы вы предоставить ссылку или (еще лучше) ссылку? Кстати, это и рассчитывает на какой -то шанс? (Если так, то есть естественная интерпретация вашей формулы.)

x_{i}

$x_i$

y_{i}

$y_i$

— whuber

@whuber: может быть, и являются стоять в течение и

x

$x$

y

$y$

p (x)

$p(x)$

q (x)

$q(x)$

— user603

@ user603 Да, я думаю, ты понял. Теперь связь с расхождениями KL и мерой Баттачарья становится очевидной.

— whuber

Некоторые ключевые отличия, предшествующие более подробному объяснению ниже, заключаются в том, что:

Важно отметить, что расстояние Джеффриса-Матуситы относится к распределениям, а не к векторам в целом.
Формула расстояния JM, которую вы цитируете выше, применима только к векторам, представляющим дискретные распределения вероятностей (т.е. к векторам, сумма которых равна 1).
В отличие от евклидова расстояния, расстояние JM может быть обобщено на любые распределения, для которых можно сформулировать расстояние Бхаттачарры.
Расстояние JM, через расстояние Bhattacharrya, имеет вероятностную интерпретацию.

Расстояние Джеффриса-Матуситы, которое, по-видимому, особенно популярно в литературе по дистанционному зондированию, представляет собой преобразование расстояния Бхаттачаррии (популярный показатель различия между двумя распределениями, обозначаемый здесь как ) из диапазона к фиксированному диапазону : $b_{p,q}$ $[0, \inf)$ $[0, \sqrt{2}]$

J M_{p, q} = \sqrt{2 (1 - \exp (- b (p, q))}

$JM_{p,q}=\sqrt{2(1-\exp(-b(p,q))}$

Согласно этой статье практическое преимущество расстояния JM состоит в том, что эта мера "имеет тенденцию подавлять высокие значения отделимости, в то же время переоценивая низкие значения отделимости".

Расстояние Бхаттачарры измеряет различие двух распределений и в следующем абстрактном непрерывном смысле: если распределения и захвачены гистограммами, представленными векторами длины единицы (где й элемент является нормализованным числом для го из бинов), это становится: И, следовательно, расстояние JM для двух гистограмм: Что, учитывая, что для нормализованных гистограмм $p$ $q$

b (p, q) = - \ln \int \sqrt{p (x) q (x)} d x

$b(p,q)=-\ln\int{\sqrt{p(x)q(x)}}dx$

p

$p$

q

$q$

i

$i$

i

$i$

N

$N$

b (p, q) = - \ln \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}}

$b(p,q)=-\ln\sum_{i=1}^{N}\sqrt{p_i\cdot q_i}$

J M_{p, q} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

\sum_{i} p_{i} = 1

$\sum_{i}{p_i}=1$ , совпадает с формулой, которую вы дали выше:

J M_{p, q} = \sqrt{\sum_{i = 1}^{N} {(\sqrt{p_{i}} - \sqrt{q_{i}})}^{2}} = \sqrt{\sum_{i = 1}^{N} (p_{i} - 2 \sqrt{p_{i}} \sqrt{q_{i}} + q_{i})} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{\sum_{i=1}^{N}{\left(\sqrt{p_i} - \sqrt{q_i}\right)^2}}=\sqrt{\sum_{i=1}^{N}{\left(p_i -2 \sqrt{p_i}\sqrt{q_i} + q_i \right)}}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

— rroowwllaanndd
источник

+1 Большое спасибо за то, что прыгнули и сделали это очень хорошо сделанное усилие, чтобы прояснить ситуацию.

— whuber