Какой тип нормализации данных следует использовать с KNN?

Я знаю, что существует более двух типов нормализации.

Например,

1- Преобразование данных с использованием z-показателя или t-показателя. Это обычно называется стандартизацией.

2- Изменение масштаба данных для получения значений от 0 до 1.

Теперь вопрос, нужно ли мне нормализовать

Какой тип нормализации данных следует использовать с KNN? и почему?

Для k-NN я бы предложил нормализовать данные между и .$0$$1$

k-NN использует евклидово расстояние как средство сравнения примеров. Для вычисления расстояния между двумя точками и , где - это значение признака :$x_1 = (f_1^1, f_1^2, ..., f_1^M)$$x_2 = (f_2^1, f_2^2, ..., f_2^M)$$f_1^i$$i$$x_1$

Чтобы все объекты имели одинаковую важность при расчете расстояния, они должны иметь одинаковый диапазон значений. Это возможно только путем нормализации.

Если они не были нормализованы и, например, функция имела диапазон значений в ), тогда как имела диапазон значений в . При расчете расстояния второй член будет в раз важнее первого, что приведет к тому, что k-NN будет больше полагаться на второй признак, чем на первый. Нормализация гарантирует, что все объекты отображаются в один и тот же диапазон значений.$f^1$$[0, 1$$f^2$$[1, 10)$$10$

Стандартизация, с другой стороны, имеет много полезных свойств, но не может гарантировать, что функции сопоставлены с тем же диапазоном. Хотя стандартизация может лучше всего подходить для других классификаторов, это не относится к k-NN или любому другому классификатору на основе расстояния.