Метрика

Материал из MachineLearning.

Версия от 22:48, 9 июля 2026; Iurii Patrakov (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск
Статья написана с использованием LLM GPT-5.5 и проверена участником Iurii Patrakov 02:48, 10 июля 2026 (MSD)


Метрика — это функция расстояния на множестве объектов, которая каждой паре объектов ставит в соответствие неотрицательное число и удовлетворяет аксиомам тождества, симметрии и неравенства треугольника. В машинном обучении метрика задаёт, какие объекты считать близкими или похожими, а какие — существенно различными; от этого зависят кластеризация, метод ближайших соседей, поиск похожих объектов, понижение размерности и многие методы анализа данных. Следует отличать метрику как расстояние от метрики качества модели: точность, полнота, F-мера и другие показатели качества обычно являются числовыми критериями, но не обязательно являются метриками в математическом смысле.

Содержание

Определение

Пусть X — непустое множество. Функция

d:X\times X\to [0,\infty)

называется метрикой на X, если для любых x,y,z\in X выполнены условия:

  1. d(x,y)=0 тогда и только тогда, когда x=y;
  2. d(x,y)=d(y,x) — симметрия;
  3. d(x,z)\leq d(x,y)+d(y,z) — неравенство треугольника.

Пара (X,d) называется метрическим пространством. Интуитивно метрика формализует идею расстояния: объект находится на нулевом расстоянии только от самого себя, расстояние не зависит от порядка сравнения, а путь через промежуточную точку не короче прямого пути.

Если нарушается первое условие, говорят о псевдометрике: разные объекты могут иметь нулевое расстояние. Если нарушается симметрия, возникают квазиметрики, полезные для направленных графов, стоимостей перехода и некоторых задач ранжирования. В прикладных задачах также часто используют меры несходства, которые похожи на расстояния, но не обязаны удовлетворять всем аксиомам метрики.

Примеры

Наиболее распространённые метрики в анализе данных:

  • Евклидова метрика:
d(x,y)=\sqrt{\sum_i (x_i-y_i)^2}.

Она соответствует обычному геометрическому расстоянию и часто используется для числовых признаков после нормировки.

  • Манхэттенская метрика:
d(x,y)=\sum_i |x_i-y_i|.

Она измеряет расстояние как сумму покоординатных отличий и может быть устойчивее евклидовой метрики при разреженных или высокоразмерных данных.

  • Метрика Минковского:
d_p(x,y)=\left(\sum_i |x_i-y_i|^p\right)^{1/p},\quad p\geq 1.

Евклидова и манхэттенская метрики являются её частными случаями.

  • Расстояние Чебышёва:
d(x,y)=\max_i |x_i-y_i|.

Оно учитывает наибольшее покоординатное отклонение.

  • Расстояние Хэмминга — число несовпадающих позиций в строках или векторах одинаковой длины. Используется для бинарных признаков, кодов, категориальных описаний и задач исправления ошибок.
  • Расстояние редактирования Левенштейна — минимальное число вставок, удалений и замен символов, необходимых для преобразования одной строки в другую. Применяется в обработке текстов, биоинформатике и поиске опечаток.
  • Расстояние Жаккара для множеств:
d(A,B)=1-\frac{|A\cap B|}{|A\cup B|}.

Используется для сравнения множеств признаков, словарей, покупательских корзин и других разреженных объектов.

  • Косинусная мера несходства часто определяется как 1-\cos(x,y). Она популярна в информационном поиске и обработке текстов, но в таком виде не всегда является строгой метрикой. Для нормированных векторов вместо неё можно рассматривать угловое расстояние.

Исторический контекст

Понятие метрики выросло из геометрии и математического анализа. В классической геометрии расстояние было связано прежде всего с евклидовым пространством. В XIX веке развитие неевклидовой геометрии, теории функций и топологии привело к более абстрактному пониманию близости и сходимости. В начале XX века Морис Фреше ввёл аксиоматическое понятие метрического пространства, позволившее рассматривать расстояния между объектами произвольной природы: точками, функциями, последовательностями, множествами, строками и вероятностными распределениями.

Для анализа данных это обобщение оказалось принципиальным. Объектами могут быть не только точки в \mathbb{R}^n, но и тексты, изображения, графы, временные ряды, пользователи, документы, молекулы или распределения. Задача исследователя состоит не только в выборе алгоритма, но и в выборе пространства, в котором сравнение объектов имеет содержательный смысл.

Роль в машинном обучении

Метрика отвечает на один из базовых вопросов искусственного интеллекта: что значит быть похожим? Во многих алгоритмах это не техническая деталь, а часть постановки задачи.

В методе ближайших соседей предсказание для нового объекта определяется объектами обучающей выборки, находящимися на минимальном расстоянии. В кластеризации метрика задаёт форму и смысл кластеров: при евклидовой метрике близость геометрическая, при расстоянии Жаккара — основана на совпадении множеств, при редактировании — на сходстве строк. В методах с ядрами расстояния и меры сходства определяют, какие объекты модель считает близкими в неявном признаковом пространстве. В поиске ближайших соседей и рекомендательных системах метрика влияет на то, какие документы, товары или пользователи будут найдены как похожие.

Метрика также важна для обучения без учителя, где нет целевой переменной, явно задающей правильный ответ. В таких задачах выбранное расстояние фактически задаёт гипотезу о структуре данных. Например, два текста могут быть близки по теме, по стилю, по длине, по автору или по набору ключевых слов; разные метрики выделят разные виды сходства.

Метрика и признаки

Метрика почти никогда не существует независимо от представления данных. Если признаки измеряются в разных шкалах, евклидово расстояние может стать бессмысленным: признак с большими численными значениями будет доминировать над остальными. Поэтому перед применением метрических методов часто выполняют нормировку, стандартизацию, отбор признаков или понижение размерности.

Особенно важна проблема смешанных данных: числовые, категориальные, текстовые и пропущенные признаки требуют разных способов сравнения. Простая замена категорий числами может создать ложный порядок и исказить расстояния. В таких случаях используют специализированные меры несходства, комбинированные метрики или обучаемые представления.

Обучение метрики

Обучение метрики — это семейство методов, в которых расстояние не задаётся вручную, а подбирается по данным. Цель состоит в том, чтобы объекты одного класса, одной семантической группы или одной пользовательской категории оказывались ближе друг к другу, а разные — дальше.

Один из классических вариантов — обучение матрицы в расстоянии Махаланобиса:

d_M(x,y)=\sqrt{(x-y)^T M (x-y)},\quad M\succeq 0,

где матрица M задаёт веса признаков и связи между ними. Если M положительно полуопределена, такое расстояние является метрикой или псевдометрикой в зависимости от ранга матрицы.

В современных нейросетевых методах распространено обучение вложений: модель переводит объект в векторное пространство, где близость отражает нужное отношение сходства. Такой подход используется в распознавании лиц, поиске изображений, семантическом поиске, рекомендациях и обработке естественного языка. Обучение может опираться на пары похожих и непохожих объектов, тройки «якорь — положительный пример — отрицательный пример» или на контрастивные функции потерь.

Метрики качества моделей

В прикладном машинном обучении слово «метрика» часто означает не расстояние между объектами, а показатель качества алгоритма. Например, для классификации используют точность, полноту, F-меру, долю правильных ответов, площадь под ROC-кривой; для регрессии — среднюю абсолютную ошибку, среднеквадратичную ошибку и коэффициент детерминации.

Эти показатели лучше называть метриками качества или критериями качества. Они помогают сравнивать модели, выбирать порог решения, контролировать переобучение и согласовывать модель с прикладной целью. Однако они не обязаны удовлетворять аксиомам расстояния. Например, F-мера — это агрегированный показатель баланса точности и полноты, а не расстояние между двумя объектами.

Выбор метрики качества должен соответствовать цене ошибок. В медицинской диагностике, кредитном скоринге, промышленном контроле и модерации контента ошибки разных типов имеют разную стоимость. Поэтому высокая средняя точность может скрывать неприемлемые риски: модель может хорошо работать на большинстве объектов и плохо — на редких, но важных случаях.

Применения

Метрики и меры несходства применяются в следующих задачах:

  • классификация методом ближайших соседей;
  • кластеризация и оценка структуры данных;
  • поиск похожих изображений, документов, пользователей и товаров;
  • дедупликация записей и сопоставление сущностей;
  • обработка текстов, строк и биологических последовательностей;
  • анализ графов и социальных сетей;
  • обнаружение аномалий;
  • построение рекомендательных систем;
  • оценка качества моделей;
  • контроль справедливости и устойчивости алгоритмов.

В каждом случае метрика задаёт прикладной смысл близости. Например, в рекомендательной системе близость пользователей может означать сходство покупок, интересов, оценок или поведения во времени. В биоинформатике расстояние между последовательностями связано с вероятными мутациями. В компьютерном зрении расстояние между изображениями может вычисляться не по пикселям, а по признакам, извлечённым нейронной сетью.

Ограничения

Метрики полезны, но их применение имеет ряд ограничений.

Во-первых, в высоких размерностях возникает проклятие размерности: расстояния между объектами становятся менее различимыми, а понятие ближайшего соседа теряет устойчивость. Это особенно заметно при разреженных данных и большом числе нерелевантных признаков.

Во-вторых, выбранная метрика может не соответствовать предметной области. Евклидово расстояние между необработанными пикселями изображения часто плохо отражает визуальное сходство. Два предложения могут иметь разные слова, но один смысл; и наоборот, почти одинаковые строки могут иметь разный смысл.

В-третьих, метрика может наследовать смещения данных. Если представление объектов содержит социально чувствительные или косвенно связанные с ними признаки, то расстояние может закреплять нежелательные различия. В исследованиях справедливости алгоритмов это приводит к вопросу: кто и на каких основаниях определяет, какие люди или случаи являются «похожими»?

В-четвёртых, многие практически удобные меры сходства не являются метриками. Это не всегда плохо, но важно понимать последствия: часть алгоритмов и структур данных опирается на неравенство треугольника, а при его нарушении могут исчезнуть теоретические гарантии и ускорения поиска.

Современные направления

Современные исследования метрик связаны с несколькими направлениями.

  • Обучение представлений (англ. representation learning): построение таких векторных описаний объектов, где простая метрика отражает сложное семантическое сходство.
  • Контрастивное обучение (англ. contrastive learning): обучение моделей на сравнении похожих и непохожих примеров.
  • Метрики для мультимодальных данных: совместное сравнение текста, изображения, звука, видео и табличных признаков.
  • Оптимальный транспорт и расстояние Вассерштейна: сравнение распределений, применяемое в генеративных моделях, доменной адаптации и анализе распределений признаков.
  • Справедливые метрики: исследование того, как формализовать принцип «похожие индивиды должны получать похожие решения» без усиления социальных смещений.
  • Приближённый поиск ближайших соседей: масштабирование метрических методов на миллионы и миллиарды объектов.
  • Робастные метрики: расстояния, менее чувствительные к выбросам, шуму и сдвигу распределения данных.

Эти направления показывают, что метрика в ИИ — не только математическая формальность. Она является способом выразить знание о предметной области, ограничение на поведение модели и инструмент связи между данными, алгоритмом и прикладной целью.

См. также

Литература

  • Фреше М. Sur quelques points du calcul fonctionnel. Rendiconti del Circolo Matematico di Palermo, 1906.
  • Burago D., Burago Y., Ivanov S. A Course in Metric Geometry. American Mathematical Society, 2001.
  • Deza M. M., Deza E. Encyclopedia of Distances. Springer, 2016.
  • Hastie T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. 2nd ed. Springer, 2009.
  • Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
  • Murphy K. P. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
  • Rousseeuw P. J. Silhouettes: A Graphical Aid to the Interpretation and Validation of Cluster Analysis. Journal of Computational and Applied Mathematics, 1987.
  • Dwork C., Hardt M., Pitassi T., Reingold O., Zemel R. Fairness Through Awareness. Proceedings of ITCS, 2012.

Ссылки

Личные инструменты