WikiDer > Медоид

Medoid

Медоиды являются репрезентативными объектами набор данных или кластер с набором данных, среднее отличие которого от всех объектов в кластере минимально.[1] Медоиды по концепции похожи на средства или же центроиды, но medoids всегда могут быть членами набора данных. Медоиды чаще всего используются для данных, когда невозможно определить среднее значение или центроид, например для графиков. Они также используются в контекстах, где центроид не является репрезентативным для набора данных, как на изображениях и трехмерных траекториях и экспрессия гена [2] (где пока данные разрежены, медоида быть не обязательно). Они также представляют интерес, если вы хотите найти представителя на некотором расстоянии, кроме квадрат евклидова расстояния (например, в рейтингах фильмов).

Для некоторых наборов данных может быть более одного медоида, как и в случае с медианами. k-medoids алгоритм кластеризации, аналогичный k-означает алгоритм, но работает, когда среднее значение или центроид не определены. Этот алгоритм в основном работает следующим образом. Сначала случайным образом выбирается набор медоидов. Во-вторых, вычисляются расстояния до других точек. В-третьих, данные сгруппированы в соответствии с медоидом, на который они наиболее похожи. В-четвертых, набор медоидов оптимизируется с помощью итеративного процесса.

Обратите внимание, что медоид не эквивалентен медиана, а геометрическая медиана, или же центроид. А медиана определяется только для одномерных данных, и он только сводит к минимуму несходство с другими точками для метрик, индуцированных норма (такой как Манхэттенское расстояние или же Евклидово расстояние). А геометрическая медиана определен в любом измерении, но не обязательно является точкой в ​​исходном наборе данных.

Определение

Позволять быть набором точек в пространстве с функция расстояния d. Медоид определяется как

Алгоритмы вычисления медоидов

Из приведенного выше определения ясно, что медоид можно вычислить после вычисления всех попарных расстояний между точками в ансамбле. Это займет дистанционные оценки. В худшем случае нельзя вычислить medoid с меньшим количеством оценок расстояния.[3][4] Однако существует множество подходов, которые позволяют нам вычислять медоиды точно или приблизительно за субквадратичное время при различных статистических моделях.

Если точки лежат на реальной линии, вычисление медианы сводится к вычислению медианы, что может быть выполнено в к Быстрый выбор алгоритм Хоара.[5] Однако в реальных пространствах более высокой размерности алгоритм линейного времени не известен. RAND[6] представляет собой алгоритм, который оценивает среднее расстояние от каждой точки до всех других точек путем выборки случайного подмножества других точек. Всего требуется вычисления расстояния для аппроксимации медоида в пределах фактора с большой вероятностью, где - максимальное расстояние между двумя точками ансамбля. Обратите внимание, что RAND является приближенным алгоритмом, и более того май нет быть известным априори.

RAND был использован TOPRANK [7] который использует оценки, полученные RAND чтобы сосредоточиться на небольшом подмножестве точек-кандидатов, оценивает среднее расстояние до этих точек точно, и выбирает минимум из них. TOPRANK потребности вычисления расстояния, чтобы найти точный medoid с большой вероятностью при предположении распределения на средних расстояниях.

тримед [3] представляет алгоритм поиска медоида с оценки расстояния в предположении распределения по точкам. Алгоритм использует неравенство треугольника, чтобы сократить пространство поиска.

Меддит[4] использует связь вычисления medoid с многорукие бандиты и использует алгоритм с верхним доверительным интервалом для получения алгоритма, который принимает оценки расстояния при статистических допущениях по точкам.

Коррелированное последовательное сокращение вдвое[8] также использует техники многорукого бандита, улучшая Меддит. Используя корреляционную структуру в задаче, алгоритм может обеспечить резкое улучшение (обычно примерно на 1-2 порядка) как количества необходимых вычислений расстояния, так и времени настенных часов.

Реализации

Реализация RAND, TOPRANK, и тримед можно найти здесь. Реализация Меддитможно найти здесь и здесь. Реализация Коррелированное последовательное сокращение вдвоеможно найти здесь.

Смотрите также

Рекомендации

  1. ^ Струйф, Аня; Юбер, Миа; Руссей, Питер (1997). «Кластеризация в объектно-ориентированной среде». Журнал статистического программного обеспечения. 1 (4): 1–30.
  2. ^ ван дер Лаан, Марк Дж.; Поллард, Кэтрин С .; Брайан, Дженнифер (2003). «Новое разделение вокруг алгоритма Medoids». Журнал статистических вычислений и моделирования. Группа Тейлор и Фрэнсис. 73 (8): 575–584. Дои:10.1080/0094965031000136012.
  3. ^ а б Ньюлинг, Джеймс; И Флёре, Франсуа (2016); «Субквадратичный точный алгоритм medoid», в Материалы 20-й Международной конференции по искусственному интеллекту и статистике, PMLR 54: 185-193, 2017 Доступно онлайн.
  4. ^ а б Багария, Вивек; Каматх, Говинда М .; Нтранос, Василис; Чжан, Мартин Дж .; & Це, Дэвид Н. (2017); «Медоиды в почти линейном времени с помощью многоруких бандитов», препринт arXiv Доступно онлайн.
  5. ^ Хор, Чарльз Энтони Ричард (1961); «Алгоритм 65: найти», в Коммуникации ACM, 4(7), 321-322
  6. ^ Эппштейн, Дэвид; И Ван, Джозеф (2006); «Быстрое приближение центральности», в Графические алгоритмы и приложения, 5, стр. 39-45
  7. ^ Окамото, Казуя; Чен, Вэй; И Ли, Сян-Ян (2008); «Рейтинг центральности близости для крупных социальных сетей», в Preparata, Franco P .; У, Сяодун; Инь, Цзяньпин (ред.); Frontiers in Algorithmics Workshop 2008, Конспект лекций по информатике, 5059, 186-195
  8. ^ Baharav, Tavor Z .; И Це, Дэвид Н. (2019); «Сверхбыстрая идентификация медоидов с помощью коррелированного последовательного деления пополам», в Достижения в системах обработки нейронной информации, доступно онлайн