WikiDer > Расстояние Левенштейна - Википедия

В теория информации, лингвистика и Информатика, то Расстояние Левенштейна это строковая метрика для измерения разницы между двумя последовательностями. Неформально расстояние Левенштейна между двумя словами - это минимальное количество односимвольных изменений (вставок, удалений или замен), необходимых для преобразования одного слова в другое. Назван в честь советского математика. Владимир Левенштейн, который считал это расстояние в 1965 году.^[1]

Расстояние Левенштейна также можно обозначить как редактировать расстояние, хотя этот термин может также обозначать более крупное семейство показателей расстояния, вместе известных как редактировать расстояние.^[2]:32 Это тесно связано с попарное выравнивание строк.

Определение

Расстояние Левенштейна между двумя струнами ${ displaystyle a, b}$ (длины ${ displaystyle | a |}$ и ${ displaystyle | b |}$ соответственно) дается выражением ${ displaystyle operatorname {lev} (a, b)}$ куда

${ displaystyle qquad operatorname {lev} (a, b) = { begin {cases} | a | & { text {if}} | b | = 0, | b | & { text {если }} | a | = 0, operatorname {lev} ( operatorname {tail} (a), operatorname {tail} (b)) & { text {if}} a [0] = b [0 ] 1+ min { begin {cases} operatorname {lev} ( operatorname {tail} (a), b) operatorname {lev} (a, operatorname {tail} (b)) operatorname {lev} ( operatorname {tail} (a), operatorname {tail} (b)) end {case}} & { text {в противном случае.}} end {cases}}}$

где ${ displaystyle operatorname {tail}}$ какой-то строки ${ displaystyle x}$ это строка, состоящая из всех символов, кроме первого ${ displaystyle x}$, и ${ Displaystyle х [п]}$ это ${ displaystyle n}$-й символ строки ${ displaystyle x}$, начиная с символа 0.

Обратите внимание, что первый элемент в минимуме соответствует удалению (из ${ displaystyle a}$ к ${ displaystyle b}$), второй - прошивке, а третий - замене.

Это определение прямо соответствует наивная рекурсивная реализация.

Пример

Отредактируйте матрицу расстояний для двух слов, используя стоимость замены как 1 и стоимость удаления или вставки как 0,5.

Например, расстояние Левенштейна между «котенком» и «сидящим» равно 3, так как следующие три правки меняют одно на другое, и нет способа сделать это, сделав менее трех правок:

1. kиттен → sиттен (замена "к" на "s")
2. ситтеп → сидетьяn (замена «i» на «e»)
3. сидеть → сидетьграмм (вставка "g" в конце).

Верхняя и нижняя границы

Расстояние Левенштейна имеет несколько простых оценок сверху и снизу. К ним относятся:

• Это как минимум разница в размерах двух струн.
• Это не больше длины более длинной струны.
• Он равен нулю тогда и только тогда, когда строки равны.
• Если строки одинакового размера, Расстояние Хэмминга является верхней границей расстояния Левенштейна. Расстояние Хэмминга - это количество позиций, в которых соответствующие символы в двух строках различаются.
• Расстояние Левенштейна между двумя струнами не больше суммы их расстояний Левенштейна от третьей струны (неравенство треугольника).

Пример, когда расстояние Левенштейна между двумя струнами одинаковой длины строго меньше, чем расстояние Хэмминга, дается парой «недостаток» и «лужайка». Здесь расстояние Левенштейна равно 2 (удалить букву «f» спереди, вставить «n» в конце). В Расстояние Хэмминга равно 4.

Приложения

В приблизительное соответствие строк, цель состоит в том, чтобы найти совпадения для коротких строк во многих более длинных текстах в ситуациях, когда ожидается небольшое количество различий. Короткие строки могут быть взяты, например, из словаря. Здесь одна из струн обычно короткая, а другая произвольно длинная. У этого есть широкий спектр приложений, например, средства проверки правописания, системы коррекции для оптическое распознавание символов, и программное обеспечение для перевода на естественный язык на основе память переводов.

Расстояние Левенштейна можно также вычислить между двумя более длинными строками, но стоимость его вычисления, которая примерно пропорциональна произведению двух длин строк, делает это непрактичным. Таким образом, при использовании для помощи в поиск нечеткой строки в таких приложениях, как связь записисравниваемые строки обычно короткие, чтобы ускорить сравнение.^{[нужна цитата]}

В лингвистике расстояние Левенштейна используется в качестве метрики для количественной оценки языковая дистанция, или насколько два языка отличаются друг от друга.^[3] Это связано с взаимная понятность, чем выше языковая дистанция, тем ниже взаимная разборчивость и чем меньше языковая дистанция, тем выше взаимная разборчивость.

Связь с другими показателями расстояния редактирования

Есть и другие популярные меры редактировать расстояние, которые рассчитываются с использованием другого набора допустимых операций редактирования. Например,

• то Расстояние Дамерау – Левенштейна позволяет транспозиция двух соседних символов рядом с вставкой, удалением, заменой;
• то самая длинная общая подпоследовательность (LCS) расстояние позволяет только вставку и удаление, но не замену;
• то Расстояние Хэмминга позволяет только подстановку, следовательно, применяется только к строкам одинаковой длины.
• то Расстояние Джаро позволяет только транспозиция.

Изменить расстояние обычно определяется как параметризуемая метрика, вычисляемая с помощью определенного набора разрешенных операций редактирования, и каждой операции назначается стоимость (возможно, бесконечная). Это далее обобщается ДНК. выравнивание последовательностей алгоритмы, такие как Алгоритм Смита – Уотермана, из-за чего стоимость операции зависит от того, где она применяется.

Вычисление расстояния Левенштейна

Рекурсивный

Это простой, но неэффективный рекурсивный Haskell реализация l Расстояние функция, которая принимает две строки, s и твместе с их длинами и возвращает расстояние Левенштейна между ними:

l Расстояние :: ( Уравнение а ) => [а] -> [а] -> Intl Расстояние [] т = длина т   - Если s пусто, расстояние - это количество символов в tl Расстояние s [] = длина s   - Если t пусто, расстояние - это количество символов в sl Расстояние (а:s ') (б:т ') =  если    а == б  тогда    l Расстояние s ' т '         - Если первые символы совпадают, их можно игнорировать  еще    1 + минимум             - В противном случае попробуйте все три возможных действия и выберите лучшее.      [ l Расстояние (а:s ') т ' - Символ вставлен (вставлен b)      , l Расстояние s ' (б:т ') - Персонаж удален (удален)      , l Расстояние s ' т '     - Символ заменен (a заменен на b)      ]

Эта реализация очень неэффективна, поскольку она многократно пересчитывает расстояние Левенштейна одних и тех же подстрок.

Более эффективный метод никогда не повторит одно и то же вычисление расстояния. Например, расстояние Левенштейна всех возможных префиксов может храниться в массиве ${ displaystyle M}$ куда ${ Displaystyle М [я] [j]}$ это расстояние между последними ${ displaystyle i}$ символы строки s и последнее ${ displaystyle j}$ символы строки т. Таблицу легко построить по одной строке за раз, начиная со строки 0. Когда вся таблица построена, желаемое расстояние находится в таблице в последней строке и столбце, представляя расстояние между всеми символами в s и все персонажи в т.

Итеративная с полной матрицей

Примечание. В этом разделе используются строки с отсчетом от 1 вместо строк с отсчетом от 0.

Вычисление расстояния Левенштейна основано на наблюдении, что если мы зарезервируем матрица удерживать расстояния Левенштейна между всеми префиксы первой строки и всех префиксов второй, то мы можем вычислить значения в матрице в динамическое программирование fashion, и, таким образом, найти расстояние между двумя полными строками как последнее вычисленное значение.

Этот алгоритм, пример восходящего динамическое программирование, обсуждается с вариантами в статье 1974 г. В Проблема исправления строки в строку Роберт А. Вагнер и Майкл Дж. Фишер.^[4]

Это простой псевдокод реализация для функции Левенштейн это требует двух струн, s длины м, и т длины п, и возвращает расстояние Левенштейна между ними:

функция Левенштейн(char s[1..м], char т[1..п]):  // для всех i и j d [i, j] будет содержать расстояние Левенштейна между  // первые i символов s и первые j символов t  объявить int d[0..м, 0..п]   набор каждый элемент в d к нуль   // исходные префиксы можно преобразовать в пустую строку  // отбрасываем все символы  за я из 1 к м:      d[я, 0] := я   // целевые префиксы могут быть достигнуты из пустого исходного префикса  // вставляя каждый символ  за j из 1 к п:      d[0, j] := j   за j из 1 к п:      за я из 1 к м:          если s[я] = т[j]:            замена := 0          еще:            замена := 1          d[я, j] := минимум(d[я-1, j] + 1,                   // удаление                             d[я, j-1] + 1,                   // вставка                             d[я-1, j-1] + замена)  // подстановка   возвращаться d[м, п]

Два примера результирующей матрицы (наведение курсора на помеченное число показывает операцию, выполненную для получения этого числа):

В инвариантный поддерживается на протяжении всего алгоритма, заключается в том, что мы можем преобразовать начальный сегмент s[1..я] в т[1..j] используя минимум d[я,j] операции. В конце концов, нижний правый элемент массива содержит ответ.

Итеративная с двумя строками матрицы

Оказывается, что для построения нужны только две строки таблицы, если не нужно восстанавливать редактируемые входные строки (предыдущая строка и текущая вычисляемая строка).

Расстояние Левенштейна можно вычислить итеративно, используя следующий алгоритм:^[5]

функция Левенштейн(char s[0..м-1], char т[0..п-1]):    // создаем два рабочих вектора с целочисленными расстояниями    объявить int v0[п + 1]    объявить int v1[п + 1]    // инициализируем v0 (предыдущий ряд расстояний)    // эта строка A [0] [i]: редактировать расстояние для пустого s    // расстояние - это просто количество символов, которые нужно удалить из t    за я из 0 к п:        v0[я] = я    за я из 0 к м-1:        // вычисляем v1 (текущие расстояния между строками) от предыдущей строки v0        // первый элемент v1 - A [i + 1] [0]        // расстояние редактирования - удаление (i + 1) символов из s для соответствия пустому t        v1[0] = я + 1        // используем формулу для заполнения остальной части строки        за j из 0 к п-1:            // расчет затрат для A [i + 1] [j + 1]            deletionCost := v0[j + 1] + 1            InsertCost := v1[j] + 1            если s[я] = т[j]:                замена := v0[j]            еще:                замена := v0[j] + 1;            v1[j + 1] := минимум(deletionCost, InsertCost, замена)        // копируем v1 (текущая строка) в v0 (предыдущая строка) для следующей итерации        // поскольку данные в v1 всегда недействительны, своп без копирования может быть более эффективным        замена v0 с v1    // после последнего свопа результаты v1 теперь находятся в v0    возвращаться v0[п]

Этот вариант с двумя строками является неоптимальным - объем требуемой памяти может быть уменьшен до одной строки и одного (индексного) служебного слова для лучшей локализации кэша.^[6]

Алгоритм Хиршберга сочетает этот метод с разделяй и властвуй. Он может вычислить оптимальную последовательность редактирования, а не только расстояние редактирования, с теми же асимптотическими временными и пространственными ограничениями.^[7]

Адаптивный вариант

Динамический вариант - не идеальная реализация. Адаптивный подход может уменьшить объем требуемой памяти и, в лучшем случае, может уменьшить временную сложность до линейной по длине самой короткой строки и, в худшем случае, не более чем квадратичной по длине самой короткой строки. . Идея состоит в том, что можно использовать эффективные библиотечные функции (std :: mismatch), чтобы проверить общие префиксы и суффиксы и погрузиться в часть DP только при несовпадении.^[6]

Автоматы

Автоматы Левенштейна эффективно определить, имеет ли строка расстояние редактирования ниже заданной константы из данной строки.^[8]

Приближение

Расстояние Левенштейна между двумя струнами длины п возможно приблизительный с точностью до фактора

${ Displaystyle ( журнал п) ^ {О (1 / varepsilon)}}$

куда ε > 0 это бесплатный параметр, который нужно настраивать со временем О(п^{1 + ε}).^[9]

Вычислительная сложность

Было показано, что расстояние Левенштейна двух струн длины п невозможно вычислить во времени О(п^{2 - ε}) для любого ε больше нуля, если гипотеза сильного экспоненциального времени ложно.^[10]

Смотрите также

Рекомендации

внешняя ссылка

Викибук Реализация алгоритма есть страница по теме: Расстояние Левенштейна

• Блэк, Пол Э., изд. (14 августа 2008 г.), «Дистанция Левенштейна», Словарь алгоритмов и структур данных [онлайн], Национальный институт стандартов и технологий США, получено 2 ноября 2016