WikiDer > Truecasing

Truecasing

Truecasing проблема в обработка естественного языка (НЛП) определения правильного заглавные буквы слов, по которым такая информация недоступна. Обычно это происходит из-за стандартной практики (в английский и многие другие языки) с автоматическим вводом заглавных букв в первое слово предложения. Он также может возникать в тексте с плохим регистром или без него (например, все строчные или все прописные буквы текстовые сообщения).

Истинный регистр не нужен в языках, в скриптах которых нет различия между прописными и строчными буквами. Сюда входят все языки, не написанные в латинский, Греческий, Кириллица или же Армянские алфавиты, Такие как Японский, Китайский, Тайский, иврит, арабский, хинди, и Грузинский.

Методы

  • Сегментация предложения может использоваться для определения того, где начинаются предложения, для реализации правила, согласно которому первое слово каждого предложения должно быть написано с заглавной буквы.
  • Пометка части речи может использоваться для определения имен собственных, которые должны быть написаны с заглавной буквы. В некоторых случаях одно и то же слово может использоваться в разных частях речи и пишется по-разному с большой буквы. Например, Xerox the company, как существительное, пишется с заглавной буквы, но для ксерокопирования документа, как глагол, не пишется с заглавной буквы. Ксерокопию, как и копию документа, можно распознать по наличию определитель, который не используется для имен собственных.
  • Признание именной организации может использоваться для определения имен собственных, которые должны быть написаны с заглавной буквы.
  • А программа проверки орфографии может использоваться для обозначения слов, которые всегда пишутся с заглавной буквы.

Приложения

Truecasing помогает в других задачах НЛП, таких как признание названного лица, автоматическое извлечение контента, и машинный перевод.[1]Правильное использование заглавных букв позволяет легче определять имена собственные, которые являются отправными точками NER и ACE. Некоторые системы перевода используют статистическое машинное обучение методы, которые могут использовать информацию, содержащуюся в заглавных буквах, для повышения точности.

Рекомендации

  1. ^ Lita, L.V .; Иттихерия, А .; Roukos, S .; Камбхатла, Н. (2003). "ПОВРЕЖДЕНИЕ". Материалы 41-го ежегодного собрания Ассоциации компьютерной лингвистики. Саппоро, Япония. С. 152–159.