WikiDer > Распределение патинко - Википедия
 | Эта статья слишком полагается на Рекомендации к основные источники. (Сентябрь 2010 г.) (Узнайте, как и когда удалить этот шаблон сообщения) |
В машинное обучение и обработка естественного языка, то модель распределения патинко (PAM) это тематическая модель. Тематические модели - это набор алгоритмов для раскрытия скрытой тематической структуры коллекции документов. [1] Алгоритм улучшает более ранние тематические модели, такие как скрытое размещение Дирихле (LDA) путем моделирования корреляций между темами в дополнение к корреляциям слов, которые составляют темы. PAM обеспечивает большую гибкость и большую выразительность, чем скрытое распределение Дирихле.[2] Хотя алгоритм впервые описан и реализован в контексте обработки естественного языка, он может иметь приложения в других областях, таких как биоинформатика. Модель названа в честь пачинко машины - популярная в Японии игра, в которой металлические шарики отскакивают от сложного набора кеглей, пока не попадают в различные ящики на дне.[3]
История
Распределение патинко было впервые описано Вэй Ли и Эндрю МакКаллум в 2006 году.[3]Идея была расширена с помощью иерархического распределения патинко Ли, МакКаллумом и Дэвидом Мимно в 2007 году.[4] В 2007 году Маккаллум и его коллеги предложили непараметрический байесовский априор для PAM, основанный на варианте иерархического процесса Дирихле (HDP).[2] Алгоритм реализован в МОЛОТОК программный пакет, опубликованный группой МакКаллума на Массачусетский университет в Амхерсте.
Модель
![[значок]](/wiki/File:Wiki_letter_w_cropped.svg){kind=small} | Эта секция нуждается в расширении. Вы можете помочь добавляя к этому. (Июль 2017 г.) |
PAM связывает слова в V и темы в T с произвольным ориентированный ациклический граф (DAG), где тематические узлы занимают внутренние уровни, а листья - слова.
Вероятность создания всего корпуса - это произведение вероятностей для каждого документа:
Смотрите также
- Вероятностное скрытое семантическое индексирование (PLSI), ранняя тематическая модель Томаса Хофманна в 1999 году.[5]
- Скрытое размещение Дирихле, обобщение PLSI, разработанное Дэвид Блей, Эндрю Нг, и Майкл Джордан в 2002 году, что позволило документам иметь смесь тем.[6]
- МОЛОТОК, библиотека Java с открытым исходным кодом, которая реализует распределение Pachinko.
Рекомендации
- ^ Блей, Дэвид. «Тематическое моделирование». Архивировано из оригинал 2 октября 2012 г.. Получено 4 октября 2012.
- ^ а б Ли, Вэй; Блей, Дэвид; Маккаллум, Эндрю (2007). «Непараметрическое распределение Байеса Пачинко». arXiv:1206.5270. Цитировать журнал требует
| журнал =(помощь) - ^ а б Ли, Вэй; Маккаллум, Эндрю (2006). «Распределение патинко: DAG-структурированные смешанные модели тематических корреляций» (PDF). Материалы 23-й Международной конференции по машинному обучению.
- ^ Мимно, Дэвид; Ли, Вэй; Маккаллум, Эндрю (2007). «Смеси иерархических тем с распределением патинко» (PDF). Материалы 24-й Международной конференции по машинному обучению.
- ^ Хофманн, Томас (1999). «Вероятностное скрытое семантическое индексирование» (PDF). Материалы двадцать второй ежегодной международной конференции SIGIR по исследованиям и разработкам в области информационного поиска. Архивировано из оригинал (PDF) 14 декабря 2010 г.
- ^ Блей, Дэвид М .; Ng, Andrew Y .; Иордания, Майкл I; Лафферти, Джон (январь 2003 г.). «Скрытое размещение Дирихле». Журнал исследований в области машинного обучения. 3: стр. 993–1022. Архивировано из оригинал 1 мая 2012 г.. Получено 19 июля 2010.
внешняя ссылка
- Смеси иерархических тем с распределением патинко, видеозапись презентации Дэвида Мимно HPAM в 2007 году.
 | Этот Информатика статья - это заглушка. Вы можете помочь Википедии расширяя это. |