WikiDer > Пошаговое обучение

Incremental learning

В Информатика, постепенное обучение это метод машинное обучение в котором входные данные постоянно используются для расширения знаний существующей модели, то есть для дальнейшего обучения модели. Он представляет собой динамическую технику контролируемое обучение и обучение без учителя это может применяться, когда обучающие данные становятся доступными постепенно с течением времени или их размер выходит за пределы системной памяти. Алгоритмы, которые могут способствовать инкрементному обучению, известны как алгоритмы инкрементального машинного обучения.

Многие традиционные алгоритмы машинного обучения по своей сути поддерживают инкрементное обучение, другие алгоритмы можно адаптировать для облегчения инкрементального обучения. Примеры дополнительных алгоритмов включают:деревья решений(IDE4,[1]ID5R[2]),правила принятия решений,[3]искусственные нейронные сети(Сети RBF,[4]Учись ++,[5]Нечеткий ARTMAP,[6]ТопоАРТ,[7] andIGNG[8]) или инкрементный SVM.[9]

Целью инкрементального обучения является адаптация модели обучения к новым данным, не забывая при этом свои существующие знания, а не переобучать модель. Некоторые учащиеся инкрементального обучения имеют встроенный некоторый параметр или предположение, которое контролирует релевантность старых данных, в то время как другие, называемые стабильными алгоритмами инкрементного машинного обучения, изучают представления данных обучения, которые даже частично не забываются со временем. Нечеткое искусство[10] и TopoART[7] два примера этого второго подхода.

Инкрементальные алгоритмы часто применяются к потоки данных или большое количество данных, решая проблемы с доступностью данных и нехваткой ресурсов соответственно. Прогнозирование рыночных тенденций и профилирование пользователей - это некоторые примеры потоков данных, в которых новые данные становятся постоянно доступными. Применение инкрементального обучения к большим данным направлено на ускорение производства классификация или прогнозирование раз.

использованная литература

  1. ^ Шлиммер, Дж. К., Фишер, Д. Пример внедрения инкрементальной концепции. Пятая национальная конференция по искусственному интеллекту, 496-501. Филадельфия, 1986
  2. ^ Утгофф, П. Э., Инкрементальная индукция деревьев решений. Машинное обучение, 4 (2): 161-186, 1989.
  3. ^ Феррер-Трояно, Франсиско, Хесус С. Агилар-Руис и Хосе К. Рикельме. Инкрементное обучение правил на основе примера близости из потоков числовых данных. Материалы симпозиума ACM 2005 г. по прикладным вычислениям. ACM, 2005 г.
  4. ^ Бруззоне, Лоренцо и Д. Фернандес Прието. Нейронная сеть с пошаговым обучением для классификации изображений дистанционного зондирования. Письма о распознавании образов: 1241-1248, 1999
  5. ^ Р. Поликар, Л. Удпа, С. Удпа, В. Хонавар. Learn ++: алгоритм пошагового обучения для контролируемых нейронных сетей. IEEE Transactions по системам, человеку и кибернетике. Университет Роуэна, США, 2001 г.
  6. ^ Г. Карпентер, С. Гроссберг, Н. Маркузон, Дж. Рейнольдс, Д. Розен. Fuzzy ARTMAP: архитектура нейронной сети для постепенного контролируемого обучения аналоговых многомерных карт. IEEE-транзакции в нейронных сетях, 1992 г.
  7. ^ а б Марко Черепанов, Марко Корткамп и Марк Каммер. Иерархическая сеть ART для стабильного инкрементального изучения топологических структур и ассоциаций из зашумленных данных. Нейронные сети, 24 (8): 906-916, 2011.
  8. ^ Жан-Шарль Ламирель, Зиед Булила, Маха Гриби и Паскаль Куксак. Новый алгоритм инкрементального роста нейронного газа, основанный на максимизации маркировки кластеров: применение для кластеризации гетерогенных текстовых данных. IEA / AIE 2010: Тенденции в прикладных интеллектуальных системах, 139-148, 2010
  9. ^ Дил, Кристофер П. и Герт Каувенберг. Инкрементальное обучение, адаптация и оптимизация SVM. Нейронные сети, 2003. Труды международной совместной конференции по. Vol. 4. IEEE, 2003.
  10. ^ Карпентер, Г.А., Гроссберг, С., и Розен, Д. Б., Fuzzy ART: быстрое стабильное обучение и категоризация аналоговых паттернов с помощью адаптивной резонансной системы, Нейронные сети, 4 (6): 759-771, 1991.

внешние ссылки