Алгоритм AnyBoost

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(→Литература)
Строка 1: Строка 1:
{{Задание|Mordasova|Константин Воронцов|10 февраля 2010}}
{{Задание|Mordasova|Константин Воронцов|10 февраля 2010}}
-
'''Алгоритм AnyBoost''' - класс алгоритмов, представляющих [[бустинг]] как процесс градиентного спуска в функциональном пространстве с использованием выпуклой функции потерь. В класс AnyBoost входят практически все алгоритмы бустинга как частные случаи.
+
'''Алгоритм AnyBoost''' - класс алгоритмов, представляющих [[бустинг]] как процесс градиентного спуска. В основе алгоритма лежит последовательное уточнение функции, представляющей собой линейную комбинацию базовых классификаторов, с тем чтобы минимизировать функцию потерь. В класс AnyBoost входят практически все алгоритмы [[бустинга|бустинг]] как частные случаи.
==Описание алгоритма==
==Описание алгоритма==
'''Алгоритм AnyBoost'''
'''Алгоритм AnyBoost'''
-
'''Дано''':
+
Рассмотрим задачу классификации на два класса, <tex>Y=\{-1,+1\}</tex>. Базовые классификаторы - отображения на множество <tex>Y</tex>, и все
-
* Пространство внутренних результирующих функций <tex>\chi</tex>, содержащее отображения из множества <tex>X</tex> в множество <tex>Y</tex>.
+
 
-
* Класс базовых классификаторов <tex>F\subseteq\chi</tex>
+
 
-
* Дифференцируемый функционал стоимости <tex>C: \mathrm{lin}(F)\to\mathbb{R}</tex>
+
'''Дано''':
 +
 +
* Класс базовых классификаторов <tex>F\subseteq\chi</tex>.
 +
* Дифференцируемая функция потерь <tex>C: \mathrm{lin}(F)\to\mathbb{R}</tex>.
 +
*
==См. также==
==См. также==

Версия 11:05, 7 февраля 2010

Данная статья является непроверенным учебным заданием.
Студент: Участник:Mordasova
Преподаватель: Участник:Константин Воронцов
Срок: 10 февраля 2010

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.


Алгоритм AnyBoost - класс алгоритмов, представляющих бустинг как процесс градиентного спуска. В основе алгоритма лежит последовательное уточнение функции, представляющей собой линейную комбинацию базовых классификаторов, с тем чтобы минимизировать функцию потерь. В класс AnyBoost входят практически все алгоритмы бустинг как частные случаи.

Содержание

Описание алгоритма

Алгоритм AnyBoost

Рассмотрим задачу классификации на два класса, Y=\{-1,+1\}. Базовые классификаторы - отображения на множество Y, и все


Дано:

  • Класс базовых классификаторов F\subseteq\chi.
  • Дифференцируемая функция потерь C: \mathrm{lin}(F)\to\mathbb{R}.

См. также

Литература

  1. Mason L., Baxter J., Bartlett P., Frean M. Boosting algorithms as gradient descent. — Advances in Neural Information Processing Systems. — MIT Press, 2000. — T. 12. — 512--518 с.

Ссылки

Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_AnyBoost»
Личные инструменты