Сеть радиальных базисных функций

Материал из MachineLearning.

Перейти к: навигация, поиск

Радиальные функции - это функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пространства X.

Гауссиан p_j(x) = N(x; \mu _j ,\Sigma _j) с диагональной матрицей \Sigma _j можно записать в виде

~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)

где N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1} - нормировочный множитель,
\rho _j(x, x') - взвешенная евклидова метрика в n-мерном пространстве X:
~\rho ^2 (x, x') = \Sigma ^n _{d = 1} \sigma ^{-2} _{jd} |\xi _d - \xi _d '| ^2,
 x = (\xi _1, . . . ,\xi _n), x' = (\xi _1 ', . . . , \xi _n').

Чем меньше расстояние \rho _j(x, \mu _j), тем выше значение плотности в точке x. По- этому плотность p _j(x) можно рассматривать как функцию близости вектора x к фик- сированному центру \mu _j .

Сеть радиальных базисных функций

Обучение RBF-сети

Обучение сводится к восстановлению плотности каждого из классов p_y(x) с помощью EM-алгоритма. Результатом обучения являются центры \mu _{yj} и дис- персии \Sigma _{yj} компонент j = 1, . . . , k_y. Интересно отметить, что, оценивая дисперсии, мы фактически подбираем метрики \rho _{yj} , с помощью которых будут вычисляться рас-стояния до центров \mu _{yj} . При использовании Алгоритма 1.4 для каждого класса определяется оптимальное число компонент смеси.

Личные инструменты