Сеть радиальных базисных функций

Материал из MachineLearning.

Версия от 19:18, 5 января 2010; MariaAleshina (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Радиальные функции. - Функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пространства X
Гауссиан p_j(x) = N(x; \mu _j ,\Sigma _j) с диагональной матрицей \Sigma _j можно записать в виде
~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)
где N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1} - нормировочный множитель,
\rho _j(x, x′) - взвешенная евклидова метрика в n-мерном пространстве X:
\rho ^2 (x, x′) = Xn d=1 σ−2 jd |ξd − ξ′d |2, x = (ξ1, . . . , ξn), x′ = (ξ′1, . . . , ξ′n). Чем меньше расстояние ρj(x, μj), тем выше значение плотности в точке x. По- этому плотность pj(x) можно рассматривать как функцию близости вектора x к фик- сированному центру μj . Функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пространства X, принято называть радиальными

Сеть радиальных базисных функций

Обучение RBF-сети

Обучение сводится к восстановлению плотности каждого из классов p_y(x) с помощью EM-алгоритма. Результатом обучения являются центры \mu _{yj} и дис- персии \Sigma _{yj} компонент j = 1, . . . , k_y. Интересно отметить, что, оценивая дисперсии, мы фактически подбираем метрики \rho _{yj} , с помощью которых будут вычисляться рас-стояния до центров \mu _{yj} . При использовании Алгоритма 1.4 для каждого класса определяется оптимальное число компонент смеси.

Личные инструменты