Сеть радиальных базисных функций

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: '''Радиальные функции.''' - Функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пр...)
Строка 1: Строка 1:
-
'''Радиальные функции.''' - Функции f(x), зависящие только от расстояния между x и фиксированной точ-
+
'''Радиальные функции''' - это функции <tex>f(x)</tex>, зависящие только от расстояния между x и фиксированной точ-
-
кой пространства X <br />
+
кой пространства X. <br /> <br />
-
Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br />
+
Гауссиан <tex>p_j(x) = N(x; \mu _j ,\Sigma _j)</tex> с диагональной матрицей <tex>\Sigma _j</tex> можно записать в виде <br /> <br />
-
<tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br />
+
<tex>~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)</tex> <br /> <br />
где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br />
где <tex>N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1}</tex> - нормировочный множитель,<br />
-
<tex>\rho _j(x, x′)</tex> - взвешенная евклидова метрика в n-мерном пространстве X:<br />
+
<tex>\rho _j(x, x')</tex> - взвешенная евклидова метрика в n-мерном пространстве X:<br />
-
\rho ^2 (x, x′) =
+
<tex>~\rho ^2 (x, x') = \Sigma ^n _{d = 1} \sigma ^{-2} _{jd} |\xi _d - \xi _d '| ^2</tex>, <br />
-
Xn
+
<tex> x = (\xi _1, . . . ,\xi _n), x' = (\xi _1 ', . . . , \xi _n')</tex>. <br /> <br />
-
d=1
+
Чем меньше расстояние <tex>\rho _j(x, \mu _j)</tex>, тем выше значение плотности в точке x. По-
-
σ−2
+
этому плотность <tex>p _j(x)</tex> можно рассматривать как функцию близости вектора x к фик-
-
jd |ξd − ξ′d |2, x = (ξ1, . . . , ξn), x′ = (ξ′1, . . . , ξ′n).
+
сированному центру <tex>\mu _j</tex> .
-
Чем меньше расстояние ρj(x, μj), тем выше значение плотности в точке x. По-
+
-
этому плотность pj(x) можно рассматривать как функцию близости вектора x к фик-
+
-
сированному центру μj .
+
-
Функции f(x), зависящие только от расстояния между x и фиксированной точ-
+
-
кой пространства X, принято называть радиальными
+
== Сеть радиальных базисных функций ==
== Сеть радиальных базисных функций ==

Версия 19:26, 5 января 2010

Радиальные функции - это функции f(x), зависящие только от расстояния между x и фиксированной точ- кой пространства X.

Гауссиан p_j(x) = N(x; \mu _j ,\Sigma _j) с диагональной матрицей \Sigma _j можно записать в виде

~p_j(x) = N_j exp(-1/2 \rho ^2 _j (x, \mu _j)

где N_j = (2\pi )^ {-n/2)(\sigma _{j1} ... \sigma _{jn})^{-1} - нормировочный множитель,
\rho _j(x, x') - взвешенная евклидова метрика в n-мерном пространстве X:
~\rho ^2 (x, x') = \Sigma ^n _{d = 1} \sigma ^{-2} _{jd} |\xi _d - \xi _d '| ^2,
 x = (\xi _1, . . . ,\xi _n), x' = (\xi _1 ', . . . , \xi _n').

Чем меньше расстояние \rho _j(x, \mu _j), тем выше значение плотности в точке x. По- этому плотность p _j(x) можно рассматривать как функцию близости вектора x к фик- сированному центру \mu _j .

Сеть радиальных базисных функций

Обучение RBF-сети

Обучение сводится к восстановлению плотности каждого из классов p_y(x) с помощью EM-алгоритма. Результатом обучения являются центры \mu _{yj} и дис- персии \Sigma _{yj} компонент j = 1, . . . , k_y. Интересно отметить, что, оценивая дисперсии, мы фактически подбираем метрики \rho _{yj} , с помощью которых будут вычисляться рас-стояния до центров \mu _{yj} . При использовании Алгоритма 1.4 для каждого класса определяется оптимальное число компонент смеси.

Личные инструменты