Тупиковые тесты

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
м
Строка 79: Строка 79:
*Составим булеву матрицу <tex>L_{nml}</tex> из всех таких строк для объектов из разных классов.
*Составим булеву матрицу <tex>L_{nml}</tex> из всех таких строк для объектов из разных классов.
* <tex>U_i</tex> - совокупность всех подмножеств множества <tex>\{1,2,\lodots,h\}</tex> мощности i - выбранного числа из этого множества. h - число строк в матрице <tex>L_{nml}</tex>. Элементы множества <tex>U_i</tex> называются наборами.
* <tex>U_i</tex> - совокупность всех подмножеств множества <tex>\{1,2,\lodots,h\}</tex> мощности i - выбранного числа из этого множества. h - число строк в матрице <tex>L_{nml}</tex>. Элементы множества <tex>U_i</tex> называются наборами.
-
*#Пусть <tex>i=h, \ U_i=\{1,2,\ldots,h\}</tex>, задача построения множества всех тупиковых тестов таблицы <tex>T_{nml}</tex> сводится к построению множества всех неприводимых покрытий матрицы <tex>L_{nml}</tex>. В этом случае используется детерминированный алгоритм.
+
*Алгоритм построения тупиковых тестов:
 +
#Пусть <tex>i=h, \ U_i=\{1,2,\ldots,h\}</tex>, задача построения множества всех тупиковых тестов таблицы <tex>T_{nml}</tex> сводится к построению множества всех неприводимых покрытий матрицы <tex>L_{nml}</tex>. В этом случае используется детерминированный алгоритм.
#Пусть <tex>i<h</tex>.
#Пусть <tex>i<h</tex>.
##Случайным образом выбираем набор <tex>u=\{i_1,\ldots,\i_r\} \in U_i</tex>, определяющий подматрицу <tex>L^u_{nml}</tex>, образованную строками с номерами <tex>i_1,\ldots,\i_r</tex>.<br />
##Случайным образом выбираем набор <tex>u=\{i_1,\ldots,\i_r\} \in U_i</tex>, определяющий подматрицу <tex>L^u_{nml}</tex>, образованную строками с номерами <tex>i_1,\ldots,\i_r</tex>.<br />
Строка 88: Строка 89:
==Литература==
==Литература==
 +
#''К.В. Воронцов'', [[Машинное обучение (курс лекций, К.В.Воронцов)|Машинное обучение (курс лекций)]]
 +
#{{книга
 +
|автор = Журавлев Ю. И.
 +
|часть = Об алгебраических методах в задачах распознавания и классификации
 +
|заглавие = Распознавание, классификация, прогноз
 +
|год = 1988
 +
|том = 1
 +
|страницы = 9--16
 +
|ссылка = http://www.ccas.ru/frc/papers/zhuravlev88rkp.pdf
 +
}}
 +
#{{книга
 +
|автор = Фамилия И. О.
 +
|часть = Название статьи
 +
|заглавие = Название журнала или конференции
 +
|год = 1991
 +
|место = М.
 +
|издательство = Просвещение
 +
|том = 3, №8
 +
|страницы = 167–176
 +
|ссылка = http://www.lib.ru
 +
}}

Версия 13:37, 14 февраля 2010

Данная статья является непроверенным учебным заданием.
Студент: Участник:Mordasova
Преподаватель: Участник:Константин Воронцов
Срок: 15 февраля 2010

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.


Алгоритм вычисления оценки, в котором множество опорных множеств является множеством всех тупиковых тестов, называется тестовым алгоритмом. Первый вариант таких АВО был предложен Ю.И. Журавлевым. АВО совмещают метрические и логические принципы классификации. От метрических алгоритмов АВО наследует принцип оценивания сходства через введение множества метрик \rho_s(x, x'), а от логических принцип поиска конъюнктивных закономерностей, конъюнкции строятся не над бинарными признаками \beta(x), а над бинарными функциями близости вида \beta(x, x') = \[\rho_s(x, x') < \varepsilon_s\]. В этом случае каждой закономерности соответствует не подмножество признаков, а подмножество метрик, называемое опорным множеством. Как правило одного опорного множества недостаточно, поэтому в АВО применяется взвешенное голосование по системе опорных множеств.

Содержание

Описание АВО, основанных на тупиковых тестах

Формулировка задачи

Задача распознавания: Y=\bigcup_{i=1\ldots l}{Y_i}- множество непересекающихся классов объектов.

Первоначальная информация I_0 (обучающая) и описание некоторого объекта I(x), x \in Y.
Объект задается через набор числовых признаков X=(x_1,\ldots,x_n).
Задача распознавания состоит в определении включения заданного объекта x в классы Y_i.

В случае АВО, основанных на тупиковых тестах, начальная информация I_0 задается таблицей:

  • T_{nml}=\parallel a_{ij}\parallel_{m\times n} - таблица признаков объектов в обучающей выборке;
  • I(X_i)=(a_{i1},\ldots,a_{in}) - описание объекта из обучающей выборки;
  • X_{m_{i-1}+1},\ X_{m_{i-1}+2},\ldots,\ X_{m_i}\in Y_i,\ i=1\ldots l,\ m_0=0,\ m_l=m - выражение, определяющее включение объектов в классы;

Алгоритм распознаванияA(I_0,X)=\alpha(X), где \alpha(X) = \alpha_1(I_0,X),\ldots ,\alpha_l(I_0,X).
\alpha_i(X) = \begin{cases} 1, & X\in Y_i\\ 0, & X \notin Y_i \\ \Delta, & \alpha\ \mathrm{doesn't\ accept\ X}. \end{cases}

Строение АВО

  • \Omega=\{\omega|\omega \subseteq \{1, \ldots, n\}\} - система опорных множеств;
  • Вводится функция близости для двух объектов по опорному множеству \omega :

B_\omega(X, X')=\bigwedge_{s \in \omega}{[\rho_s (X, X') \leq \varepsilon_s]} где \varepsilon_s неотрицательные числа, называемые порогами, s=1,\ldots ,n

  • Вводится оценка близости объекта к классу \Gamma_c
  • Вычисление алгоритма проводится по правилу:

\alpha_j(I_0, X) = \begin{cases} 1, & \Gamma_j(X)>\Gamma_i(X)+\delta_2;\ i=1,\ldots,l, \ i \neq j;\ \Gamma_j(X)>\delta_1\sum^{l}_{i=1}{\Gamma_j(X)}\\ 0, & \mathrm{other\ way}. \end{cases}
1>\delta_1\leq 1/l,\ \delta_2 \geq 0 - пороги осторожности.

Строение АВО, основанного на тупиковых тестах

  • Вводится система опорных множеств \Omega;
  • Задается функция близости для двух объектов по опорному множеству \omega=\{j_1,\ldots, j_r\}:

B_\omega(X_{i1}, X_{i2})=\bigwedge^{r}_{t=1}{|a_{i1j_t}-a_{i2j_t}| \leq \varepsilon_s\]}. Если B=0, объекты не являются близкими по опорному множеству.

Тупиковые тесты

Тестом называется набор столбцов таблицы обучения T_{nml} с номерами j_1,\ldots,\j_r, если любые два объекта, принадлежащие разным классам Y_i, не являются близкими по опорному множеству \omega =\{j_1,\ldots,\j_r\}. Тупиковым тестом называется тест, у которого его собственное подмножество не является таковым. Задача распознавания на основе тупиковых тестов решается следующим образом. Пусть \{T\} - множество тупиковых тестов таблицы T_{nml}. По тупиковому тестуj=(j_1,\ldots,j_k выделяется подописание для распознаваемого объекта X=(a_{j_1},\ldots,a_{j_r}), а затем сравнивается со всеми подописаниями объектов таблицы. Число совпадений с описаниями объектов i-го класса обозначается через \Gamma_{ji}(T).
Оценка объекта по i-ому классу \Gamma_{ji}(X) = \Gamma_i(X_j)=\frac{1}{m_j-m_{j-1}}\sum_{T \in\{T\}}{\Gamma_{ji}(T)}.

Далее объект относится к тому классу,по которому он получил максимальную оценку, в случае двух максимумов считается, что объект не классифицируется на заданном тесте.

Если считать, что не все признаки, описывающие объект, равнозначны, то они снабжаются числовыми весами p(j)=\frac{\tau_j(n,m)}{\tau(n,m)}, где \tau - число тупиковых тестов в таблице, \tau_j -число тупиковых тестов в таблице, содержащих j-ый столбец. Чем больше вес, тем важнее признак в описании объектов множества. Весами объектов, составляющих таблицу обучения, называется поощрительная величина \gamma. В случае совпадения распознаваемого объекта X с объектом из таблицы X_v \in Y_i, такое совпадение поощряется: \Gamma_T(X,X_v) = \gamma(X_v)(p(j_1),\ldots,p(j_r)), Оценка объекта по i-ому классу задается таким образом \Gamma_i(X)=\frac{1}{m_i-m_i-1}\sum_{T\in\{T\}}sum^{m_i}_{m_{i-1}+1}{\Gamma_T(X_v,X)}.

Построение тупиковых тестов

Процесс построения всех тупиковых тестов очень трудоемкий, так как зачастую приходится использовать метод перебора. Для решения задач большой размерности применяются стохастические методы. Для обработки таблиц с относительно большим числом строк по сравнению с числом столбцов может применяться следующий метод.

  • Пусть i_1,i_2=(1,\ldots,m).

Паре объектов S_1 и S_2 ставится в соответствие строка I(X_{i_1})\oplus I(X_{i_2})=(a_{i_11}\oplus a_{i_21}, \dots, a_{i_1n}\oplus a_{i_1n}), если :
a_{i_1j}\oplus a_{i_2j} = \begin{cases} 0, & |a_{i_1j}-a_{i_2j}|\leq \varepsilon_j\\ 1, & \mathrm{other\ way}. \end{cases}

  • Составим булеву матрицу L_{nml} из всех таких строк для объектов из разных классов.
  • U_i - совокупность всех подмножеств множества \{1,2,\lodots,h\} мощности i - выбранного числа из этого множества. h - число строк в матрице L_{nml}. Элементы множества U_i называются наборами.
  • Алгоритм построения тупиковых тестов:
  1. Пусть i=h, \ U_i=\{1,2,\ldots,h\}, задача построения множества всех тупиковых тестов таблицы T_{nml} сводится к построению множества всех неприводимых покрытий матрицы L_{nml}. В этом случае используется детерминированный алгоритм.
  2. Пусть i<h.
    1. Случайным образом выбираем набор u=\{i_1,\ldots,\i_r\} \in U_i, определяющий подматрицу L^u_{nml}, образованную строками с номерами i_1,\ldots,\i_r.
    2. Тест таблицы T_{nml}, состоящий из столбцов j_1,\ldots,\j_r называется u-тестом, если набор столбцов матрицы L^u_{nml} с теми же номерами является неприводимым покрытием. \Tau(T_{nml},u) - множество всех u-тестов в таблице T_{nml}.
    3. Каждому неприводимому покрытию матрицы L_{nml} соответствует набор столбцов таблицы T_{nml}, который проверяется на тестовость.
    4. Обработка последовательности u_1,\ldots,u_v приводит к построению случайной выборки \Tau'(T_{nml})=\bigcup^{v}_{t=1}{\Tau(T_{nml},u_t)}. В этом случае используется стохастический способ построения тупиковых тестов.

Замечание: Требуемая точность алгоритмов зависит от выбора параметров i и v. При определенных условия выбора этих величин стохастический алгоритм почти всегда совпадает с детерминированным, i=\log^{\gamma}_2 n, \ \gamma >3. для решения практических задач достаточно выбрать i=\log_2 n, v=20.

Литература

  1. К.В. Воронцов, Машинное обучение (курс лекций)
  2. Журавлев Ю. И. Об алгебраических методах в задачах распознавания и классификации // Распознавание, классификация, прогноз. — 1988 T. 1. — С. 9--16.
  3. Фамилия И. О. Название статьи // Название журнала или конференции. — М.: Просвещение, 1991. — T. 3, №8. — С. 167–176.
Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%A2%D1%83%D0%BF%D0%B8%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D1%82%D0%B5%D1%81%D1%82%D1%8B»
Личные инструменты