Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 774, весна 2010
Материал из MachineLearning.
(категория) |
|||
| Строка 89: | Строка 89: | ||
== Экзамен == | == Экзамен == | ||
22, 29 апреля и 6 мая | 22, 29 апреля и 6 мая | ||
| + | |||
| + | [[Категория:Учебные курсы]] | ||
Версия 20:16, 4 марта 2010
Численные методы обучения по прецедентам (программа курса)
Задачи
SVM для линейно разделимой выборки (пример) Решить задачу разделения двух классов в пространстве малой размерности методом SVM для линейно неразделимой выборки. Исследовать устойчивость алгоритма: зависимость параметров разделяющей гиперплоскости от дисперсии случайной переменной или наличия выбросов.
SVM для линейно неразделимой выборки (пример) Решить задачу разделения двух классов в пространстве малой размерности метдом SVM для линейно неразделимой выборки. В этом случае предлагается использовать несколько различных ядер. Для синтетических данных - двух классов, каждый из которых состоит из смеси гауссовых распределений, подобрать оптимальное ядро.
SVM регрессия (пример) Решить задачу восстановления регрессии методом SVM. Исследовать зависимость евклидовой нормы вектора параметров от дисперсии случайной величины. Использовать несколько функций распределения. Визуализировать эту зависимость. Визуализировать функцию потерь.
Прореживание двухслойной нейронной сети (пример) Решить задачу восстановления регрессии с использованием двухслойной нейронной сети. Методом оптимального прореживания нейронных сетей вычислить функцию выпуклости. Исследовать закономерности изменения параметров нейронной сети в процессе е прореживания.
Выбор признаков с помощью генетических алгоритмов (пример) Решить задачу восстановления линейной регрессии с разделением выборки на обучающую и тестовую. Использовать и сравнить несколько стратегий генетических алгоритмов при выборе признаков линейной регрессионной модели. Исследовать скорость сходимости каждого из алгоритмов в зависимости от параметров.
Однослойные сети RBF для решения задач регрессия (пример) Решить задачу восстановления регрессии с использованием сетей RBF. Для настройки сетей использовать EM-алгоритм с добавлением. Исследовать зависимость дисперсии компонент от дисперсии зависимой переменной. Исследовать зависимость дисперсии компонент от их числа.
Анализ регрессионных остатков (пример) Решать задачу восстановления линейной регрессии с помощью МНК. Создать инструмент анализа регрессионных остатков. Создать инструмент исследования значимости признаков. Исследовать поведение регрессионных остатков для гетероскедаксичного случая. Нарисовать доверительные интервалы восстановленной зависимой переменной.
Анализ мультиколлинеарности (пример) Решить задачу восстановления линейной регрессии с помощью МНК. Создать инструмент исследования мультиколлинеарности признаков (методики VIF, Belsley). Исследовать устойчивость модели: зависимость параметров модели от дисперсии случайной переменной и выбросов в выборке. Проанализировать результаты исследования с точки зрения VIF, Belsley.
Выбор признаков логистической регрессии (пример) Решать задачу выбора признаков восстановления логистической регрессии с помощью метода LARS. Сравнить этот метод и метод шаговой регрессии. Исследовать поведение LARS в разных случаях мультикоррелирующих признаков.
Прогнозирование временных рядов методом SSA (пример) Создать алгоритм прогнозирования многомерных временных рядов методом "Гусеница". Исследовать поведение алгоритма при наличии выбросов во временных рядах. Исследовать поведение алгоритма в случае нарушения периодичности временного ряда.
Аппроксимация Лапласа (пример) Для нескольких регрессионных моделей создать процедуру сэмплирования и визуализации пространства параметров. Построить аппроксимацию Лапласа. Исследовать зависимость дисперсии параметров модели от дисперсии случайной величины - зависимой переменной.
Экзамен
22, 29 апреля и 6 мая
