Машинное обучение (курс лекций, В.В.Китов)/2015-2016

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
Строка 1: Строка 1:
[[Категория:Учебные курсы]]
[[Категория:Учебные курсы]]
 +
 +
'''Машинное обучение''' (англ. machine learning) - наука об алгоритмах, которые сами настраиваются на известных данных, выделяя их характерную структуру и взаимосвязи между ними, для их компактного описания, визуализации и последующего предсказания новых аналогичных данных. Наука является сравнительно молодой, поскольку многие алгоритмы автоматической настройки на данных являются вычислительно трудоемкими, и их применение стало возможным только с появлением высокопроизводительных вычислительных средств. Основной акцент курса сделан на задачах предсказания дискретных величин (классификация) и непрерывных величин (регрессия), хотя в курсе также подробно рассматриваются смежные области - эффективное снижение размерности пространства, выделение наиболее значимых признаков для предсказания, методы оценивания и сравнения вероятностных распределений.
 +
 +
Курс читается студентам 3 курса кафедры «Математические методы прогнозирования» ВМиК МГУ, магистрам, зачисленным на эту кафедру, и не проходивших ранее аналогичных курсов, а также для всех желающих. На материал данного курса опираются последующие кафедральные курсы.
 +
 +
По изложению, рассматриваются математические основы методов, лежащие в их основе предположения о данных, взаимосвязи методов между собой и особенности их практического применения.
 +
 +
Курс сопровождается семинарами, раскрывающими дополнительные темы курса и отрабатывающими навыки практического применения рассматриваемых методов. Практическое использование методов машинного обучения в основном будет вестись с использованием языка python и соответствующих библиотек для научных вычислений.
 +
 +
От студентов требуются знания линейной алгебры, математического анализа и теории вероятностей. Знание математической статистики, методов оптимизации и какого-либо языка программирования желательно, но не обязательно.
 +
 +
=Программа курса=
 +
 +
==Первый семестр==
 +
 +
===Основные понятия и примеры прикладных задач.===
 +
+Простейший метод ближайших соседей и ближайших центроидов.
 +
===Метрические методы регрессии и классификации. RBF-методы.===
 +
===Методы решающих деревьев.===
 +
+MARS, Pruning.
 +
===Оценивание моделей. Преобразование score в вероятность.===
 +
===Классификация линейными методами.===
 +
Логистическая регрессия. Метод опорных векторов.
 +
===Линейная и нелинейная регрессия.===
 +
===Кластеризация===
 +
===Обобщение методов через ядра.===
 +
===Байесовская теория классификации.===
 +
+LDA, QDA.
 +
===Разделение смеси распределений. Ядерное сглаживание для оценки плотности.===
 +
EM-алгоритм. Мягкая кластеризация.
 +
===Отбор признаков и регуляризация.===
 +
===Линейные методы снижения размерности.===
 +
PCA, SVD разложения.
 +
===Извлечение признаков и модификация моделей на примерах прикладных задач.===
 +
 +
 +
==Второй семестр==
 +
 +
===Нейросети.===
 +
 +
===Глубинное обучение. ===
 +
+Различные виды автоэнкодеров.
 +
 +
===Ансамбли алгоритмов.===
 +
===Ансамбли алгоритмов(продолжение).===
 +
 +
===Нелинейные методы снижения размерности.===
 +
===Коллаборативная фильтрация.===
 +
===Online machine learning.===
 +
===Оптимизация процесса построения модели. Active learning.===
 +
===Reinforcement learning.===

Версия 19:29, 2 сентября 2015


Машинное обучение (англ. machine learning) - наука об алгоритмах, которые сами настраиваются на известных данных, выделяя их характерную структуру и взаимосвязи между ними, для их компактного описания, визуализации и последующего предсказания новых аналогичных данных. Наука является сравнительно молодой, поскольку многие алгоритмы автоматической настройки на данных являются вычислительно трудоемкими, и их применение стало возможным только с появлением высокопроизводительных вычислительных средств. Основной акцент курса сделан на задачах предсказания дискретных величин (классификация) и непрерывных величин (регрессия), хотя в курсе также подробно рассматриваются смежные области - эффективное снижение размерности пространства, выделение наиболее значимых признаков для предсказания, методы оценивания и сравнения вероятностных распределений.

Курс читается студентам 3 курса кафедры «Математические методы прогнозирования» ВМиК МГУ, магистрам, зачисленным на эту кафедру, и не проходивших ранее аналогичных курсов, а также для всех желающих. На материал данного курса опираются последующие кафедральные курсы.

По изложению, рассматриваются математические основы методов, лежащие в их основе предположения о данных, взаимосвязи методов между собой и особенности их практического применения.

Курс сопровождается семинарами, раскрывающими дополнительные темы курса и отрабатывающими навыки практического применения рассматриваемых методов. Практическое использование методов машинного обучения в основном будет вестись с использованием языка python и соответствующих библиотек для научных вычислений.

От студентов требуются знания линейной алгебры, математического анализа и теории вероятностей. Знание математической статистики, методов оптимизации и какого-либо языка программирования желательно, но не обязательно.

Содержание

Программа курса

Первый семестр

Основные понятия и примеры прикладных задач.

+Простейший метод ближайших соседей и ближайших центроидов.

Метрические методы регрессии и классификации. RBF-методы.

Методы решающих деревьев.

+MARS, Pruning.

Оценивание моделей. Преобразование score в вероятность.

Классификация линейными методами.

Логистическая регрессия. Метод опорных векторов.

Линейная и нелинейная регрессия.

Кластеризация

Обобщение методов через ядра.

Байесовская теория классификации.

+LDA, QDA.

Разделение смеси распределений. Ядерное сглаживание для оценки плотности.

EM-алгоритм. Мягкая кластеризация.

Отбор признаков и регуляризация.

Линейные методы снижения размерности.

PCA, SVD разложения.

Извлечение признаков и модификация моделей на примерах прикладных задач.

Второй семестр

Нейросети.

Глубинное обучение.

+Различные виды автоэнкодеров.

Ансамбли алгоритмов.

Ансамбли алгоритмов(продолжение).

Нелинейные методы снижения размерности.

Коллаборативная фильтрация.

Online machine learning.

Оптимизация процесса построения модели. Active learning.

Reinforcement learning.

Личные инструменты