Байесовские методы машинного обучения (курс лекций) / 2016

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Расписание занятий)
 
(34 промежуточные версии не показаны)
Строка 21: Строка 21:
Просьба не смешивать темы, то есть не нужно присылать в одном письме практическое задание и домашнее.
Просьба не смешивать темы, то есть не нужно присылать в одном письме практическое задание и домашнее.
 +
 +
== Экзамен ==
 +
Экзамен по курсу состоится 14 января в ауд. 510, начало в 12-00. На экзамене при подготовке билета разрешается пользоваться любыми материалами. При непосредственном ответе ничем пользоваться нельзя. Просьба обратить внимание на теоретический минимум по курсу — незнание ответов на вопросы теор. минимума автоматически влечёт неудовлетворительную оценку за экзамен.
 +
 +
[[Media:BMML16_exam_questions.pdf|Вопросы к экзамену]]
== Расписание занятий ==
== Расписание занятий ==
Строка 29: Строка 34:
!Дата !! № занятия !! Занятие !! Материалы
!Дата !! № занятия !! Занятие !! Материалы
|-
|-
-
| rowspan=2|4 сентября 2015 || rowspan=2 align="center"|1 || Лекция «Байесовский подход к теории вероятностей. Примеры байесовских рассуждений.» || [[Media:Lecture7_2012.pdf|Конспект (pdf)]] [[Media:BMMO11_2.pdf|Презентация (pdf)]]
+
| rowspan=2|2 сентября 2016 || rowspan=2 align="center"|1 || Лекция «Байесовский подход к теории вероятностей. Примеры байесовских рассуждений.» || [[Media:Lecture7_2012.pdf|Конспект (pdf)]] [[Media:BMMO11_2.pdf|Презентация (pdf)]]
|-
|-
|Семинар «Байесовские рассуждения. Выдача практического задания №1» || [[Media:S01_bayesian_reasoning_2016.pdf|Задачи (pdf)]]
|Семинар «Байесовские рассуждения. Выдача практического задания №1» || [[Media:S01_bayesian_reasoning_2016.pdf|Задачи (pdf)]]
|-
|-
-
| rowspan=2|11 сентября 2015 || rowspan=2 align="center"|2 || Лекция «Сопряжённые распределения, аналитический байесовский вывод, экспоненциальный класс распределений» ||
+
| rowspan=2|9 сентября 2016 || rowspan=2 align="center"|2 || Лекция «Сопряжённые распределения, аналитический байесовский вывод, экспоненциальный класс распределений» ||
|-
|-
-
|Семинар «Сопряжённые распределения» ||
+
|Семинар «Сопряжённые распределения» || [[Media:BMML_sem2_2016.pdf|Задачи (pdf)]]
|-
|-
-
| rowspan=2|18 сентября 2015 || rowspan=2 align="center"|3 || Лекция «Байесовский выбор модели» || [[Media:BMMO11_5.pdf|Презентация (pdf)]]
+
| rowspan=2|16 сентября 2016 || rowspan=2 align="center"|3 || Лекция «Байесовский выбор модели» || [[Media:BMMO11_5.pdf|Презентация (pdf)]]
|-
|-
-
|Семинар «Подсчёт обоснованности моделей» ||
+
|Семинар «Подсчёт обоснованности моделей» || [[Media:BMML_sem3_2016.pdf|Задачи (pdf)]] [[Media:Formulas.pdf|Формулы (pdf)]]
|-
|-
-
| rowspan=2|2 октября 2015 || rowspan=2 align="center"|4 || Лекция «Метод релевантных векторов для задачи регрессии» || [[Media:BMMO11_7.pdf|Презентация (pdf)]]
+
| rowspan=2|23 сентября 2016 || rowspan=2 align="center"|4 || Лекция «Метод релевантных векторов для задачи регрессии» || [[Media:BMMO11_7.pdf|Презентация (pdf)]]
|-
|-
-
|Семинар «Матричные вычисления» ||
+
|Семинар «Матричные вычисления» || [[Media:S04_matrix_calculations.pdf|Задачи на семинаре с разбором(pdf)]]
|-
|-
-
| rowspan=2|16 октября 2015 || rowspan=2 align="center"|5 || Лекция «Метод релевантных векторов для задачи классификации» || [[Media:BMMO11_8.pdf|Конспект (pdf)]]
+
| rowspan=2|30 сентября 2016 || rowspan=2 align="center"|5 || Лекция «Метод релевантных векторов для задачи классификации» || [[Media:BMMO11_8.pdf|Конспект (pdf)]]
|-
|-
-
|Семинар «Метод релевантных векторов» ||
+
|Семинар «Метод релевантных векторов» || [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Seminars/BMML_sem5_2016.pdf Задачи] [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Seminars/BMML_sem5_2016_presentation.pdf Презентация] [https://en.wikipedia.org/wiki/Woodbury_matrix_identity Доказательство тождества Вудбери] [[Media:BMMO11_7.pdf|Доказательство тождества об определителе]]
|-
|-
-
| rowspan=2|23 октября 2015 || rowspan=2 align="center"|6 || Лекция «EM-алгоритм. Байесовский метод главных компонент» || [[Media:BMMO11_11.pdf|Конспект (pdf)]]
+
| rowspan=2|7 октября 2016 || rowspan=2 align="center"|6 || Лекция «EM-алгоритм. Байесовский метод главных компонент» || [[Media:BMMO11_11.pdf|Конспект (pdf)]]
|-
|-
-
|Семинар «ЕМ-алгоритм» ||
+
|Семинар «ЕМ-алгоритм» || [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Seminars/BMML_sem6_2016.pdf Задачи] [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Seminars/BMML_sem6_2016_presentation.pdf Презентация]
|-
|-
-
| rowspan=2|30 октября 2015 || rowspan=2 align="center"|7 || Лекция «Вариационный вывод» || [[Media:BMMO14_variational_lecture.pdf|Конспект лекции (pdf)]] [[Media:BMMO11_9.pdf|Конспект (pdf)]]
+
| rowspan=2|14 октября 2016 || rowspan=2 align="center"|7 || Лекция «Вариационный вывод» || [[Media:BMMO14_variational_lecture.pdf|Конспект лекции (pdf)]] [[Media:BMMO11_9.pdf|Конспект (pdf)]]
|-
|-
-
| Семинар «Вариационный вывод» ||
+
| Семинар «Вариационный вывод» || [[Media:BMML15_S08_variational_inference.pdf|Задачи (pdf)]]
|-
|-
-
| rowspan=2|6 ноября 2015 || rowspan=2 align="center"|8 || Лекция «Методы Монте Карло по схеме марковский цепей (MCMC)» || [[Media:BMMO11_10.pdf|Конспект (pdf)]]
+
| rowspan=2|21 октября 2016 || rowspan=2 align="center"|8 || Лекция «Методы Монте Карло по схеме марковский цепей (MCMC)» || [[Media:BMMO11_10.pdf|Конспект (pdf)]]
|-
|-
-
|Семинар «Методы MCMC» ||
+
|Семинар «Методы MCMC» || [[Media:BMMO8_2.pdf|Конспект (pdf)]]
|-
|-
-
|rowspan=2|13 ноября 2015 || rowspan=2 align="center"|9 || Лекция «Стохастический вариационный вывод. Вариационный автокодировщик» || [http://jmlr.org/papers/v14/hoffman13a.html Статья 1], [http://arxiv.org/abs/1312.6114 Статья 2]
+
|rowspan=2|28 октября 2016 || rowspan=2 align="center"|9 || Лекция «Гауссовские процессы для регрессии и классификации» ||
|-
|-
-
|Семинар «Несопряжённый вариационный вывод» ||
+
|Семинар «Гауссовские процессы для регрессии и классификации» || [[Media:S11_show_BMML16.pdf|Презентация]] [[Media:S11_GP_BMML16.pdf|Задачи]]
|-
|-
-
|rowspan=2|13 ноября 2015 || rowspan=2 align="center"|10 || Лекция «Гауссовские процессы для регрессии и классификации» ||
+
|rowspan=2|11 ноября 2016 || rowspan=2 align="center"|10 || Лекция «Непараметрические байесовские методы. Процессы Дирихле» || [[Media:DirichletProcessNotes.pdf|Конспект (pdf)]]
|-
|-
-
|Семинар «Гауссовские процессы для регрессии и классификации» ||
+
|Семинар «Свойства распределения Дирихле. Выдача задания №3» || [[Media:BMMO10_2.pdf|Конспект (pdf)]]
|-
|-
-
|rowspan=2|20 ноября 2015 || rowspan=2 align="center"|11 || Лекция «Непараметрические байесовские методы. Процессы Дирихле» || [[Media:DirichletProcessNotes.pdf|Конспект (pdf)]]
+
|rowspan=2|18 ноября 2016 || rowspan=2 align="center"|11 || Лекция «Латентное размещение Дирихле (LDA)» || [[Media:BMMO11_14.pdf|Конспект (pdf)]]
|-
|-
-
|Семинар «Свойства распределения Дирихле. Выдача задания №3» ||
+
|Семинар «Модификации LDA» || [http://www.cs.berkeley.edu/~jordan/papers/hierarchical-dp.pdf Статья по HDP]
|-
|-
-
|rowspan=2|27 ноября 2015 || rowspan=2 align="center"|12 || Лекция «Латентное размещение Дирихле (LDA)» || [[Media:BMMO11_14.pdf|Конспект (pdf)]]
+
|25 ноября 2016 || align="center"|12 || Лекция и семинар «Стохастический вариационный вывод. Вариационный автокодировщик» || [http://jmlr.org/papers/v14/hoffman13a.html Статья 1], [http://arxiv.org/abs/1312.6114 Статья 2]
|-
|-
-
|Семинар «Модификации LDA» ||
+
|2 декабря 2016 || align="center"|13 || Занятие «Несопряженный вариационный вывод» || [https://arxiv.org/pdf/1209.4360v4.pdf Статья]
 +
|-
 +
|9 декабря 2016 || align="center"|14 || Занятие «Масштабируемые модели гауссовских процессов» || [https://arxiv.org/abs/1611.06132 Статья]
|-
|-
|}
|}
-
== Домашние задания ==
+
== Теоретические задания ==
 +
 
 +
Задание 1. [[Media:BMML_hw1_2016.pdf‎‎|Сопряжённые распределения и экспоненциальный класс распределений]]
 +
 
 +
Срок сдачи: 16 сентября (пятница), 23:59.
 +
 
 +
 
 +
Задание 2. [[Media:Hw_2_2016.pdf‎‎|Матричные вычисления]]
 +
 
 +
Срок сдачи: 1 октября (суббота), 23:59.
 +
 
 +
 
 +
Задание 3 [[Media:-Hometask3.pdf‎|Вариационный вывод]]
 +
 
 +
Срок сдачи: 29 октября (суббота), 23:59.
 +
== Практические задания ==
== Практические задания ==
 +
 +
Задание 1. [[Media:BMML_Assignment1_2016.pdf‎|Байесовские рассуждения]]
 +
 +
Проверьте свой код перед сдачей с помощью данного [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Hometasks/BMML1_tester_for_students.ipynb тестера]!
 +
 +
Срок сдачи: 17 сентября (суббота), 23:59.
 +
 +
Задание 2. [[Media:BMML_Assignment2_2016.pdf‎|ЕМ алгоритм для детектива]]
 +
 +
Прототипы функций находятся [https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml/2016/Hometasks/BMML2_prototypes.py здесь], а текущий набор данных – [https://drive.google.com/file/d/0B7TWwiIrcJstaDUxdXBsWU9BLTA/view?usp=sharing здесь].
 +
 +
Выложена полная и окончательная версия данных.
 +
 +
Срок сдачи: 23 октября (воскресенье), 23:59.
 +
 +
''В версии задания на github не открывались ссылки в первой части задания, поэтому задание перезалито на machinelearning.''
 +
 +
Задание 3. [[Media:Hometask-3.pdf‎|Процессы Дирихле для кластеризации изображений цифр]]
 +
 +
Срок сдачи: 27 ноября (воскресенье), 23:59
== Система выставления оценок по курсу ==
== Система выставления оценок по курсу ==
Строка 104: Строка 146:
# [http://www2.imm.dtu.dk/pubdb/views/edoc_download.php/3274/pdf/imm3274.pdf Набор полезных фактов для матричных вычислений]
# [http://www2.imm.dtu.dk/pubdb/views/edoc_download.php/3274/pdf/imm3274.pdf Набор полезных фактов для матричных вычислений]
# Простые и удобные [http://cs.nyu.edu/~roweis/notes.html заметки по матричным вычислениям и свойствам гауссовских распределений]
# Простые и удобные [http://cs.nyu.edu/~roweis/notes.html заметки по матричным вычислениям и свойствам гауссовских распределений]
-
# [http://matthias.vallentin.net/probability-and-statistics-cookbook/ Памятка по теории вероятностей]
+
# [http://statistics.zone/ Памятка по теории вероятностей]
# ''Ветров Д.П., Кропотов Д.А.'' Байесовские методы машинного обучения, учебное пособие по спецкурсу, 2007 ([[Медиа:BayesML-2007-textbook-1.pdf|Часть 1, PDF 1.22МБ]]; [[Медиа:BayesML-2007-textbook-2.pdf|Часть 2, PDF 1.58МБ]])
# ''Ветров Д.П., Кропотов Д.А.'' Байесовские методы машинного обучения, учебное пособие по спецкурсу, 2007 ([[Медиа:BayesML-2007-textbook-1.pdf|Часть 1, PDF 1.22МБ]]; [[Медиа:BayesML-2007-textbook-2.pdf|Часть 2, PDF 1.58МБ]])
# ''Bishop C.M.'' [http://research.microsoft.com/en-us/um/people/cmbishop/prml/ Pattern Recognition and Machine Learning.] Springer, 2006.
# ''Bishop C.M.'' [http://research.microsoft.com/en-us/um/people/cmbishop/prml/ Pattern Recognition and Machine Learning.] Springer, 2006.

Текущая версия

Курс посвящен т.н. байесовским методам решения различных задач машинного обучения (классификации, восстановления регрессии, уменьшения размерности, разделения смесей, тематического моделирования и др.), которые в настоящее время активно развиваются в мире. Большинство современных научных публикаций по машинному обучению используют вероятностное моделирование, опирающееся на байесовский подход к теории вероятностей. Последний позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и пр. В байесовском подходе вероятность интерпретируется как мера незнания, а не как объективная случайность. Простые правила оперирования с вероятностью, такие как формула полной вероятности и формула Байеса, позволяют проводить рассуждения в условиях неопределенности. В этом смысле байесовский подход к теории вероятностей можно рассматривать как обобщение классической булевой логики.

Основной задачей курса является привитие студентам навыков самостоятельного построения сложных вероятностных моделей обработки данных, используя стандартные модели в качестве своеобразных "кирпичиков". Особое внимание уделяется приближенным байесовским методам, позволяющим обсчитывать сложные вероятностные модели.

Лектор: Д.П. Ветров,

Семинаристы: Е. Лобачева, Д. Подоприхин

Таблица с результатами находится здесь.

Вопросы и комментарии по курсу, а также сдаваемые задания нужно отправлять на почту bayesml@gmail.com. В название письма обязательно добавлять тег [БММО16].

Формат темы письма:

  • [БММО16]Вопрос — для вопросов;
  • [БММО16]Практика №, Фамилия Имя, Вариант № — для практический заданий (если вариант только один, то его указывать не нужно);
  • [БММО16]Теория №, Фамилия Имя — для домашних заданий.

Просьба не смешивать темы, то есть не нужно присылать в одном письме практическое задание и домашнее.

Содержание

Экзамен

Экзамен по курсу состоится 14 января в ауд. 510, начало в 12-00. На экзамене при подготовке билета разрешается пользоваться любыми материалами. При непосредственном ответе ничем пользоваться нельзя. Просьба обратить внимание на теоретический минимум по курсу — незнание ответов на вопросы теор. минимума автоматически влечёт неудовлетворительную оценку за экзамен.

Вопросы к экзамену

Расписание занятий

В 2016 году курс читается на факультете ВМиК МГУ по пятницам в ауд. 508, начало в 14-35 (лекция) и 16-20 (семинар).

Дата № занятия Занятие Материалы
2 сентября 2016 1 Лекция «Байесовский подход к теории вероятностей. Примеры байесовских рассуждений.» Конспект (pdf) Презентация (pdf)
Семинар «Байесовские рассуждения. Выдача практического задания №1» Задачи (pdf)
9 сентября 2016 2 Лекция «Сопряжённые распределения, аналитический байесовский вывод, экспоненциальный класс распределений»
Семинар «Сопряжённые распределения» Задачи (pdf)
16 сентября 2016 3 Лекция «Байесовский выбор модели» Презентация (pdf)
Семинар «Подсчёт обоснованности моделей» Задачи (pdf) Формулы (pdf)
23 сентября 2016 4 Лекция «Метод релевантных векторов для задачи регрессии» Презентация (pdf)
Семинар «Матричные вычисления» Задачи на семинаре с разбором(pdf)
30 сентября 2016 5 Лекция «Метод релевантных векторов для задачи классификации» Конспект (pdf)
Семинар «Метод релевантных векторов» Задачи Презентация Доказательство тождества Вудбери Доказательство тождества об определителе
7 октября 2016 6 Лекция «EM-алгоритм. Байесовский метод главных компонент» Конспект (pdf)
Семинар «ЕМ-алгоритм» Задачи Презентация
14 октября 2016 7 Лекция «Вариационный вывод» Конспект лекции (pdf) Конспект (pdf)
Семинар «Вариационный вывод» Задачи (pdf)
21 октября 2016 8 Лекция «Методы Монте Карло по схеме марковский цепей (MCMC)» Конспект (pdf)
Семинар «Методы MCMC» Конспект (pdf)
28 октября 2016 9 Лекция «Гауссовские процессы для регрессии и классификации»
Семинар «Гауссовские процессы для регрессии и классификации» Презентация Задачи
11 ноября 2016 10 Лекция «Непараметрические байесовские методы. Процессы Дирихле» Конспект (pdf)
Семинар «Свойства распределения Дирихле. Выдача задания №3» Конспект (pdf)
18 ноября 2016 11 Лекция «Латентное размещение Дирихле (LDA)» Конспект (pdf)
Семинар «Модификации LDA» Статья по HDP
25 ноября 2016 12 Лекция и семинар «Стохастический вариационный вывод. Вариационный автокодировщик» Статья 1, Статья 2
2 декабря 2016 13 Занятие «Несопряженный вариационный вывод» Статья
9 декабря 2016 14 Занятие «Масштабируемые модели гауссовских процессов» Статья

Теоретические задания

Задание 1. Сопряжённые распределения и экспоненциальный класс распределений

Срок сдачи: 16 сентября (пятница), 23:59.


Задание 2. Матричные вычисления

Срок сдачи: 1 октября (суббота), 23:59.


Задание 3 Вариационный вывод

Срок сдачи: 29 октября (суббота), 23:59. ‎

Практические задания

Задание 1. Байесовские рассуждения

Проверьте свой код перед сдачей с помощью данного тестера!

Срок сдачи: 17 сентября (суббота), 23:59.

Задание 2. ЕМ алгоритм для детектива

Прототипы функций находятся здесь, а текущий набор данных – здесь.

Выложена полная и окончательная версия данных.

Срок сдачи: 23 октября (воскресенье), 23:59.

В версии задания на github не открывались ссылки в первой части задания, поэтому задание перезалито на machinelearning.

Задание 3. Процессы Дирихле для кластеризации изображений цифр

Срок сдачи: 27 ноября (воскресенье), 23:59

Система выставления оценок по курсу

  1. В рамках курса предполагается выполнение трёх практических заданий и трёх домашних заданий.
  2. Задания выполняются самостоятельно. Если задание выполнялось сообща, или использовались какие-либо сторонние коды и материалы, то об этом должно быть написано в отчете. В противном случае „похожие“ решения считаются плагиатом и все задействованные студенты (в том числе те, у кого списали) будут сурово наказаны.
  3. При наличии несданных практических заданий максимальная возможная оценка за курс — это «удовлетворительно».
  4. Практические задания оцениваются из 5 баллов. За сдачу заданий позже срока начисляется штраф в размере 0.1 балла за каждый день просрочки, но суммарно не более 5-и баллов.
  5. Домашние задания оцениваются из 2 баллов. За сдачу заданий позже срока начисляется штраф в размере 0.1 балла за каждый день просрочки. Задания не принимаются спустя неделю после срока.
  6. Необходимым условием получения положительной оценки за курс является сдача не менее двух практических заданий и сдача устного экзамена не менее чем на оценку «удовлетворительно».
  7. Итоговая оценка вычисляется по формуле Mark = \frac{Oral*4+HomeWork}{8}, где Oral — оценка за устный экзамен (0, 3, 4, 5), HomeWork — баллы, набранные за практические и домашние задания (см. таблицу выше), Mark — итоговая оценка по 5-балльной шкале. Нецелые значения округляются в сторону ближайшего целого, превосходящего дробное значение.
  8. На экзамене студент может отказаться от оценки и пойти на пересдачу, на которой может заново получить Oral.
  9. За каждое несданное практическое задание выставляется минус 10 баллов в баллы по заданиям (допускаются отрицательные значения).
  10. За каждую несданное домашнее задание выставляется 0 баллов в баллы по заданиям.
  11. Если на экзамене итоговая оценка оказывается ниже трех, то студент отправляется на пересдачу. При этом оценка Oral, полученная на пересдаче, добавляется к положительной (три и выше) оценке Oral, полученной на основном экзамене и т.д. до тех пор, пока студент не наберет на итоговую оценку «удовлетворительно» (для итоговых оценок выше «удовлетворительно» оценки Oral не суммируются).
  12. Студент может досдать недостающие практические задания в любое время. При этом проверка задания гарантируется только в том случае, если задание сдано не позднее, чем за неделю до основного экзамена или пересдачи.
  13. В случае успешной сдачи всех практических заданий студент получает возможность претендовать на итоговую оценку «хорошо» и «отлично». При этом экзамен на оценку Oral может сдаваться до сдачи всех заданий (оценки Oral в этом случае не суммируются).
  14. Экзамен на оценку Oral сдается либо в срок основного экзамена, либо в срок официальных пересдач.

Литература

  1. Barber D. Bayesian Reasoning and Machine Learning. Cambridge University Press, 2012.
  2. Набор полезных фактов для матричных вычислений
  3. Простые и удобные заметки по матричным вычислениям и свойствам гауссовских распределений
  4. Памятка по теории вероятностей
  5. Ветров Д.П., Кропотов Д.А. Байесовские методы машинного обучения, учебное пособие по спецкурсу, 2007 (Часть 1, PDF 1.22МБ; Часть 2, PDF 1.58МБ)
  6. Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
  7. Mackay D.J.C. Information Theory, Inference, and Learning Algorithms. Cambridge University Press, 2003.
  8. Tipping M. Sparse Bayesian Learning. Journal of Machine Learning Research, 1, 2001, pp. 211-244.
  9. Шумский С.А. Байесова регуляризация обучения. В сб. Лекции по нейроинформатике, часть 2, 2002.

Страницы курса прошлых лет

2010 год
2011 год
весна 2013 года
осень 2013 года
2014 год
2015 год


См. также

Курс «Графические модели»

Спецсеминар «Байесовские методы машинного обучения»

Математические методы прогнозирования (кафедра ВМиК МГУ)

Личные инструменты