Графические модели (курс лекций)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Выдано задание 1)
(оценки за проверочную работу на семинаре №2)
Строка 83: Строка 83:
Задание 6. «Модель Изинга».
Задание 6. «Модель Изинга».
 +
 +
== Оценки по курсу ==
 +
 +
{|class = "standard sortable"
 +
! class="unsortable"|№ п/п !! Студент !! Задание 1 !! Семинар 2 !! Задание 2 !! Задание 3 !! Задание 4 !! Задание 5 !! Задание 6
 +
|-
 +
| align="center"|1 || Березин Алексей Андреевич || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|2 || [[Участник:Borman|Борисов Михаил Викторович]] || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|3 || Гавриков Михаил Игоревич || align="center"| || align="center"| 1 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|4 || Зак Евгений Михайлович || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|5 || Исмагилов Тимур Ниязович || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|6 || Кондрашкин Дмитрий Андреевич || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|7 || [[Участник:Kuraga|Куракин Александр Владимирович]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|8 || Лобачева Екатерина Максимовна || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|9 || Любимцева Мария Михайловна || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|10 || Малышева Екатерина Константиновна (С) || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|11 || Морозова Дарья Юрьевна || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|12 || [[Участник:Nizhibitsky|Нижибицкий Евгений Алексеевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|13 || [[Участник:Novikov|Новиков Максим Сергеевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|14 || Огнева Дарья Сергеевна || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|15 || [[Участник:MoRandi91|Остапец Андрей Александрович]] || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|16 || Потапенко Анна Александровна || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|17 || [[Участник:Peter Romov|Ромов Петр Алексеевич]] || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|18 || [[Участник:Newo|Фонарев Александр Юрьевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
| align="center"|19 || Шаймарданов Ильдар Рифарович || align="center"| || align="center"| 1 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"|
 +
|-
 +
|}
 +
== Система выставления оценок по курсу ==
== Система выставления оценок по курсу ==

Версия 11:47, 22 февраля 2013


Курс посвящен математическим методам обработки информации, основанных на использовании внутренних взаимосвязей в данных и их последующем анализе. Эти методы широко используются при решении задач из разных прикладных областей, включая обработку изображений и видео, анализ социальных сетей, распознавание речи, машинное обучение. До 2011 года курс читался как спецкурс «Структурные методы анализа изображений и сигналов».

Целью курса является освоение математического аппарата для работы с графическими моделями. Предполагается, что в результате прохождения курса студенты обретут навыки самостоятельного построения графических моделей для решения задач из различных прикладных областей; будут способны решать задачи настройки параметров графических моделей по данным, определять подходящую структуру графической модели, выбирать методы, наиболее эффективные для работы с построенной моделью; получат опыт применения графических моделей для различных задач анализа изображений, сигналов, сетей.

Лектор: Д.П. Ветров,

Семинарист: А.А. Осокин,

Ассистент: Д.А. Кропотов.

Расписание занятий

В 2013 году курс читается на факультете ВМиК МГУ по пятницам в ауд. 526б, начало в 12-15 и в 16-20.

ДатаЗанятиеМатериалы
8 февраля 2013 Лекция 1 «Введение в курс. Байесовские рассуждения.»
15 февраля 2013 Семинар 1 «Правила работы с вероятностями, байесовские рассуждения.»
15 февраля 2013 Лекция 2 «Графические модели: байесовские и марковские сети»
22 февраля 2013 Семинар 2 «Построение марковских сетей, фактор-графы»
22 февраля 2013 Лекция 3 «Алгоритм Belief Propagation (BP) для вывода в ациклических графических моделях. Алгоритм Loopy BP.»
1 марта 2013 Семинар 3 «Коды с малой плотностью проверок на чётность (LDPC-коды)» LDPC-коды в Википедии
1 марта 2013 Лекция 4 «Скрытые марковские модели. Алгоритм сегментации сигнала, обучение с учителем.»
15 марта 2013 Лекция 5 «ЕМ-алгоритм. Обучение скрытых марковских моделей без учителя.»
15 марта 2013 Семинар 4 «ЕМ-алгоритм»
22 марта 2013 Семинар 5 «Матричные вычисления»
22 марта 2013 Лекция 6 «Линейные динамические системы. Фильтр Калмана. Расширенный фильтр Калмана.»
29 марта 2013 Семинар 6 «Линейные динамические системы»
29 марта 2013 Лекция 7 «Алгоритмы на основе разрезов графов, \alpha-расширение.»
5 апреля 2013 Семинар 7 «Алгоритмы разрезов графов»
5 апреля 2013 Лекция 8 «Алгоритм Tree-ReWeighted Message Passing (TRW) для вывода в циклических графических моделях»
12 апреля 2013 Семинар 8 «Двойственное разложение»
12 апреля 2013 Лекция 9 «Структурный метод опорных векторов (SSVM)»
19 апреля 2013 Семинар 9 «Разбор практического задания по SSVM»
19 апреля 2013 Лекция 10 «Методы Монте Карло по схеме марковских цепей (MCMC)»
26 апреля 2013 Семинар 10 «Модель Изинга»
26 апреля 2013 Лекция 11 «Вариационный вывод»
17 мая 2013 Семинар 11 «Вариационный вывод»
17 мая 2013 Лекция 12 «Алгоритм Expectation Propagation (EP)»

Практические задания

Задание 1. «Байесовские рассуждения».

Задание 2. «Алгоритм Loopy Belief Propagation для LDPC-кодов».

Задание 3. «Матричные вычисления».

Задание 4. «Алгоритм \alpha-расширения для задачи стерео».

Задание 5. «Структурное обучение».

Задание 6. «Модель Изинга».

Оценки по курсу

№ п/п Студент Задание 1 Семинар 2 Задание 2 Задание 3 Задание 4 Задание 5 Задание 6
1 Березин Алексей Андреевич 0.5
2 Борисов Михаил Викторович -
3 Гавриков Михаил Игоревич 1
4 Зак Евгений Михайлович -
5 Исмагилов Тимур Ниязович 0.5
6 Кондрашкин Дмитрий Андреевич 0.5
7 Куракин Александр Владимирович 0
8 Лобачева Екатерина Максимовна 0.5
9 Любимцева Мария Михайловна 0
10 Малышева Екатерина Константиновна (С) 0
11 Морозова Дарья Юрьевна 0
12 Нижибицкий Евгений Алексеевич 0
13 Новиков Максим Сергеевич 0
14 Огнева Дарья Сергеевна 0.5
15 Остапец Андрей Александрович 0.5
16 Потапенко Анна Александровна -
17 Ромов Петр Алексеевич -
18 Фонарев Александр Юрьевич 0
19 Шаймарданов Ильдар Рифарович 1


Система выставления оценок по курсу

  1. При наличии несданных заданий максимальная возможная оценка за курс — это «удовлетворительно».
  2. Итоговая оценка вычисляется по формуле Mark = \frac{Oral*5+HomeWork}{10}, где Oral — оценка из пяти баллов за устный экзамен, HomeWork — баллы, набранные за практические задания (см. таблицу выше), Mark — итоговая оценка по 5-балльной шкале. Нецелые значения округляются в сторону ближайшего целого, превосходящего дробное значение.
  3. Студент может отказаться от оценки и пойти на пересдачу, на которой может заново получить Oral.
  4. За каждое несданное задание выставляется минус 10 баллов в HomeWork (допускаются отрицательные значения).
  5. Если на экзамене итоговая оценка оказывается ниже трех, студент отправляется на пересдачу. При этом оценка Oral, полученная на пересдаче, добавляется к положительной (три и выше) оценке Oral, полученной на основном экзамене и т.д. до тех пор, пока студент не наберет на итоговую оценку «удовлетворительно» (для итоговых оценок выше «удовлетворительно» оценки Oral не суммируются).
  6. Студент может досдать недостающие практические задания в любое время. При этом проверка задания гарантируется только в том случае, если задание сдано не позднее, чем за неделю до основного экзамена или пересдачи.
  7. Штраф за просрочку сдачи заданий начисляется из расчета 0.5 балла за неделю, но не более 5 баллов.
  8. В случае успешной сдачи всех практических заданий студент получает возможность претендовать на итоговую оценку «хорошо» и «отлично». При этом экзамен на оценку Oral может сдаваться до сдачи всех заданий (оценки Oral в этом случае не суммируются).
  9. Экзамен на оценку Oral сдается либо в срок основного экзамена, либо в срок официальных пересдач.

Программа курса

Литература

  1. Barber D. Bayesian Reasoning and Machine Learning. Cambridge University Press, 2012.
  2. Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
  3. Mackay D.J.C. Information Theory, Inference, and Learning Algorithms. Cambridge University Press, 2003.
  4. Wainwright M.J., Jordan M.I. Graphical Models, Exponential Families, and Variational Inference. Foundations and Trends in Machine Learning, NOWPress, 2008.
  5. Koller D., Friedman N. Probabilistic Graphical Models: Principles and Techniques. The MIT Press, 2009.
  6. Cowell R.G., Dawid A.P., Lauritzen S.L., Spiegelhalter D.J. Probabilistic networks and expert systems. Berlin: Springer, 1999.
  7. Памятка по теории вероятностей

Страницы курса прошлых лет

2009 год

2011 год

2012 год

См. также

Курс «Байесовские методы машинного обучения»

Спецсеминар «Байесовские методы машинного обучения»

Математические методы прогнозирования (кафедра ВМиК МГУ)

Онлайн-курс Стэнфордского университета по вероятностным графическим моделям

Личные инструменты