Машинное обучение (семинары, ВМК МГУ)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Оценка Онищенко за семестр)
 
(269 промежуточных версий не показаны.)
Строка 1: Строка 1:
{{TOCright}}
{{TOCright}}
-
* Семинары в поддержку курса лекций [[Машинное обучение (курс лекций, К.В.Воронцов)|«Машинное обучение»]] [[Участник:Vokov|К.В. Воронцова]].
+
{|
 +
|[[Изображение:ML_surfaces.png|280px]]
 +
| valign="top"|
 +
* Семинары в поддержку курса лекций [[Математические методы распознавания образов (курс лекций, В.В.Китов)|«Математические методы распознавания образов»]] [[Участник:Victor Kitov|В. В. Китова]].
* Ведутся на кафедре [[Математические методы прогнозирования (кафедра ВМиК МГУ)|ММП]] [[Факультет вычислительной математики и кибернетики МГУ| ВМК МГУ]] с осени 2012 года.
* Ведутся на кафедре [[Математические методы прогнозирования (кафедра ВМиК МГУ)|ММП]] [[Факультет вычислительной математики и кибернетики МГУ| ВМК МГУ]] с осени 2012 года.
* Семинарист: [[Участник:EvgSokolov|Соколов Е.А.]]
* Семинарист: [[Участник:EvgSokolov|Соколов Е.А.]]
-
 
+
* Ассистент: Николаев В.В.
-
<!-- == Новости == -->
+
* Почта семинариста: ''sokolov.evg+vmk-ml@gmail.com''
-
<!-- * новостей нет! -->
+
* Почта для заданий: ''ml.cmc.msu@gmail.com''
-
 
+
* Репозиторий с материалами: https://github.com/esokolov/ml-course-msu
-
== Выставление оценки за курс ==
+
* Анонимные отзывы и комментарии по семинарам можно оставлять здесь: [https://docs.google.com/forms/d/1j8zMReMtl-BCeAVISxx_v42_y8GAVeolofFuAHQjHBc/viewform?usp=send_form https://docs.google.com/...]
-
Оценка за работу в семестре и допуск к экзамену:
+
-
# На семинарах изучается определенное число тем, по каждой из которых проводится проверочная работа.
+
-
# Проверочная работа состоит из нескольких задач, за решение каждой из которых дается определенное число баллов. Максимальная сумма баллов, которую можно набрать за проверочную работу, равна пяти.
+
-
# Если студент набирает за проверочную работу три балла или больше, то считается, что он закрыл соответствующую тему.
+
-
# Оценка за работу в семестре равна средней оценке за проверочные работы.
+
-
# Для получения допуска к экзамену необходимо закрыть все темы.
+
-
# Если у студента на конец семестра есть незакрытые темы, то в день экзамена он решает контрольную работу, в которую входят задачи по всем таким темам. Если студент справляется со всеми задачами, то он получает допуск и сдает экзамен в день первой пересдачи. В противном случае на первой пересдаче ему выдается контрольная, в которую входят задачи, аналогичные не решенным в прошлый раз, и так далее. Когда студент справляется со всеми задачами, ему выставляется три балла за работу в семестре. Более того, оценка за экзамен ограничивается сверху тремя баллами.
+
-
# В конце семестра будет проведена контрольная работа, на которой будет дана еще одна попытка решить задачи, не решенные на проверочных работах (и, соответственно, закрыть незакрытые темы).
+
-
# После каждого семинара студентам выдается домашняя работа. Ее выполнение не проверяется, однако задачи из нее могут войти в проверочную работу.
+
-
 
+
-
Выставление итоговой оценки:
+
-
# Оценка за работу в семестре округляется до ближайшего целого числа (.5 округляется вверх).
+
-
# Итоговая оценка находится по следующей таблице:
+
-
{| class="wikitable"
+
-
|-
+
-
! Семестр
+
-
! Экзамен
+
-
! Итог
+
-
|-
+
-
| align="center" | 3
+
-
| align="center" | 3
+
-
| align="center" | 3
+
-
|-
+
-
| align="center" | 3
+
-
| align="center" | 4
+
-
| align="center" | 3
+
-
|-
+
-
| align="center" | 3
+
-
| align="center" | 5
+
-
| align="center" | 4
+
-
|-
+
-
| align="center" | 4
+
-
| align="center" | 3
+
-
| align="center" | 3
+
-
|-
+
-
| align="center" | 4
+
-
| align="center" | 4
+
-
| align="center" | 4
+
-
|-
+
-
| align="center" | 4
+
-
| align="center" | 5
+
-
| align="center" | 5
+
-
|-
+
-
| align="center" | 5
+
-
| align="center" | 3
+
-
| align="center" | 4
+
-
|-
+
-
| align="center" | 5
+
-
| align="center" | 4
+
-
| align="center" | 5
+
-
|-
+
-
| align="center" | 5
+
-
| align="center" | 5
+
-
| align="center" | 5
+
|}
|}
-
Также для вычисления итоговой оценки можно воспользоваться одной из формул:
+
=== Актуальная информация ===
-
<tex>
+
Вся актуальная информация по курсу находится на странице https://github.com/esokolov/ml-course-msu
-
mark = min(5, min(sem, exam) + [5 \in \{sem, exam\}])
+
-
</tex>
+
-
<tex>
+
=== Оценки ===
-
mark = min(5, max(3, sem + exam - 4))
+
https://docs.google.com/spreadsheets/d/1A5BJs_dJcmqY2KVBUCTWlXueTeFWNVT6Tbx5e3dN6_c/edit?usp=sharing
-
</tex>
+
-
где <tex>sem</tex> — оценка за семестр, <tex>exam</tex> — оценка за экзамен.
+
== Страницы курса прошлых лет ==
 +
[[Машинное обучение (семинары, ВМК МГУ)/2015-2016 год, весна|2015-2016 год, весна]]
-
== Осенний семестр 2013 ==
+
[[Машинное обучение (семинары, ВМК МГУ)/2015-2016 год, осень|2015-2016 год, осень]]
-
=== Расписание занятий ===
+
-
{|class = "standard"
+
-
! Дата !! Тема !! Материалы !! Д/З
+
-
|-
+
-
|11 сентября
+
-
| Семинар 1. Метрические методы:
+
-
* проблемы метода k ближайших соседей
+
-
* функции расстояния
+
-
|
+
-
[[Media:Sem1_knn.pdf|Конспект]]
+
-
|
+
-
[[Media:Sem1_knn_hw.pdf|Домашнее задание]]
+
-
|-
+
-
|18 сентября
+
-
| Семинар 2. Метрические методы:
+
-
* методы быстрого поиска ближайших соседей
+
-
* locality-sensitive hashing
+
-
|
+
-
[[Media:Sem2_knn.pdf|Конспект]]
+
-
|
+
-
[[Media:Sem2_knn_hw.pdf|Домашнее задание]]
+
-
|-
+
-
|25 сентября
+
-
| Семинар 3.
+
-
'''Проверочная работа по метрическим методам.'''
+
-
----
+
[[Машинное обучение (семинары, ВМК МГУ)/2014-2015 год, весна|2014-2015 год, весна]]
-
Решающие деревья:
+
[[Машинное обучение (семинары, ВМК МГУ)/2014-2015 год, осень|2014-2015 год, осень]]
-
* методы построения
+
-
|
+
-
см. семинар 4
+
-
|
+
-
|-
+
-
|2 октября
+
-
| Семинар 4. Решающие деревья:
+
-
* функционалы качества
+
-
|
+
-
[[Media:Sem3_trees.pdf|Конспект]]
+
-
|
+
-
[[Media:Sem3_trees_hw.pdf|Домашнее задание]]
+
-
|-
+
-
|8 октября
+
-
| Семинар 5.
+
-
'''Проверочная работа по решающим деревьям.'''
+
-
----
+
[[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, весна|2013-2014 год, весна]]
-
Решающие деревья:
+
[[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, осень|2013-2014 год, осень]]
-
* cost-complexity pruning
+
-
|
+
-
[[Media:Sem4_trees.pdf|Конспект]]
+
-
|
+
-
Разобрать конспект
+
-
от теоремы 2.2 до конца
 
-
|-
 
-
|16 октября
 
-
| Семинар 6. Линейные классификаторы:
 
-
* градиент и его свойства
 
-
* векторное дифференцирование
 
-
* геометрия линейных классификаторов
 
-
* градиентный спуск, его особенности
 
-
* регуляризация
 
-
|
 
-
[[Media:Sem5_linear.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem5_linear_hw.pdf|Домашнее задание]]
 
-
 
-
+ разобрать раздел 3 из конспекта
 
-
|-
 
-
|26 октября
 
-
| Семинар 7.
 
-
'''Проверочная работа по векторному дифференцированию.'''
 
-
 
-
----
 
-
 
-
Линейные классификаторы:
 
-
* условная задача оптимизации, лагранжиан
 
-
* двойственная задача
 
-
* условия Куна-Таккера
 
-
|
 
-
[[Media:Sem6_linear.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem6_linear_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|30 октября
 
-
| Семинар 8.
 
-
'''Проверочная работа по двойственным задачам.'''
 
-
 
-
----
 
-
 
-
Линейные классификаторы:
 
-
* метод опорных векторов
 
-
* сведение задачи SVM к задаче квадратичного программирования
 
-
* формулировка и вывод двойственной задачи
 
-
|
 
-
[[Media:Sem7_linear.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem7_linear_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|6 ноября
 
-
| Семинар 9.
 
-
Линейные классификаторы:
 
-
* решение задач на SVM
 
-
|
 
-
[[Media:Sem8_linear.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem8_linear_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|13 ноября
 
-
| Семинар 10.
 
-
'''Проверочная работа по SVM.'''
 
-
 
-
----
 
-
 
-
Линейные классификаторы:
 
-
* ядра и спрямляющие пространства
 
-
* применение ядер в линейной регрессии
 
-
* вычисление расстояний в спрямляющем пространстве
 
-
* способы построения ядер
 
-
* полиномиальные и гауссовы ядра
 
-
|
 
-
[[Media:Sem9_linear.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem9_linear_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|20 ноября
 
-
| Семинар 11.
 
-
'''Проверочная работа по ядровым методам.'''
 
-
 
-
----
 
-
 
-
Метод главных компонент:
 
-
* дифференцирование следа матрицы
 
-
* метод главных компонент как матричное разложение
 
-
* метод главных компонент как поиск линейного подпространства
 
-
|
 
-
[[Media:Sem10_pca.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem10_pca_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|27 ноября
 
-
| Семинар 12.
 
-
'''Проверочная работа по методу главных компонент.'''
 
-
 
-
----
 
-
 
-
Байесовские методы:
 
-
* оптимальные байесовские правила для бинарной и квадратичной функций потерь
 
-
* метод максимального правдоподобия
 
-
* байесовская регуляризация на примере задачи линейной регрессии
 
-
* очень кратко про байесовский вывод
 
-
|
 
-
[[Media:Sem11_bayes.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem11_bayes_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|4 декабря
 
-
| Семинар 13.
 
-
Байесовские методы:
 
-
* многомерное нормальное распределение, его свойства
 
-
* нормальный дискриминантный анализ
 
-
* вывод оценок максимального правдоподобия для многомерного нормального распределения
 
-
* линейный дискриминант Фишера как поиск одномерного представления выборки
 
-
|
 
-
[[Media:Sem12_bayes.pdf|Конспект]]
 
-
|
 
-
[[Media:Sem12_bayes_hw.pdf|Домашнее задание]]
 
-
|-
 
-
|11 декабря
 
-
| Семинар 14.
 
-
'''Проверочная работа по байесовским методам.'''
 
-
 
-
----
 
-
 
-
Лекция по EM-алгоритму
 
-
|
 
-
См. [[Media:Voron-ML-1.pdf|лекции]], раздел 2.4
 
-
|
 
-
Доказать теоремы 2.6 и 2.7 из лекций
 
-
|-
 
-
|18 декабря
 
-
| Семинар 15.
 
-
'''Переписывание проверочных работ.'''
 
-
|
 
-
|
 
-
|-
 
-
|}
 
-
 
-
=== Оценки ===
 
-
{|class = "standard"
 
-
! ФИО студента !! Группа !! kNN !! trees !! vdiff !! kkt !! svm !! kernel !! pca !! bayes !! Семестр !! Экзамен !! Итоговая оценка
 
-
|-
 
-
| Апишев М.|| align="center"| 317 || align="center"| <!--З1--> 4 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4.33 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Афанасьев К. || align="center"| 317 || align="center"| <!--З1--> 4 || align="center"| <!--З2--> 3.5 || align="center"| <!--З3--> 4 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 3|| align="center"| <!--З7--> 3 || align="center"| <!--З8--> 4 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 4
 
-
|-
 
-
| Готман М. || align="center"| 317 || align="center"| <!--З1--> 3.5 || align="center"| <!--З2--> 4 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 3 || align="center"| <!--З6--> 5|| align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Дойков Н. || align="center"| 317 || align="center"| <!--З1--> 4 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5|| align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Захаров Е. || align="center"| 317 || align="center"| <!--З1--> 4.75 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5|| align="center"| <!--З7--> 5 || align="center"| <!--З8--> 5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Козлов В. || align="center"| 317 || align="center"| <!--З1--> 3.75 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 4|| align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Колмаков Е. || align="center"| 317 || align="center"| <!--З1--> 5 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Лисяной А. || align="center"| 317 || align="center"| <!--З1--> 4.5 || align="center"| <!--З2--> 4 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 3.5 || align="center"| <!--З8--> 4 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Лукашкина Ю. || align="center"| 317 || align="center"| <!--З1--> 4.5 || align="center"| <!--З2--> 4 || align="center"| <!--З3--> 3.5 || align="center"| <!--З4-->5 || align="center"| <!--З5--> 3 || align="center"| <!--З6--> 3.5|| align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Ожерельев И. || align="center"| 317 || align="center"| <!--З1--> 3.75 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6-->4.5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 3.5 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Онищенко М. || align="center"| 317 || align="center"| <!--З1--> {{важно|2.67}} || align="center"| <!--З2--> 3 || align="center"| <!--З3--> 3 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5--> 3 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> {{важно|0}} || align="center"| <!--Семестр--> 3 || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
 
-
|-
 
-
| Родоманов А. || align="center"| 317 || align="center"| <!--З1--> 4 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.83 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Сендерович Н. || align="center"| 317 || align="center"| <!--З1--> 5 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Славнов К. || align="center"| 317 || align="center"| <!--З1--> 5 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 3 || align="center"| <!--З4--> 3.5 || align="center"| <!--З5--> 3 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.5 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Тюрин А. || align="center"| 317 || align="center"| <!--З1--> 5 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4.5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 4 || align="center"| <!--З8--> 4.25 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Хальман М. || align="center"| 317 || align="center"| <!--З1--> 3.16 || align="center"| <!--З2--> 3 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4.5 || align="center"| <!--З6--> 4 || align="center"| <!--З7--> 3.5 || align="center"| <!--З8--> 3.5 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Хомутов Н. || align="center"| 317 || align="center"| <!--З1--> 4 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 3.5 || align="center"| <!--З6--> 4 || align="center"| <!--З7--> 3 || align="center"| <!--З8--> 4.25 || align="center"| <!--Семестр--> 4 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Чистяков А. || align="center"| 317 || align="center"| <!--З1--> 3 || align="center"| <!--З2--> 4.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 5 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
| Шапулин А. || align="center"| 317 || align="center"| <!--З1--> 5 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5 || align="center"| <!--З8--> 4.25 || align="center"| <!--Семестр--> 5 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
 
-
|-
 
-
|}
 
-
 
-
== Страницы курса прошлых лет ==
 
[[Машинное обучение (семинары, ВМК МГУ)/2012|2012 год]]
[[Машинное обучение (семинары, ВМК МГУ)/2012|2012 год]]
[[Категория:Учебные курсы]]
[[Категория:Учебные курсы]]

Текущая версия

Содержание

Актуальная информация

Вся актуальная информация по курсу находится на странице https://github.com/esokolov/ml-course-msu

Оценки

https://docs.google.com/spreadsheets/d/1A5BJs_dJcmqY2KVBUCTWlXueTeFWNVT6Tbx5e3dN6_c/edit?usp=sharing

Страницы курса прошлых лет

2015-2016 год, весна

2015-2016 год, осень

2014-2015 год, весна

2014-2015 год, осень

2013-2014 год, весна

2013-2014 год, осень

2012 год

Личные инструменты