|
|
Строка 26: |
Строка 26: |
| # Также на семинарах будут выдаваться практические задания, которые будут оцениваться по пятибалльной шкале. | | # Также на семинарах будут выдаваться практические задания, которые будут оцениваться по пятибалльной шкале. |
| # В течение семестра будут проводиться конкурсы по анализу данных. Каждый конкурс оценивается по 15-балльной шкале. За первое, второе и третье место выставляется 15, 13 и 11 баллов соответственно при условии, что студенты выступят с докладом о своем решении (в противном случае они получают 10 баллов). За места с четвертого и по самое последнее, превосходящее бейзлайн, выставляется от 10 до 1 баллов по равномерной сетке. Если все присланные группой решения будут тривиальными, то преподаватель имеет право снизить максимальную оценку до 10 или до 5 баллов. | | # В течение семестра будут проводиться конкурсы по анализу данных. Каждый конкурс оценивается по 15-балльной шкале. За первое, второе и третье место выставляется 15, 13 и 11 баллов соответственно при условии, что студенты выступят с докладом о своем решении (в противном случае они получают 10 баллов). За места с четвертого и по самое последнее, превосходящее бейзлайн, выставляется от 10 до 1 баллов по равномерной сетке. Если все присланные группой решения будут тривиальными, то преподаватель имеет право снизить максимальную оценку до 10 или до 5 баллов. |
- | # Оценка за работу в семестре равна сумме оценок за проверочные работы и практические задания. | + | # Оценка за работу в семестре равна сумме оценок за проверочные работы, практические задания и конкурсы. |
- | # Если оценка за работу в семестре не меньше 90% от максимальной оценки за проверочные и лабораторные работы, то студент освобождается от написания итоговой контрольной и получает допуск к экзамену автоматом. | + | # Если оценка за работу в семестре не меньше 100% от максимальной оценки за проверочные и лабораторные работы, то студент освобождается от написания итоговой контрольной и получает допуск к экзамену автоматом. |
- | # Если оценка за работу в семестре равна максимальной оценке за проверочные и лабораторные работы, то студент получает +1 балл на экзамене (при условии получения положительной оценки). | + | # Если оценка за работу в семестре не меньше 80% от максимальной оценки за проверочные и лабораторные работы и конкурсы, то студент получает +1 балл на экзамене (при условии получения положительной оценки). |
| # В конце семестра разрешается переписать одну пропущенную по любой причине проверочную работу. Также разрешается переписать все проверочные, пропущенные по уважительной причине. | | # В конце семестра разрешается переписать одну пропущенную по любой причине проверочную работу. Также разрешается переписать все проверочные, пропущенные по уважительной причине. |
| | | |
- | == Весенний семестр 2014/2015 == | + | == Осенний семестр 2015/2016 == |
| | | |
| === Расписание занятий === | | === Расписание занятий === |
Строка 37: |
Строка 37: |
| ! Дата !! Номер !! Тема !! Материалы !! Д/З | | ! Дата !! Номер !! Тема !! Материалы !! Д/З |
| |- | | |- |
- | |11 февраля | + | |4 сентября |
| |align="center"|Семинар 1 | | |align="center"|Семинар 1 |
| | | | | |
- | * Выдача первого конкурсного задания | + | * Знакомство с основными определениями в машинном обучении |
- | * Работа с разреженными и текстовыми признаками
| + | * Этапы решения задачи анализа данных |
- | * Методы построения композиций: blending и stacking | + | * Напоминание основных фактов из прошлых курсов |
- | * Введение в Vowpal Wabbit | + | | |
- | | [[Media:Sem01_vw.pdf|Слайды]] | + | |
| | | | | |
- | |-
| |
- | |18 февраля
| |
- | |align="center"|Семинар 2
| |
- | |
| |
- | Композиционные методы:
| |
- | * Бутстрэппинг, уменьшение средней ошибки при усреднении алгоритмов
| |
- | * AdaBoost: метод обучения, скорость сходимости
| |
- | * Семейства базовых классификаторов для AdaBoost
| |
- | * Многоклассовый AdaBoost
| |
- | | [[Media:Sem02_ensembles.pdf|Конспект]]
| |
- | | [[Media:Sem02_ensembles_hw.pdf|Домашнее задание]]
| |
- | |-
| |
- | |25 февраля
| |
- | |align="center"|Семинар 3
| |
- | |
| |
- | Композиционные методы:
| |
- | * Бустинг с квадратичной функцией потерь
| |
- | * Градиентный бустинг как градиентный спуск в функциональном пространстве
| |
- | * Регуляризация в градиентном бустинге: сокращение шага и бэггинг
| |
- | * Логистическая функция потерь, ее обоснование и формулы для бустинга
| |
- | * Градиентный бустинг над деревьями, переподбор ответов в листьях
| |
- | * Взвешивание объектов в градиентном бустинге
| |
- | * Сравнение логистической и экспоненциальной функций потерь
| |
- | | [[Media:Sem03_ensembles_2014.pdf|Конспект]]
| |
- | | [[Media:Sem03_ensembles_hw_2014.pdf|Домашнее задание]]
| |
- | |-
| |
- | |4 марта
| |
- | |align="center"|Семинар 4
| |
- | |
| |
- | Композиционные методы:
| |
- | * Разложение ошибки на шум, смещение и разброс (bias-variance decomposition)
| |
- | * Смещение и разброс метода k ближайших соседей
| |
- | * Бутстрэп
| |
- | * Бэггинг, его смещение и разброс
| |
- | * Случайные леса, out-of-bag-оценки
| |
- | * Связь случайных лесов с метрическими методами
| |
- | | [[Media:Sem04_ensembles_2014.pdf|Конспект]]
| |
- | | [[Media:Sem04_ensembles_hw_2014.pdf|Домашнее задание]]
| |
- | |-
| |
- | |11 марта
| |
- | |align="center"|Семинар 5
| |
- | |
| |
- | EM-алгоритм:
| |
- | * Скрытые переменные и смеси распределений
| |
- | * EM-алгоритм в общем виде
| |
- | * Вывод формул для смеси нормальных распределений
| |
- | * Дивергенция Кульбака-Лейблера, ее свойства
| |
- | * Обоснование EM-алгоритма
| |
- | | [[Media:Sem05_em.pdf|Конспект]]
| |
- | | [[Media:Sem05_em_hw.pdf|Домашнее задание]]
| |
- | |-
| |
- | |8 апреля
| |
- | |align="center"|Семинар 6
| |
- | |
| |
- | Доклады студентов об участии в первом конкурсе
| |
- | | Презентации:
| |
- | * [[Media:Vikhreva.pdf|Вихрева]]
| |
- | * [[Media:Pankratov.pdf|Панкратов]]
| |
- | * [[Media:Rysmyatova.pdf|Рысьмятова]]
| |
- | |
| |
- | |-
| |
- | |15 апреля
| |
- | |align="center"|Семинар 7
| |
- | |
| |
- | Метрики качества:
| |
- | * MSE, MAE, квантильная регрессия
| |
- | * Матрица ошибок и основанные на ней метрики качества
| |
- | * Площадь под ROC-кривой, ее недостатки на несбалансированных выборках
| |
- | * Площадь под Precision-Recall-кривой, ее связь со средней точностью
| |
- | * Многоклассовая классификация: micro- и macro-усреднение
| |
- | * Обучение на несбалансированных выборках: undersampling, oversampling, SMOTE
| |
- | | [[Media:Sem06_metrics.pdf|Конспект]]
| |
- | | [[Media:Sem06_metrics_hw.pdf|Домашнее задание]]
| |
- | |-
| |
- | |22 апреля
| |
- | |align="center"|Семинар 8
| |
- | |
| |
- | Нейронные сети:
| |
- | * Метод обратного распространения ошибки
| |
- | * Аппроксимация функций с помощью нейронных сетей
| |
- | * Dropout learning
| |
- | * Extreme Learning Machines
| |
- | | [[Media:Sem07_ann.pdf|Конспект]]
| |
- | | [[Media:Sem07_ann_hw.pdf|Домашнее задание]]
| |
- | |-
| |
- | |29 апреля
| |
- | |align="center"|Семинар 9
| |
- | |
| |
- | Матричные разложения:
| |
- | * Функционалы качества и модели шума
| |
- | * Неотрицательные матричные разложения
| |
- | * Факторизационные машины
| |
- | | [[Media:Sem08_factorizations.pdf|Конспект]]
| |
- | | [[Media:Sem08_factorizations_hw.pdf|Домашнее задание]]
| |
- | |-
| |
- | |13 мая
| |
- | |align="center"|Семинар 10
| |
- | |
| |
- | * Доклады студентов об участии во втором конкурсе
| |
- | * Обзор курса
| |
- | | Презентации:
| |
- | * [[Media:Contest2_rysmyatova.pdf|Рысьмятова]]
| |
- | * [[Media:Contest2_morozov.pdf|Морозов]]
| |
- | * [[Media:Contest2_vikhreva.pdf|Вихрева]]
| |
- | |
| |
- | |-
| |
| |} | | |} |
| | | |
Строка 178: |
Строка 71: |
| ! Задание !! Тема !! Дата начала !! Дата окончания !! Ссылка | | ! Задание !! Тема !! Дата начала !! Дата окончания !! Ссылка |
| |- | | |- |
- | | Конкурс 1 | + | | |
- | | "Предскажите зарплату по тексту объявления" | + | | |
- | | 11 февраля 2015 | + | | |
- | | 24 марта 2015, 23.59 (контест) | + | | |
- | 29 марта 2015, 23.59 (код и отчет)
| + | | |
- | | https://kaggle.com/join/kfhsi892o3lhf20dbv
| + | |
- | |-
| + | |
- | | Конкурс 2
| + | |
- | | "К каким категориям относится научная статья?"
| + | |
- | | 22 апреля 2015
| + | |
- | | 1 мая 2015, 09.00 (преодоление бейзлайна)
| + | |
- | | + | |
- | 12 мая 2015, 03.00 (контест)
| + | |
- | | + | |
- | 17 мая 2015, 23.59 (код и отчет)
| + | |
- | | см. почту
| + | |
- | |- | + | |
| |} | | |} |
| | | |
| Все студенты должны прислать краткий отчет о своем решении и код, воспроизводящий результат. | | Все студенты должны прислать краткий отчет о своем решении и код, воспроизводящий результат. |
- |
| |
- | Полезные ссылки:
| |
- | * [https://github.com/JohnLangford/vowpal_wabbit/wiki/Tutorial Vowpal Wabbit wiki]
| |
- | * [http://zinkov.com/posts/2013-08-13-vowpal-tutorial/ Vowpal Wabbit tutorial for the Uninitiated]
| |
- | * [http://fastml.com/blog/categories/vw/ Истории успешного использования VW]
| |
| | | |
| === Оценки === | | === Оценки === |
- | {|class = "standard"
| |
- | ! ФИО студента !! Группа !! contest1 !! Boosting !! Bagging !! EM !! Metrics !! ANN !! contest2 !! TBA !! TBA !! TBA !! Семестр !! Экзамен !! Итоговая оценка
| |
- | |-
| |
- | | Вихрева М. || align="center"| 317 || align="center"| <!--З1--> 15 || align="center"| <!--З2--> 3 || align="center"| <!--З3--> || align="center"| <!--З4--> 4 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 11 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> +1 || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Гитман И. || align="center"| 317 || align="center"| <!--З1--> 2.8 || align="center"| <!--З2--> 3.35 || align="center"| <!--З3--> 3 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр-->+ || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Даулбаев Т. || align="center"| 317 || align="center"| <!--З1--> 5.5 || align="center"| <!--З2--> 4.25 || align="center"| <!--З3--> 3.3 || align="center"| <!--З4--> 4 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 5.5 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр-->+ || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Журавлёв В. || align="center"| 317 || align="center"| <!--З1--> 10 || align="center"| <!--З2--> 2.25 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 3 || align="center"| <!--З5-->5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 4 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
| |
- | |-
| |
- | | Иванов О. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 3.5 || align="center"| <!--З3--> 3 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 7 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Квасов А. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 2.5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Кудрявцев Г. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 1.7 || align="center"| <!--З3--> 3 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 4
| |
- | |-
| |
- | | Молчанов Д. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 2.5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Молчанова Ю. || align="center"| 317 || align="center"| <!--З1--> 1.9 || align="center"| <!--З2--> 3 || align="center"| <!--З3-->4 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Морозов А. || align="center"| 317 || align="center"| <!--З1--> 13 || align="center"| <!--З2--> 3.35 || align="center"| <!--З3--> 4 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> || align="center"| <!--З7--> 13 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> авт. || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Оспанов А. || align="center"| 317 || align="center"| <!--З1--> 7.3 || align="center"| <!--З2--> 2.5 || align="center"| <!--З3--> 2.1 || align="center"| <!--З4--> || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
| |
- | |-
| |
- | | Панкратов А. || align="center"| 317 || align="center"| <!--З1--> 11 || align="center"| <!--З2--> 4 || align="center"| <!--З3--> 4.5 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5-->5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 10 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> +1 || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Полякова Н. || align="center"| 317 || align="center"| <!--З1--> 8.2 || align="center"| <!--З2--> 2.15 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 4.5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 8.5 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> +1 || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Рысьмятова А. || align="center"| 317 || align="center"| <!--З1--> 9.1 || align="center"| <!--З2--> 3.15 || align="center"| <!--З3--> 3.5 || align="center"| <!--З4--> 4 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> 15 || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> авт. || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Соколова А. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> || align="center"| <!--З3--> 1.7 || align="center"| <!--З4--> 1 || align="center"| <!--З5--> || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
| |
- | |-
| |
- | | Стёпина А. || align="center"| 317 || align="center"| <!--З1--> 3.7 || align="center"| <!--З2--> 2.5 || align="center"| <!--З3--> 2.5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 4 || align="center"| <!--оценка--> 4
| |
- | |-
| |
- | | Тлеубаев А. || align="center"| 317 || align="center"| <!--З1--> 6.4 || align="center"| <!--З2--> 1.7 || align="center"| <!--З3--> 2.5 || align="center"| <!--З4--> || align="center"| <!--З5--> 4 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
| |
- | |-
| |
- | | Чабаненко В. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 3 || align="center"| <!--З3-->5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Чепарухин С. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> || align="center"| <!--З3--> || align="center"| <!--З4--> || align="center"| <!--З5--> || align="center"| <!--З6--> || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> || align="center"| <!--Экзамен--> || align="center"| <!--оценка-->
| |
- | |-
| |
- | | Чиркова Н. || align="center"| 317 || align="center"| <!--З1--> || align="center"| <!--З2--> 4 || align="center"| <!--З3-->3 || align="center"| <!--З4-->5 || align="center"| <!--З5-->5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | | Шаповалов Н. || align="center"| 317 || align="center"| <!--З1--> 4.6 || align="center"| <!--З2--> 5 || align="center"| <!--З3--> 5 || align="center"| <!--З4--> 5 || align="center"| <!--З5--> 5 || align="center"| <!--З6--> 5 || align="center"| <!--З7--> || align="center"| <!--З8--> || align="center"| <!--З9--> || align="center"| <!--З10--> || align="center"| <!--Семестр--> + || align="center"| <!--Экзамен--> 5 || align="center"| <!--оценка--> 5
| |
- | |-
| |
- | |}
| |
| | | |
| == Страницы курса прошлых лет == | | == Страницы курса прошлых лет == |
| + | [[Машинное обучение (семинары, ВМК МГУ)/2014-2015 год, весна|2014-2015 год, весна]] |
| + | |
| [[Машинное обучение (семинары, ВМК МГУ)/2014-2015 год, осень|2014-2015 год, осень]] | | [[Машинное обучение (семинары, ВМК МГУ)/2014-2015 год, осень|2014-2015 год, осень]] |
- |
| |
- | [[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, осень|2013-2014 год, осень]]
| |
| | | |
| [[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, весна|2013-2014 год, весна]] | | [[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, весна|2013-2014 год, весна]] |
| + | |
| + | [[Машинное обучение (семинары, ВМК МГУ)/2013-2014 год, осень|2013-2014 год, осень]] |
| | | |
| [[Машинное обучение (семинары, ВМК МГУ)/2012|2012 год]] | | [[Машинное обучение (семинары, ВМК МГУ)/2012|2012 год]] |
| | | |
| [[Категория:Учебные курсы]] | | [[Категория:Учебные курсы]] |
Все студенты должны прислать краткий отчет о своем решении и код, воспроизводящий результат.