Практикум на ЭВМ (317)/2019 (весна)

Материал из MachineLearning.

Перейти к: навигация, поиск
  • Обязательный курс для студентов каф. ММП 3 курса, 6 семестр
  • Зачёт с оценкой
  • Преподаватели: Д.А. Кропотов, Артём Попов, Виктор Януш, Павел Мазаев
  • Занятия проходят в ауд. 606 по понедельникам, начало в 16 20. Первое занятие 11 февраля.

Анонимные отзывы по курсу можно оставлять здесь: ссылка на гугл-форму

Репозиторий со всеми материалами: ссылка

Содержание

Объявления

Пока нет...

Правила сдачи практикума

1. В рамках семестра предполагается четыре практических заданий. Все задания сдаются в систему anytask, инвайт к курсу можно получить у преподавателя.

2. За первые три практических задания можно получить до 10-ти баллов, за последнее можно получить 15 баллов. Задание представляет собой jupyter notebook с некоторыми пропущенными шагами, которые необходимо выполнить. Формат сдачи задания — выполненный jupyter notebook. Срок выполнения каждого задания — 10 дней. За каждый день просрочки назначается штраф в 1 балл.

3. Предусмотрены бонусные активности: бонусные задачи, за которые можно получить дополнительные баллы.

4. Критерии итоговой оценки:

  • отлично — 36 баллов, 4 практических задания сданы на оценку > 0
  • хорошо — 27 баллов, 3 практических задания сданы на оценку > 0
  • удовлетворительно — 18 баллов, 2 практических задания сданы на оценку > 0

5. Задания выполняются самостоятельно (если не оговорено обратное). Если задание выполнялось сообща, или использовались какие-либо сторонние коды и материалы, то об этом должно быть написано в отчете. В противном случае «похожие» решения считаются плагиатом и все задействованные студенты (в том числе те, у кого списали) будут сурово наказаны.

Материалы занятий

Дата Номер Тема Материалы Д/З
11 февраля Занятие 1 Автоматическое дифференцирование.

Решение задач на backpropagation.

решение задач
18 февраля Занятие 2 Методы оптимизации для нейросетей.

Регуляризация в нейросетях.

Инициализация для нейросетей.

видеолеция про стохастическую оптимизацию

обзор различных методов оптимизации нейросетей

статья Dropout

статья BatchNormalization

градиенты для BatchNormalization

статья про Glorot инициализацию

1 задание: обучение полносвязной нейросети

25 февраля Занятие 3 Библиотека pytorch.

Google Colab.

основы pytorch

обучение нейросетей в pytorch

google colab

загрузка данных в colab с google drive

4 марта Занятие 4 Свёрточные нейронные сети.

Задача сегментации изображений.

слайды

11 марта Занятие 5 Матрично-векторное дифференцирование. Конспект 2 задание: сегментация изображений

ссылка на данные

18 марта Занятие 6

Языковое моделирование.

Рекуррентные нейронные сети.

слайды
25 марта Занятие 7

Векторные представления слов.

слайды
1 апреля Занятие 8

Задача машинного перевода.

Механизм внимания.

Статья Attention is all you need.

слайды 1

слайды 2

3 задание: RNN & attention

8 апреля Занятие 9

Рекомендательные системы.

слайды
15 апреля Занятие 10

Вычисления в конечных полях. Алгоритм Евклида.

22 апреля Занятие 11

Помехоустойчивое кодирование. Линейные и циклические коды.

29 апреля Занятие 12

Декодирование в БЧХ-кодах.

4 задание: коды БЧХ

Страницы прошлых лет

2018-2019 (осень)

2017-2018 (осень) , 2017-2018 (весна)

2016-2017

2015-2016

2014-2015

2013-2014

2012-2013

2011-2012

Личные инструменты