Фундаментальные теоремы машинного обучения/Группа 674 (практика, М.С. Потанин, В.В. Стрижов)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
Строка 107: Строка 107:
! Лектор
! Лектор
! Ссылки
! Ссылки
 +
|-
 +
|10 февраля
 +
|Вводное занятие
 +
|Стрижов, Потанин
 +
|
|-
|-
|17 февраля
|17 февраля
-
| Теорема о сингулярном разложении Молер-Форсайт, МГК, и другие разложения
+
|Теоремы Колмогорова и Арнольда, теорема об универсальном аппроксиматоре Цыбенко, теорема о глубоких нейросетях
-
|
+
|Марк Потанин
|
|
|-
|-
-
| 24 февраля
+
|24 февраля
-
| Теоремы Колмогорова и Арнольда, теорема об универсальном аппроксиматоре Цыбенко, теорема о глубоких нейросетях
+
|Теорема о сингулярном разложении Молер-Форсайт, МГК, и другие разложения
-
| Марк Потанин
+
|
|
|
|-
|-
-
| 4 марта
+
|4 марта
-
| [[Media:BershteinFonMises.pdf|Берштейн - фон Мизес]]
+
|[[Media:BershteinFonMises.pdf|Берштейн - фон Мизес]]
-
| Андрей Грабовой
+
|Андрей Грабовой
|
|
|-
|-
-
| 10 марта
+
|10 марта
-
| РАС обучаемость, теорема о том, что сжатие предполагает обучаемость
+
|РАС обучаемость, теорема о том, что сжатие предполагает обучаемость
-
| Тамаз Гадаев
+
|Тамаз Гадаев
|
|
|-
|-
-
| 17 марта
+
|17 марта
-
| Теорема о бесплатных обедах в машинном обучении, Волперт
+
|Теорема о бесплатных обедах в машинном обучении, Волперт
-
| Радослав Нейчев
+
|Радослав Нейчев
|
|
|-
|-
-
| 24 марта
+
|24 марта
-
| Сходимость про вероятности при выборе моделей
+
|Сходимость про вероятности при выборе моделей
-
| Марк Потанин
+
|Марк Потанин
|
|
|-
|-
-
| 31 марта
+
|31 марта
-
| Теорема схем, Холланд
+
|Теорема схем, Холланд
-
| Радослав Нейчев
+
|Радослав Нейчев
|
|
|-
|-
-
| 7 апреля
+
|7 апреля
|Метрические пространства: RKHS Аронжайн, теорема Мерсера
|Метрические пространства: RKHS Аронжайн, теорема Мерсера
-
| Алексей Гончаров
+
|Алексей Гончаров
|
|
|-
|-
-
| 14 апреля
+
|14 апреля
-
| Теорема о свертке (Фурье, свертка, автокорреляция) с примерами сверточных сетей
+
|Теорема о свертке (Фурье, свертка, автокорреляция) с примерами сверточных сетей
-
| Филипп Никитин
+
|Филипп Никитин
|
|
|-
|-
-
| 21 апреля
+
|21 апреля
-
| Representer theorem, Schölkopf, Herbrich, and Smola
+
|Representer theorem, Schölkopf, Herbrich, and Smola
|
|
|
|
|-
|-
-
| 28 апреля
+
|28 апреля
-
| Обратная теорема Фурье, теорема Парсеваля (равномерная и неравномерная сходимость)
+
|Обратная теорема Фурье, теорема Парсеваля (равномерная и неравномерная сходимость)
-
| Филипп Никитин
+
|Филипп Никитин
|
|
|-
|-
Строка 168: Строка 173:
|
|
|-
|-
-
| 12 мая
+
|12 мая
|Разбор и обсуждение письменных работ: теоремы их доказательства (входящие в диплом)
|Разбор и обсуждение письменных работ: теоремы их доказательства (входящие в диплом)
|Потанин, Стрижов
|Потанин, Стрижов
|
|
|-
|-
-
| 26 мая
+
|26 мая
|Экзамен: схемы доказательства различных теорем (тест на время, как в гос по физике, и обсуждение)
|Экзамен: схемы доказательства различных теорем (тест на время, как в гос по физике, и обсуждение)
|Потанин, Адуенко, Бахтеев
|Потанин, Адуенко, Бахтеев

Версия 18:02, 27 января 2021

Цель курса — повысить качество студенческих научных работ на кафедре, сделать статьи и дипломные работы более обоснованными, изучить технику и практику формулировок доказательства теорем в области машинного обучения. Результат курса - теоретически обоснованные сообщения дипломных работ бакалавра.

Каждое занятие курса:

  1. Доклад лектора — одна из фундаметнальных теорем (40' = 30' + 10' обсуждение)
  2. Два студенческих доклада (20'=15'+5' обсуждение)

Каждый студент делает два доклада:

  1. С теоремой взятой из литературы, по которой выполняется дипломная работа
  2. С собственной теоремой, обосновывающей решение, предлагаемое в дипломное работе

Приветствуются!

  • Варианты собственных формулировок и доказательств
  • Значимые высказывания ведущих исследователей, оформленные в виде теорем (пример изложения Кристофера Бишопа)

План изложения материала:

  1. Введение: основное сообщение теоремы в понятном (не обязательно строгом) изложении
  2. Вводная часть: определение терминов и сведения, необходимые для изложения (обозначения можно использовать авторские или [ссылка на обозначения Б.А.С.])
  3. Формулировка и доказательство теоремы в строгом изложении (но можно отходить от авторского варианта, если это нужно для ясности)
  4. Значимость теоремы: ссылки или обзор методов и приложений, иллюстрирующих теорему

Расписание докладов

Докладчик Литература Диплом
Бишук Антон 17.2 link 31.3 link
Вайсер Кирилл 
 17.2 link 31.3 link
Гребенькова Ольга 
 24.2 link 7.4 link
Гунаев Руслан 24.2 link 7.4 link

Жолобов Владимир 
 3.3 link 14.4 link
Исламов Рустем 3.3 link 14.4 link
Панкратов Виктор 
 10.3 link 21.4 link
Савельев Николай 10.3 link 21.4 link
Филатов Андрей 
 10.3 link 21.4 link
Филиппова Анастасия 
 17.3 link 28.4 link
Харь Александра 
 17.3 link 28.4 link
Христолюбов Максим 24.3 link 5.5 link
Шокоров Вячеслав 
 24.3 link 5.5 link

Темы лекций

  1. Теорема Гаусса-Маркова
  2. Теорема о сингулярном разложении Молер-Форсайт и другие разложения
  3. Метод главных компонент Рао и разложение Карунена-Лоэва
  4. Теоремы Колмогорова и Арнольда, теорема об универсальном аппроксиматоре Цыбенко, теорема о глубоких нейросетях
  5. Теорема о бесплатных обедах в машинном обучении, Волперт
  6. Метрические пространства: RKHS Аронжайн, теорема Мерсера
  7. Теорема схем, Холланд
  8. Теорема о свертке (Фурье, свертка, автокорреляция) с примерами сверточных сетей
  9. Обратная теорема Фурье, теорема Парсеваля (равномерная и неравномерная сходимость)
  10. РАС-learning, теорема о том, что сжатие предполагает обучаемость
  11. Representer theorem, Schölkopf, Herbrich, and Smola
  12. Вариационная аппроксимация
  13. Сходимость про вероятности при выборе моделей
  14. Теорема о связи распределений в экспонентном семействе
  15. Теорема о многоруких бандитах
  16. Копулы и теорема Скляра


Расписание лекций

Дата Тема Лектор Ссылки
10 февраля Вводное занятие Стрижов, Потанин
17 февраля Теоремы Колмогорова и Арнольда, теорема об универсальном аппроксиматоре Цыбенко, теорема о глубоких нейросетях Марк Потанин
24 февраля Теорема о сингулярном разложении Молер-Форсайт, МГК, и другие разложения
4 марта Берштейн - фон Мизес Андрей Грабовой
10 марта РАС обучаемость, теорема о том, что сжатие предполагает обучаемость Тамаз Гадаев
17 марта Теорема о бесплатных обедах в машинном обучении, Волперт Радослав Нейчев
24 марта Сходимость про вероятности при выборе моделей Марк Потанин
31 марта Теорема схем, Холланд Радослав Нейчев
7 апреля Метрические пространства: RKHS Аронжайн, теорема Мерсера Алексей Гончаров
14 апреля Теорема о свертке (Фурье, свертка, автокорреляция) с примерами сверточных сетей Филипп Никитин
21 апреля Representer theorem, Schölkopf, Herbrich, and Smola
28 апреля Обратная теорема Фурье, теорема Парсеваля (равномерная и неравномерная сходимость) Филипп Никитин
5 мая Вариационная аппроксимация, теорема о байесовском выборе моделей Олег Бахтеев
12 мая Разбор и обсуждение письменных работ: теоремы их доказательства (входящие в диплом) Потанин, Стрижов
26 мая Экзамен: схемы доказательства различных теорем (тест на время, как в гос по физике, и обсуждение) Потанин, Адуенко, Бахтеев
Личные инструменты