Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, весна 2019

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Темы на выбор)
(Лекции)
 
(69 промежуточных версий не показаны.)
Строка 28: Строка 28:
Указать в таблице одну из тем:
Указать в таблице одну из тем:
# Модели
# Модели
 +
# Структура
# Сложность
# Сложность
# Устойчивость
# Устойчивость
Строка 38: Строка 39:
# Снижение размерности
# Снижение размерности
# ?Алгоритмы машинного обучения на квантовых компьютерах
# ?Алгоритмы машинного обучения на квантовых компьютерах
 +
# Embeddings
 +
 +
=== Лекции ===
 +
# О.Ю. Бахтеев [[Media:Bakhteev2019MDLSelection.pdf|Выбор структуры модели согласно критерию наименьшей длины описания]] ([https://docs.google.com/document/d/1y14rxn49cxq09bbmO56axl6qje5Lrx14lWSos5-JUM8/edit?usp=sharing тест])
 +
# О.Ю. Бахтеев [[Media:BakhteevStructure2019.pdf|Выбор структуры модели: продолжение]]
 +
# Г.С. Малиновский ([https://github.com/alarcoelectro/Optimizers/blob/master/graph_bias.pdf Индуктивные смещения и графовые сети]) ([https://arxiv.org/pdf/1806.01261.pdf статья])
 +
# А.М. Катруца Optimization of preconditioners for some solvers of linear systems [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Katrutsa2019Lecture.pdf слайды и вопросы], [https://forms.gle/2r29ZTQydGhUSwbS6 ссылка на анкету для заполнения] (скан ответа или pdf, следите за качеством сканов).
=== Задачи на выбор ===
=== Задачи на выбор ===
Строка 60: Строка 68:
|-
|-
|Андрей Грабовой
|Андрей Грабовой
-
|
+
|27.02.19
-
|
+
|[[Media:GrabovoySampleSize.pdf|Гипотеза порождения данных]]
-
|
+
[[Media:GrabovoyPrior.pdf|Prior]]
 +
|[http://svn.code.sf.net/p/mlalgorithms/code/Group574/Grabovoy2019DataSize/DataGeneration/Test.pdf тест]
|-
|-
|Григорий Малиновский
|Григорий Малиновский
-
|
+
|13.02.19
-
|
+
|[https://github.com/alarcoelectro/Optimizers/blob/master/graph_bias.pdf Структура]
-
|
+
|[https://github.com/alarcoelectro/Optimizers/blob/master/Graph_net.pdf тест]
|-
|-
|Олег Терехов
|Олег Терехов
|
|
-
|
+
|[[Media:Terekhov2019ExploitativeErrors.pdf| Ошибка, эксплуатационная]]
-
|
+
|[https://forms.gle/WCjT34oXKzj4pqxz6 Тест]
|-
|-
|Тамаз Гадаев
|Тамаз Гадаев
|
|
-
|
+
|[https://github.com/ttgadaev/SampleSize/blob/master/Gadaev2019DimensionReduction.pdf Снижение размерности]
-
|
+
|[https://forms.gle/ikHUbYDZ897viN4S6 Тест]
|-
|-
|Егор Шульгин
|Егор Шульгин
-
|
+
| 13.03.19
-
| 10
+
| [[Media:Stabillity.pdf|4 Устойчивость]]
-
|
+
|[https://goo.gl/forms/HDslHwNyLPHUmc1y1 Тест]
|-
|-
|Анна Рогозина
|Анна Рогозина
-
|
+
| 20.03.19
-
|
+
| [[Media:Rogozina2019Embeddings.pdf| Embeddings]]
-
|
+
|[https://goo.gl/forms/1uI36SrGY5UbaDSn1 Тест]
|-
|-
|Антон Астахов
|Антон Астахов
|
|
-
|
+
|[https://github.com/AstakhovAnton/Networks/blob/master/Report.html Суперпозиции]
|
|
|-
|-
Строка 100: Строка 109:
|-
|-
|Никита Плетнев
|Никита Плетнев
-
|
+
|13.03.2019
-
|
+
|[https://github.com/NikitaOmsk/123/blob/master/Slides.pdf Модели]
-
|
+
|[https://goo.gl/forms/n9Dw5x1t4Lg7jzZ22 Тест]
|-
|-
|Егор Гладин
|Егор Гладин
-
|
+
|23.04.19
-
|
+
|[[Медиа:Prediction_of_reactivity.pdf|Prediction of reactivity‎]]
-
|
+
|[https://forms.gle/sLofg8g4Bqej4NWeA Тест]
|}
|}
== Даты ==
== Даты ==
* Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24.
* Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24.

Текущая версия


Лекции с разбором фундаментальных понятий в современных задачах машинного обучения

Цель курса - научиться использовать фундаментальные понятия машинного обучения при анализе проблем, возникающих при решении прикладных задач последних лет.

Формат лекции

Источник: научные статьи последних лет, желательно 2017-2018. Продолжительность: 35 минут. Ожидаемое число слайдов: 15-30. Цели:

  1. Раскрыть базовое, фундаментальное понятие машинного обучения с примерами на современных прикладных прикладных задачах.
  2. Показать, как строится научное исследование на материале коммерческой задачи.
  3. Подобрать примеры постановки и решения новых и узкоспециальных задач.

Рекомендации к стилю изложения:

  • дать основные определения этой области,
  • вводимые обозначения должны быть удобны и непротиворечивы,
  • используемые термины должны быть точны,
  • дать теоретические постановки задач,
  • представить математические методы решения,
  • привести схему решения и его основные свойства,
  • привести примеры внедрения прикладных задач.

Оценки: max 5 за лекцию, лекция является условием зачета, и max 5 за тесты. Тест готовит лектор, 10 вопросов с вариантами ответов. Суммарный результат тестов линейно отображается в [0,5].

Темы на выбор

Указать в таблице одну из тем:

  1. Модели
  2. Структура
  3. Сложность
  4. Устойчивость
  5. Ошибка, оптимизационная
  6. Ошибка, эксплуатационная
  7. Гипотеза порождения данных
  8. Суперпозиция
  9. Локальная аппроксимация
  10. Универсальные модели
  11. Снижение размерности
  12.  ?Алгоритмы машинного обучения на квантовых компьютерах
  13. Embeddings

Лекции

  1. О.Ю. Бахтеев Выбор структуры модели согласно критерию наименьшей длины описания (тест)
  2. О.Ю. Бахтеев Выбор структуры модели: продолжение
  3. Г.С. Малиновский (Индуктивные смещения и графовые сети) (статья)
  4. А.М. Катруца Optimization of preconditioners for some solvers of linear systems слайды и вопросы, ссылка на анкету для заполнения (скан ответа или pdf, следите за качеством сканов).

Задачи на выбор

  1. Частичное обучение (Semi-supervised learning, Transductive learning)
  2. Косвенное обучение (Transfer learning)
  3. Обучение словарей (Dictionary learning)
  4. Задачи многоклассовой классификации с классами различной мощности
  5. Функция ошибки в моделях глубокого обучения (и задача выбора моделей)
  6. Инварианты в задачах глубокого обучения
  7. Оценка объема выборки в глубоком обучении
  8. Generative vs Discriminative
  9. Выбор признаков в задачах квадратичной оптимизации
  10. Онлайновое обучение, обучение с подкреплением

Расписание

Автор Дата Тема и слайды Ссылка на тест
Андрей Грабовой 27.02.19 Гипотеза порождения данных

Prior

тест
Григорий Малиновский 13.02.19 Структура тест
Олег Терехов Ошибка, эксплуатационная Тест
Тамаз Гадаев Снижение размерности Тест
Егор Шульгин 13.03.19 4 Устойчивость Тест
Анна Рогозина 20.03.19 Embeddings Тест
Антон Астахов Суперпозиции
Вадим Кислинский
Никита Плетнев 13.03.2019 Модели Тест
Егор Гладин 23.04.19 Prediction of reactivity‎ Тест

Даты

  • Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24.
Личные инструменты