Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 374, весна 2016
Материал из MachineLearning.
Видео докладов по курсу на канале Machine Learning на Youtube |
Моя первая научная статья
Участвуют эксперты, индивидуальные консультанты и студенты кафедры Интеллектуальные системы ФУПМ МФТИ.
- Описание курса
- Результаты предыдущего курса
- Требования к слушателям
- Параллельная группа Yandex, весна 2016
- Видео докладов по курсу на канале Machine Learning на Youtube
- Короткая ссылка на эту страницу: http://bit.ly/1NgyDXx
Роли
Студент третьего курса очень хочет научиться ставить задачи формально, находить нужную литературу, порождать новые и актуальные идеи и решения задач.
Консультант помогает студенту в пользовании инструментами, отвечает на вопросы по специальности, консультирует выполнение работ, оперативно реагирует на проблемы, проверяет (в среду) результаты, ставит оценки. Предполагается, что консультант сам пишет работу-спутник по этой теме. В конце работы могут быть объединены или выполнены и опубликованы параллельно. По возможности, рекомендуется организовать правки текста студента с целью улучшить стиль изложения таким образом, чтобы студент вносил правки самостоятельно. Возможно, при очной встрече или по скайпу.
Эксперт: поставщик задачи, владелец данных, либо тот, кто гарантирует новизну и актуальность работы.
Результаты
Автор | Тема научной работы | Ссылка | Консультант | Рецензент | Доклад | Буквы | Оценка | Журнал |
---|---|---|---|---|---|---|---|---|
Гончаров Алексей (пример) | Метрическая классификация временных рядов | code, | Мария Попова | Задаянчук Андрей | BMF | AILSBRCVTDSWH> | 10 | ИИП |
Баяндина Анастасия | Тематические модели дистрибутивной семантики для выделения этнорелевантных тем в социальных сетях | paper | Анна Потапенко | Олег Городницкий | BF | AILSB++RCVTDEWHS | 10 | |
Белозерова Анастасия | Согласование логических и линейных моделей классификации в информационном анализе электрокардиосигналов | code | Влада Целых | Малыгин Виталий | BF | AILSB+RC+VTD>E0WH>S | 10 | |
Владимирова Мария | Бэггинг нейронных сетей в задаче предсказания биологической активности клеточных рецепторов | code | Мария Попова | Володин Сергей | BMF | AILSBRCVTD>E>WHS | 10 | |
Володин Сергей | Вероятностный подход для задачи предсказания биологической активности ядерных рецепторов | code paper slides | Мария Попова | Мария Владимирова | BMF | AILSBRCVTDEWHS | 10 | |
Городницкий Олег | Адаптивный нелинейный метод восстановления матрицы по частичным наблюдениям | code | Михаил Трофимов | Анастасия Баяндина | M | A++I++L++S+B+R+C++VTDE+WH | 10 | |
Иванычев Сергей | Синергия алгоритмов классификации (SVM Multimodelling) | code | Александр Адуенко | BM | A+I+L++S+BRCVTDEW+H | 10 | ||
Ковалева Валерия | Регулярная структура редких макромолекулярных кластеров | code | Ольга Вальба, Юрий Максимов | Дмитрий Федоряка | BM | A+IL+SBRCVTD0E0WH | 10 | |
Макарчук Глеб | Преобразования временных рядов для декодирование движения руки с помощью ECoG сигналов (electrocorticographic signals) у обезьян | code, | Андрей Задаянчук | BF | AI+L+S+BRС>V>T+D>E0WH>S | 10 | ||
Малыгин Виталий | Применение комбинаторных оценок переобучения пороговых решающих правил для отбора признаков в задаче медицинской диагностики методом В. М. Успенского | code, | Шаура Ишкина | Белозёрова Анастасия | B | AILSBRCVTDEWH | 10 | |
Молибог Игорь | Использование методов снижения размерности при построении признакового пространства в задаче обнаружения внутреннего плагиата | Анастасия Мотренко | Сафин Камиль | BMF | AILSBRCVTDEWHS | 10 | ||
Погодин Роман | Определение положения белков по электронной карте | code, paper, slides | Александр Катруца | Андрей Рязанов | BMF | AILSBRСVTDEWHS | 10 | |
Рязанов Андрей | Восстановление первичной структуры белка по геометрии его главной цепи | folder | Михаил Карасиков | Роман Погодин | BMF | AIL+SBRC++VTD+EWHS | 10 | |
Сафин Камиль | Определение заимствований в тексте без указания источника | code, paper | Михаил Кузнецов | Молибог Игорь | BMF | AIL+SBRC>V>T>D>E0WHS | 10 | |
Федоряка Дмитрий | Смеси моделей векторной авторегрессии в задаче прогнозирования временных рядов | code, | Радослав Нейчев | Ковалева Валерия | BM | AILSBRCV-T>D0E0WH> | 10 | |
Цветкова Ольга | Построение скоринговых моделей в системе SAS | code, | Раиса Джамтырова | Чигринский Виктор | BF | A+I+L+S+B+R+C+V0T0D0E0WH>S | 10 | |
Чигринский Виктор | Аппроксимация границ радужки глаза | code paper | Юрий Ефимов | B | AI+L+SBRCV+TDEHFS | 10 |
Расписание
Дата | ДЗ | Что делаем | Результат для обсуждения | Код | |
Февраль | 18 | 0 | Решить пробную задачу, написать код. Выбор задачи | Пробный код написан и загружен в репозиторий вместе с иллюстрирующими рисунками. Тема в ML и ссылка на работу в SF помещена напротив фамилии. | Test |
25 | 1 | Составить список публикаций по выбранной задаче, найти данные. Написать аннотацию и введение с обзором собранной литературы. | Аннотация (600 знаков), введение (1-2 страницы), список литературы в bib-файле. | Abstract, Introduction, Literature | |
Март | 3 | 2 | Поставить задачу и сделать описание базового алгоритма, подготовить базовый вычислительный эксперимент. | Постановка задачи (0.5-1 страница), описание базового алгоритма. | Statement |
10 | 3 | Поставить базовый вычислительный эксперимент. Провести первичный анализ работы алгоритма. | Базовый код, отчет о работе базового алгоритма (кратко). | Basic code, Report | |
17 | 4 | Поставить вычислительный эксперимент на основе предлагаемого алгоритма с учетом предыдущих результатов. | Код, визуализация полученных результатов, анализ ошибки, анализ качества. | Code, Visualization | |
24 | 5 | Описание алгоритма. | Алгоритмическая часть статьи (второй / третий раздел). | Theory | |
31 | 6 | Описание теоретической части и вычислительного эксперимента. Описание рисунков, выводы, заключение. | Черновой вариант статьи с разделами «Вычислительный экперимент» и «Заключение». | Document | |
Апрель | 7 | 7 | Завершение вычислительного эксперимента. | Описание эксперимента с анализом ошибок. | Error |
14 | 8 | Контрольная точка — показ статьи в целом, рецензия. | Статья в варианте для рецензирования. | сHeck, RevieW | |
21 | 9 | Доработка статьи. | Доработанная статья. | Final show, Slides | |
28 | 10 | Доклады и обсуждение. | Статья подана в журнал. | Final show, Journal |
Работа и консультации
- Работы сдаются в течение недели.
- Желательна итеративная сдача работ, начинать показ лучше в выходные.
- Дедлайн последней версии работы: среда 6:00am (проверка занимает всю среду).
- В отчет будет добавлен пункт об учете времени, затраченном на выполнение проекта по неделям.
- Каждый этап работ + 1 балл по системе (А--, А-, А, А+, А++). Несделанная работа — A0. Мотивированный перенос работы — знак «A>». Недельное опоздание — знак «-».
Задачи
Шаблон описания научной статьи
- Название: Название, под которым статья подается в журнал.
- Задача: Описание или постановка задачи. Желательна постановка в виде задачи оптимизации (в формате argmin). Также возможна ссылка на классическую постановку задачи.
- Данные: Краткое описание данных, используемых в вычислительном эксперименте, и ссылка на выборку.
- Литература: Список научных работ, дополненный 1) формулировкой решаемой задачи, 2) ссылками на новые результаты, 3) основной информацией об исследуемой проблеме.
- Базовой алгоритм: Ссылка на алгоритм, с которым проводится сравнение или на ближайшую по теме работу.
- Решение: Предлагаемое решение задачи и способы проведения исследования. Способы представления и визуализации данных и проведения анализа ошибок, анализа качества алгоритма.
- Новизна: Обоснование новизны и значимости идей (для редколлегии и рецензентов журнала).
Список проектов
Задача 1
- Данные: Синергия алгоритмов классификации. Данные из репозитория UCI, чтобы можно было сравнивать напрямую с другими работами, в частности работами Вапника.
- Литература: существуют разные подходы к комбинированию SVM: например, bagging (http://www.ecse.rpiscrews.us/~cvrl/FaceProject/Homepage/Publication/ICPR04_final_cameraready_v4.pdf), также пробуют и boosting (http://www.researchgate.net/profile/Hong-Mo_Je/publication/3974309_Pattern_classification_using_support_vector_machine_ensemble/links/09e415091bdc559051000000.pdf).
- Базовой алгоритм: Описан в постановке задачи
- Решение: модификация базового алгоритма, или просто сам базовый алгоритм. Главное - сравнить с другими методами и сделать выводы, в частности о связи наличия улучшения в качестве и разнообразия множеств опорных объектов, построенных разными SVM ами.
- Новизна: известно (например, из лекций Константина Вячеславовича), что строить короткие композиции из сильных классификаторов (например, SVM) с помощью бустинга не получается (хотя все же пробуют (см. литературу)). Поэтому предлагается вместо линейной комбинации строить нелинейную. Предполагается, что такая композиция может дать прирост качества по сравнению с одиночным SVM.
- Консультант: Александр Адуенко
Задача 2
- Название: Темпоральная тематическая модель коллекции пресс-релизов.
- Задача: Разработка методов анализа тематической структуры большой текстовой коллекции и её динамики во времени. Проблемой является оценка качества построенной структуры. Требуется реализовать критерии устойчивости и полноты темпоральной тематической модели с использованием ручного отбора найденных тем по их интерпретируемости, различности и событийности.
- Данные: Коллекция пресс-релизов внешнеполитических ведомств ряда стран за 10 лет, на английском языке.
- Литература:
- Дойков Н.В. Адаптивная регуляризация вероятностных тематических моделей. ВКР бакалавра, ВМК МГУ. 2015.
- Базовой алгоритм: Классический LDA Д.Блэя c post-hoc анализом времени.
- Решение: Реализация аддитивно регуляризованной тематической модели с помощью библиотеки BigARTM. Построение серий тематических моделей. Оценивание их интерпретируемости, устойчивости и полноты.
- Новизна: Критерии устойчивости и полноты тематических моделей являются новыми.
- Консультант: Никита Дойков, автор задачи К.В.Воронцов.
Задача 3
- Название: Согласование логических и линейных моделей классификации в информационном анализе электрокардиосигналов.
- Задача: Имеются логические классификаторы, основанные на выявлении диагностических эталонов для каждого заболевания и построенные экспертом в полуручном режиме. Для этих классификаторов определены оценки активностей заболеваний, которые уже много лет используются в диагностической системе и удовлетворяют пользователей-врачей. Мы строим линейные классификаторы, которые обучаются полностью автоматически и по качеству классификации опережают логические. Однако прямой перенос методики оценивания активности на линейные классификаторы оказался невозможен. Требуется построить линейную модель активности, настроив её на воспроизведение известных оценок активности логического классификатора.
- Данные: Выборка более 10 тысяч электрокардиограмм с диагнозами по 32 заболеваниям.
- Литература: выдадим :)
- Базовой алгоритм: Линейный классификатор.
- Решение: Методы линейной регрессии, линейной классификации, отбора признаков.
- Новизна: Задача согласования двух моделей различной природы может рассматриваться как обучение с привилегированной информацией (learning with privileged information) — перспективное направление, предложенное классиком машинного обучения В.Н.Вапником несколько лет назад.
- Консультант: Влада Целых, автор задачи К.В.Воронцов.
Задача 4
- Название: Тематическая модель классификации для диагностики заболеваний по электрокардиограмме.
- Задача: Технология информационного анализа электрокардиосигналов по В.М.Успенскому основана на преобразовании ЭКГ в символьную строку и выделении информативных наборов слов — диагностических эталонов каждого заболевания. Линейный классификатор строит один диагностический эталон для каждого заболевания. В системе скрининговой диагностики «Скринфакс» сейчас используется четыре эталона для каждого заболевания, построенных в полуручном режиме. Требуется полностью автоматизировать процесс построения диагностических эталонов и определять их оптимальное количество для каждого заболевания. Для этого предполагается доработать тематическую модель классификации С.Цыгановой, выполнить новую реализацию под BigARTM, расширить вычислительные эксперименты, улучшить качество классификации.
- Данные: Выборка более 10 тысяч электрокардиограмм с диагнозами по 32 заболеваниям.
- Литература: выдадим :)
- Базовой алгоритм: Модели классификации В.Целых, тематическая модель С.Цыгановой.
- Решение: Тематическая модель, реализованная с помощью библиотеки BigARTM.
- Новизна: Тематические модели ранее не применялись для классификации дискретизированных биомедицинских сигналов.
- Консультант: Светлана Цыганова, автор задачи К.В.Воронцов.
Задача 5
- Название: Тематические модели дистрибутивной семантики для выделения этнорелевантных тем в социальных сетях.
- Задача: Тематическое моделирование текстовых коллекций социальных медиа сталкивается с проблемой сверх-коротких документов. Не всегда ясно, где проводить границы между документами (возможные варианты: отдельный пост, стена пользователя, все сообщения данного пользователя, все сообщения за данный день в данном регионе, и т.д.). Тематические модели дают интерпретируемые векторные представления слов и документов, но их качество зависит от распределения длин документов. Модель word2vec независима от длин документов, так как учитывает лишь локальные контексты слов, но координаты векторных представлений не допускают тематическую интерпретацию. Задачей проекта является построение гибридной модели, объединяющей достоинства и свободной от недостатков обеих моделей.
- Данные: Коллекции социальных сетей ЖЖ и ВК.
- Литература: выдадим :)
- Базовой алгоритм: Тематические модели, ранее построенные на этих данных.
- Решение: Реализация регуляризатора дистрибутивной семантики, аналогичного языковой модели vord2vec, в библиотеке BigARTM.
- Новизна: Пока в литературе нет языковых моделей, объединяющих основные преимущества вероятностных тематических моделей и модели word2vec.
- Консультант: Анна Потапенко, по техническим вопросам Мурат Апишев, автор задачи К.В.Воронцов.
Задача 6
- Название: Sparse Regularized Regression on Protein Complex Data
- Задача: найти лучшую модель регрессии на данных связывания белковых комплексов
- Данные: признаковое описание белковых комплексов и константы связывания для них
- Литература: статьи по регрессии и сравнению методов на схожих данных
- Базовой алгоритм: регуляризованная линейная регрессия (Lasso, Ridge, ...), SVR, kernel methods, etc..
- Решение: сравнение различных алгоритмов регрессии на данных, выбор оптимальной модели и оптимизация параметров
- Новизна: получение лучшей модели регрессии для данных связывания белковых комплексов
- Консультант: Александр Катруца, автор задачи: Сергей Грудинин.
- Желательные навыки: готовность быстро разобраться в различных подходах к регрессии, знание или готовность к освоению С++ на среднем уровне (для более полного исследования нужно будет попробовать библиотеки на С++)
Задача 7
- Название: определение положения белков по электронной карте
- Задача: неформально --- есть наборы экспериментально определённых карт расположения белков в комплексах, часть из них известна в высоком разрешении, необходимо восстановить всю карту в высоком разрешении; формально --- есть матрицы и вектора энергий соответствующие каждой карте белкового комплекса, нужно определить какой набор белков минимизирует квадратичную форму, образованую матрицей и вектором.
- Данные: экспериментальные данные с сайта http://www.emdatabank.org/ будуь преобразованы в матрицы в вектора энергий. Понимание биофизической природы не обязательно.
- Литература: статьи по методам решения задач квадратичного программирования и различным релаксациям
- Базовой алгоритм: методы квадратичного программирования с различными релаксациями
- Решение: минимизация суммарной энергии белкового комплекса
- Новизна: применение методов квадратичного программирования и исследование их точности в задачах восстановления электронных карт
- Консультант: Александр Катруца, автор задачи: Сергей Грудинин.
- Желательные навыки: понимание и интерес к методам оптимизации, работа с пакетом CVX
Задача 8
- Название: Классификация физической активности: исследование изменения пространства параметров при дообучении и модификации моделей глубокого обучения
- Задача: Дана модель классификации по выборке временных сегментов, записанных с акселерометра мобильного телефона. Модель представляет собой многослойную нейросеть. Требуется 1) исследовать дисперсию и матрицу ковариаций параметров нейросети при различных расписаниях оптимизации (т.е. при различных подходах к поэтапному обучению). 2) на основе полученной матрицы ковариаций параметров предложить эффективный способ модификации модели глубокого обучении.
- Данные: Выборка WISDM http://www.cis.fordham.edu/wisdm/dataset.php.
- Литература:
- Задаянчук А.И., Попова М.С., Стрижов В.В. Выбор оптимальной модели классификации физической активности по измерениям акселерометра http://strijov.com/papers/Zadayanchuk2015OptimalNN4.pdf
- Попова М. С., Стрижов В.В. Построение сетей глубокого обучения для классификации временных рядов - http://strijov.com/papers/PopovaStrijov2015DeepLearning.pdf
- Бахтеев О.Ю., Попова М.С., Стрижов В.В. Системы и средства глубокого обучения в задачах классификации
- LeCun Y. Optimal Brain Damage - yann.lecun.com/exdb/publis/pdf/lecun-90b.pdf
- Работы по пред-обучению (pre-training) и дообучению (fine-tuning)
- Базовой алгоритм: Базовая модель описана в статье "Построение сетей глубокого обучения для классификации временных рядов". Алгоритм можно реализовать как с помощью библиотеки PyLearn или keras (другие библиотеки и языки программирования также допустимы).
- Решение: Анализ матрицы ковариаций, построение add-del метода на основе полученных данных.
- Новизна: Методика исследования ковариационной матрицы большой размерности, а также полученный алгоритм модификации модели важны и будут использоваться в дальнейшем при анализе моделей глубокого обучения.
- Консультант: Олег Бахтеев
Задача 9
- Название: восстановление первичной структуры белка по геометрии его главной цепи
- Задача: на основе главной цепи белка, то есть по сути его геометрии, надо восстановить первичную структуру белка, то есть какой последовательности аминокислот соотвествует заданная геометрия главной цепи. Предлагается это делать на основе минимизации суммарной энергии белка, выраженной квадратичной формой скорее всего не положительно определённой.
- Данные: на выбор студента: собранные матрицы энергий для различных белков на основе их описаний в формате PDB или сами PDB-файлы; в последнем случае необходимо будет собрать матрицы для дальнейшей работы
- Литература: статьи по методам решения задач квадратичного программирования и различным релаксациям
- Базовой алгоритм: методы квадратичного программирования с различными релаксациями
- Решение: минимизация суммарной энергии белка
- Новизна: применение методов квадратичного программирования и исследование их точности
- Консультант: Михаил Карасиков, автор задачи: Сергей Грудинин.
- Желательные навыки: понимание и интерес к методам оптимизации, работа с пакетом CVX
Задача 10
- Название: Multi-task learning подход для задачи предсказания биологической активности ядерных рецепторов
- Задача: В задаче необходимо построить multi-task модель, предсказывающую взаимодействие двух типов молекул: рецепторов и протеинов. Решение этой задачи необходимо для разработки новых лекарств (drug design).
- Данные: описание 8500+ протеинов и метки для 12 рецепторов
- Литература: будет отправлена студенту
- Базовой алгоритм: multi-task lasso регрессия из библиотеки python scikit-learn
- Решение: обобщение линейной регрересси на случай multi-task в вероятностной интерпретации
- Новизна: Multi-task learning подход является новаторским в области drug design
- Консультант: Мария Попова
- Желательные навыки: понимание и интерес к теории вероятности, готовность быстро разобраться в различных подходах к регрессии, знание или готовность к освоению Python
Задача 11
- Название: Бэггинг нейронных сетей в задаче предсказания биологической активности ядерных рецепторов.
- Задача: В задаче необходимо реализовать бэггинг (bootstrap aggregating) для двухслойной нейронной сети. Такая модель будет являться мультитасковой и предсказывать взаимодействие двух типов молекул: рецепторов и протеинов. Решение этой задачи необходимо для разработки новых лекарств (drug design).
- Данные: описание 8500+ протеинов и метки для 12 рецепторов
- Литература: будет отправлена студенту
- Базовой алгоритм: двухслойная нейронная сеть
- Решение: Композиция базовых классификаторов бэггинг
- Новизна: Такой подход является новаторским в области drug design
- Консультант: Мария Попова
Задача 12
- Название: Смеси моделей в векторной авторегрессии в задаче прогнозирования (больших) временных рядов.
- Задача: Имеется набор временных рядов длины T, содержащих показания различных датчиков, отражающих состояние устройства. Необходимо предсказать следующие t показаний датчиков. Практическая значимость: перед поломкой состояние устройства меняется, предсказание "аномального" поведения поможет своевременно принять меры и избежать поломки или минимизировать потери.
- Данные: Многомерные временные ряды с показаниями различных датчиков серверов (загрузка ЦП, памяти, температура)
- Литература: Ключевые слова: mixture models, boosting, Adaboost, векторная авторегрессия.
- Александр Цыплаков. Введение в прогнозирование в классических моделях временных рядов. [1]
- Нейчев Р.Г., Катруца А.М., Стрижов В.В. Выбор оптимального набора признаков из мультикоррелирующего множества в задаче прогнозирования[2]
- Christopher M. Bishop. Pattern Recognition and Machine Learning. Страница 667
- Базовый алгоритм: Бустинг, алгоритм Adaboost.
- Решение: Использовать для построения проноза смесь нескольких линейных моделей вместо одной сложной.
- Новизна: Доработано пространство параметров для смеси моделей в векторной авторегрессии.
- Консультант: Радослав Нейчев
Задача 13
- Название: Отбор мультикоррелирующих признаков в задаче векторной авторегрессии.
- Задача: Имеется набор временных рядов, содержащих показания различных датчиков, отражающих состояние устройства. Показания датчиков коррелируют между собой. Необходимо отобрать оптимальный набор признаков для решения задачи прогнозирования.
- Данные: Многомерные временные ряды с показаниями различных датчиков серверов (загрузка ЦП, памяти, температура)
- Литература: Ключевые слова: bootstrap aggreagation, метод Белсли, векторная авторегрессия.
- Нейчев Р.Г., Катруца А.М., Стрижов В.В. Выбор оптимального набора признаков из мультикоррелирующего множества в задаче прогнозирования[3]
- Базовый алгоритм: метод Белсли для одномерной авторегрессии (см. статью из списка литературы).
- Решение: Применить метод Белсли для обнаружения коррелирующих признаков.
- Новизна: Метод Белсли применяется для векторной авторегрессии.
- Консультант: Радослав Нейчев
Задача 14
- Название: Порождение признаков в задаче прогнозирования.
- Задача: Имеется набор временных рядов, содержащих показания различных датчиков, отражающих состояние устройства. Необходимо расширить пространство признаков с помощью нелинейных параметрический порождающих функций.
- Данные: Многомерные временные ряды с показаниями различных датчиков серверов (загрузка ЦП, памяти, температура)
- Литература: Ключевые слова: криволинейная регрессия, порождение признаков, нелинейная регрессия, аппроксимация временных рядов.
- М.П. Кузнецов, В.В. Стрижов, М.М. Медведникова. Алгоритм многоклассовой классификации объектов, описанных в ранговых шкалах.[4]
- Базовый алгоритм: Непараметрические порождающие функициии.
- Решение: Применить к признакам квазилинейные и нелинейные преобразования зависящие от параметра.
- Новизна: Предложен новый набор признаков для решения авторегрессионных задач.
- Консультант: Роман Исаченко
Задача 15
- Название: Преобразования временных рядов для декодирование движения руки с помощью ECoG сигналов (electrocorticographic signals) у обезьян.
- Задача: Имеется набор временных рядов, записи ECoG сигналов. Необходимо выделить признаки с помощью преобразований временных рядов (например, оконного преобразования Фурье).
- Данные: Многомерные временные ряды с показаниями ECOG и данные о движении обезьян [5]
- Литература: Ключевые слова: выделение признаков, преобразования временных рядов, ECoG signal processing
- Zenas C. Chao, Yasuo Nagasaka and Naotaka Fujii. Long-term asynchronous decoding of arm motion using electrocorticographic signals in monkeys[6]
- Базовый алгоритм: Вейвлет-преобразование (англ. Wavelet transform)
- Решение: Выделение признаков из ECoG различными методами.
- Новизна: Анализ оптимальности Вейвлет-преобразования в задачах обработки ECoG сигналов
- Консультант: Задаянчук Андрей
Задача 16
- Название: Адаптивный нелинейный метод восстановления матрицы по частичным наблюдениям
- Задача: Пусть есть неизвестная (возможно многомерная) матрица A, позиция элемента в ней описывается целочисленным вектором p. Известны значения матрицы на некотором подмножестве ее элементов. Требуется найти параметризацию и параметры такие, что на некотором некотором подмножестве элементов минимизируется квадратичное отклонение. Более подробное описание по ссылке [7]
- Данные: модельные данные, Netflix Prize Data Set, MovieLens 20M Dataset, Criteo Display Advertising Challenge Dataset
- Литература:
- "ACCAMS: Additive Co-Clustering to Approximate Matrices Succinctly" (Beutel, Amr Ahmed, Smola)
- "Non-linear Matrix Factorization with Gaussian Processes" (Neil D. Lawrence)
- "Low-rank matrix completion using alternating minimization" (Prateek Jain, Praneeth Netrapalli, Sujay Sanghavi)
- Базовый алгоритм: Низкоранговое приближение
- Решение: И параметры, и параметризацию искать из данных.
- Новизна: Обобщение работ в данной области; предложена новая модель, эфективность которой предлагается проверить
- Консультант: Михаил Трофимов
- Желательные навыки: python
Задача 17
- Название: Построение скоринговых моделей в системе SAS (либо MATLAB).
- Задача: Описать основные этапы построения скоринговых моделей. На этапе подготовки данных решается задача фильтрации выборов (удаления шумовых объектов). Так как выборка содержит значительное число признаков, не коррелирующих с платежеспособностью, необходимо решать задачу отбора признаков. Кроме того, в силу неоднородности данных (например, по регионам) предлагается строить смесь моделей, в которой каждая модель описывает свое подмножество выборки. При этом различным компонентам смеси могут соответствовать разные наборы признаков.
- Данные: Кредитная история/анкеты потенциальных заемщиков [8], [9].
- Литература:
- Хосмер, Лемешов. Логистическая регрессия (англ.)
- Siddiqi. Constructing scorecards
- Материалы по построению скоринговых карт
- Базовый алгоритм: Логистическая регрессия
- Решение: Смесь моделей
- Новизна: Описан способ построения скоринговых карт, в котором в задачу оптимизации включены как порождение признаков, так и мультимоделирование.
- Консультант: Раиса Джамтырова
- Желательные навыки: SAS
Задача 18
- Название: Аппроксимация границ радужки глаза.
- Задача: По изображению человеческого глаза определить окружности, аппроксимирующие внутреннюю и внешнюю границу радужки.
- Данные: Растровые монохромные изображения, типичный размер 640*480 пикселей (однако, возможны и другие размеры)
- Литература:
- К.А.Ганькин, А.Н.Гнеушев, И.А.Матвеев Сегментация изображения радужки глаза, основанная на приближенных методах с последующими уточнениями // Известия РАН. Теория и системы управления, 2014, № 2, с. 78–92.
- Duda, R. O. Use of the Hough transformation to detect lines and curves in pictures / R. O. Duda, P. E. Hart // Communications of the ACM. 1972. Vol. 15, no. 1. Pp.
- Базовый алгоритм: Ефимов Юрий. Поиск внешней и внутренней границ радужки на изображении глаза методом парных градиентов, 2015.
- Решение: См. Iris_circle_problem.pdf
- Новизна: Предложен быстрый беспереборный алгоритм аппроксимации границ с помощью линейных мультимоделей.
- Консультант: Юрий Ефимов (автор Стрижов, эксперт Матвеев)
Задача 19
- Название: Аппроксимация комбинаторных оценок переобучения для отбора признаков в задаче медицинской диагностики.
- Задача: Технология информационного анализа электрокардиосигналов по В. М. Успенскому применяется для диагностики заболеваний внутренних органов по электрокардиограмме. Линейный наивный байесовский классификатор с отбором признаков хорошо зарекомендовал себя в этой задаче. Однако для отбора признаков до сих пор использовались только очень простые жадные стратегии. Предлагается использовать более интенсивные переборные стратегии, чтобы найти лучшие и более короткие диагностические наборы признаков. Однако чем интенсивнее перебор, тем выше вероятность переобучения. Для сокращения переобучения предлагается использовать комбинаторные оценки переобучения пороговых решающих правил. Для эффективного вычисления этих оценок предлагается использовать суррогатное моделирование.
- Данные: Выборки векторов признаковых описаний ЭКГ, полученные с помощью системы скрининговой диагностики «Скринфакс». Будут выданы.
- Литература:
- Успенский В. М. Информационная функция сердца. Теория и практика диагностики заболеваний внутренних органов методом информационного анализа электрокардиосигналов. – М.: Экономика и информатика, 2008. – 116 с.
- Воронцов К. В. Теория надёжности обучения по прецедентам. Курс лекций ВМК МГУ и МФТИ. 2011.
- Ишкина Ш. Х. Комбинаторные оценки обобщающей способности как критерии отбора признаков в синдромном алгоритме. - Тезисы 58-научной конференции МФТИ. URL: http://conf58.mipt.ru/static/reports_pdf/755.pdf
- MVR Composer http://www.machinelearning.ru/wiki/index.php?title=MVR_Composer
- Базовой алгоритм: линейный наивный байесовский классификатор с отбором признаков.
- Решение: Для оценивания переобучения используются точные комбинаторные формулы. Для аппроксимации (суррогатного моделирования) этих формул используется MVR Composer. Для отбора признаков используются эвристические полужадные алгоритмы комбинаторной оптимизации.
- Новизна: Ранее для отбора признаков комбинаторные оценки переобучения не применялись. Данный метод позволяет сокращать диагностические наборы признаков и улучшать качество классификации.
- Консультант: Ишкина Шаура, Кулунчаков Андрей (MVR Composer), автор задачи: К.В.Воронцов
Задача 20
- Название: Модель порождения объектов в задаче прогнозирования временных рядов
- Задача: Построить модель порождения объектов для задачи прогнозирования, которая будет создавать качественную выборку для последующего решения задачи прогнозирования.
- Данные: Временные ряды потребления электроэнергии, временные ряды акселерометра мобильного телефона
- Литература:
- Keogh E. J., Pazzani M. J. Scaling up dynamic time warping to massive datasets
- Salvador S., Chan P. Fastdtw: Toward accurate dynamic time warping in linear time and space
- Кузнецов М.П., Ивкин Н.П. Алгоритм классификации временных рядов акселерометра по комбинированному признаковому описанию
- Карасиков М. Е. Классификация временных рядов в пространстве параметров порождающих моделей [12]
- Базовой алгоритм: Различные эвристики
- Постановка задачи: Формулировка и подробное описание задачи приведено по ссылке [13]
- Новизна: рассмотрение модели порождения данных в подобной задаче
- Консультант: Гончаров Алексей
Задача 21
- Название: Алгоритм прогнозирования структуры локально-оптимальных моделей
- Задача: Требуется спрогнозировать временной ряд с помощью некоторой параметрической суперпозицией алгебраических функций. Предлагается не стоить прогностическую модель, а спрогнозировать ее, то есть предсказать структуру аппроксимирующей суперпозиции. Вводится класс рассматриваемых суперпозиций, и на множестве таких структурных описаний проводится поиск локально-оптимальной модели для рассматриваемой задачи. Задача состоит в 1) поиске подходящего структурного описания модели 2) описания алгоритма поиска той структуры, которая будет соответствовать оптимальной модели 3) описания алгоритма обратного построения модели по ее структурному описанию. В качестве уже имеющегося примера ответа на вопросы 1-3, смотри работы А. А. Варфоломеевой.
- Данные: Набор временных рядов, который подразумевает восстановление функциональных зависимостей. Предлагается сначала использовать синтетические данные или сразу применить алгоритм к прогнозированию временных рядов 1) потребления электроэнергии 2) физической активности с последующим анализом получающихся структур.
- Литература:
- Базовой алгоритм: Конкретно к предлагаемой проблеме базового алгоритма нет. Предлагается попробовать повторить эксперимент А. А. Варфоломеевой для другого структурного описания, чтобы понять, что происходит.
- Решение: Суперпозиция алгебраических функций задает ордерево, на вершинах которого заданы метки соответствующих алгебраических функций или переменных. Поэтому структурным описанием такой суперпозиции может являться ее DFS-code. Это строка, состоящая из меток вершин, записанных в порядке обхода дерева поиском в глубину. Зная арности соответствующих алгебраических функций, можем любой такой DFS-code восстановить за O(n) и получить обратно суперпозицию функций. На множестве подобных строковых описаний предлагается искать то строковое описание, которое будет соответствовать оптимальной модели.
- Консультант: Кулунчаков Андрей
Задача 22
- Название: Определение заимствований в тексте без указания источника
- Задача: Решается задача выявления внутренних заимствований в тексте. Требуется проверить гипотезу о том, что заданный текст написан единственным автором, и в случае ее невыполнения выделить заимствованные части текста. Заимствованием считается часть текста, предположительно написанная другим автором и содержащая характерные отличия от стиля основного автора. Требуется разработать такую стилевую функцию, которая позволяет с высокой степенью достоверности отличить стиль основного автора текста от заимствований.
- Данные: Коллекция конкурса PAN-2011.
- Литература:
- Oberreuter, G., L’Huillier, G., Rıos, S. A., & Velásquez, J. D. (2011). Approaches for intrinsic and external plagiarism detection. Proceedings of the PAN.
- Базовый алгоритм, решение: На текущий момент реализован базовый метод выявления зависимостей, основанный на анализе частотностей слов и символьных n-грамм в предложении. Для каждого текста формируется словарь, в котором каждому слову (n-грамме) поставлено в соответствие значение его встречаемости в тексте. На основе значений встречаемости формируется признаковое описание каждого сегмента-предложения. Выполняется классификация сегментов текста на основе экспертной разметки заимствований. Качество базового алгоритма составляет 0.29 по F1-мере (Pladget 0.21) на коллекции PAN-2011, в то время как качество лучшего алгоритма, принимавшего участие в соревновании 2011 года [Oberreuter], составляет 0.32 по F1-мере (Pladget 0.32). Предлагается реализовать этот алгоритм и сравнить его с базовым методом.
- Консультант: Михаил Кузнецов
Задача 23
- Название: Использование методов снижения размерности при построении признакового пространства в задаче обнаружения внутреннего плагиата
- Задача: Для более эффективного решения задачи обнаружения внутреннего плагиата использовать методы снижения размерности, сохраняющие расстояние между объектами. Требуется доработать метод tSNE [2], включив в модель информацию о разметке данных и возможность добавления ранее не рассмотренных объектов в пространство сниженной размерности. Подробнее см. [1]
- Данные: Коллекция конкурса PAN-2011.
- Литература:
- Problem_statement_dim_reduce.pdf
- Laurens van der Maaten. Visualizing Data using t-SNE Journal of Machine Learning Research, 9 (2008) 2579-2605.
- Julian Brooke and Graeme Hirst. Paragraph Clustering for Intrinsic Plagiarism Detection using a Stylistic Vector-Space Model with Extrinsic Features, 2012.
- Базовой алгоритм, решение: См. [1]
- Консультант: Мотренко Анастасия
Задача 25
- Название: Устойчивость дискретизации электрокардиосигналов относительно частотной фильтрации.
- Задача: Технология информационного анализа электрокардиосигналов по В.М.Успенскому основана на преобразовании электрокардиограммы в символьную строку (кодограмму) и выделении информативных наборов слов — диагностических эталонов каждого заболевания. Проблема в том, что для дискретизации необходимо достаточно точно определять амплитуду R-пиков. На амплитуду может влиять частотная фильтрация сигнала, которая производится электрокардиографом на аппаратном или программном уровне. Задача заключается в том, чтобы оценить, насколько сильно различные частотные фильтры (например, фильтр 50.4Гц, подавляющий воздействие электрической сети, высокочастотный фильтр) могут влиять на частоты слов в кодограмме и на качество классификации.
- Данные: электрокардиограммы в формате KDM.
- Литература: выдадим :)
- Базовой алгоритм: Линейный классификатор.
- Решение: Прямое и обратное преобразование Фурье, алгоритм детекции R-пиков на электрокардиограмме, алгоритм определения амплитуды R-пиков.
- Новизна: Исследование устойчивости кодограмм по отношению к частотной фильтрации с различными параметрами ранее не проводилось в информационном анализе электрокардиосигналов.
- Консультант: Виктор Сафронов (Научный центр им. В.И.Кулакова)
Задача 26
- Название: Построение отображений с минимальной деформацией для сравнения изображений с эталоном.
- Задача: Применить вариационный метод построения квазиизометрических отображений для решения классической задачи геометрической морфологии и регистрации изображений - построения двумерной или трехмерной деформации для сравнения с эталоном.
- Данные: Изображения в формате bmp. На первом этапе можно задавать простые тела посредством ч/б раскраски декартовой решетки.
- Литература:
- Michael I. Miller, Alain Trouve, Laurent Younes. ON THE METRICS AND EULER-LAGRANGE EQUATIONS OF COMPUTATIONAL ANATOMY. Annu. Rev. Biomed. Eng. 2002. 4:375–405
- Beg MF, Miller MI, Trouve A, Younes L. Computing large deformation metric mappings via geodesics flows of diffeomorphisms. International Journal of Computer Vision. 2005; V.61(2):139-157.
- Trouve A. An approach of pattern recognition through infinite dimensional group action. Research report LMENS-95-9. 1995.
- Garanzha VA. Maximum norm optimization of quasi-isometric mappings. Num. Linear Algebra Appl. 2002; V.9(6-7):493--510.
- Garanzha V.A., Kudryavtseva L.N., Utyzhnikov S.V. Untangling and optimization of spatial meshes // Journal of Computational and Applied Mathematics. -- 2014. -- October. -- V. 269 -- P. 24--41.
- Базовой алгоритм: Использовать вариационный метод построения отображений, который ранее был предложен для построения пространственных отображений с заданным отображением границы [4], [5], в случае, когда задается мера близости функций, описывающих геометрические тела, например, как среднеквадратичная мера близости функций яркости.
- Решение: Для существующего кода, который реализует вариационный метод построения двумерных отображений с минимальным искажением, необходимо дописать модуль, реализующий добавку к функционалу, являющуюся мерой близости геометрических тел. Это включает вычисление самого функционала, его градиента, и поправки к предобусловливателю.
- Новизна: Сравнить полученный метод с методом геодезического потока диффеоморфизмов, предложенного в работах Алэна Труве (см. ссылки [1]-[3]). Оценить качество приближения и быстродействие полученного алгоритма.
- Консультант: Владимир Анатольевич Гаранжа (ВЦ РАН).
Задача 27
- Название: Кросс-язычный тематический поиск научных публикаций.
- Задача: Содание прототипа поискового сервиса, который принимает в качестве запроса текст научной статьи на русском языке и выдаёт в качестве результата поиска тематически близкие статьи на английском языке из коллекции arXiv.org.
- Данные: Коллекция текстов arXiv.org, двуязычная коллекция текстов Википедии.
- Литература: выдадим.
- Базовой алгоритм: Тематическая модель, построенная по объединённой коллекции англоязычного arXiv и двуязычной англо-русской Википедии.
- Решение: Построение регуляризованной тематической модели средствами библиотеки BigARTM. Применение стандартных средств построения инвертированных индексов.
- Новизна: Такого сервиса в русскоязычном интернете пока нет.
- Консультант: Марина Суворова.
Задача 28
- Название: Поиск резонансных частот в растворах полимеров.
- Задача: Математически задача сводиться к поиску спектральной плотности случайных графов в окрестности точки перколяции.
- Данные: Симуляционные данные (графы Эрдеша-Реньи в окрестности точки перколяции).
- Литература: Nazarov L. I. et al. A statistical model of intra-chromosome contact maps //Soft matter. – 2015. – Т. 11. – №. 5. – С. 1019-1025.
- Базовой алгоритм: Монте-Карло.
- Новизна: В настоящее известен алгоритм оценка спектральной плотности линейных цепочек, вопрос с оценкой спектральной плотности ансамблей деревьев открытый.
- Консультант: Ольга Вальба, Юрий Максимов, Автор задачи: Нечаев Сергей.