Прикладной регрессионный анализ (курс лекций, B.В.Стрижов, 2008)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Рекомендуемые примеры)
Текущая версия (16:04, 20 сентября 2010) (править) (отменить)
 
(23 промежуточные версии не показаны)
Строка 1: Строка 1:
-
{{TOCright}}
+
#REDIRECT [[Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 374, осень 2008]]
-
'''Московский физико-технический институт, Факультет управления и прикладной математики'''
+
-
 
+
-
Курс читается студентам 6-го курса кафедры "Интеллектуальные системы", специализация: "Интеллектуальный анализ данных", группа 374-а.
+
-
 
+
-
{{tip|
+
-
Статья предназначена прежде всего для студентов группы 374-а, она будет наполняться в течение этого семестра.
+
-
}}
+
-
 
+
-
== Аннотация ==
+
-
Курс лекций включает теоретические и прикладные аспекты
+
-
создания моделей нелинейной регрессии и алгоритмов оптимизации
+
-
качества этих моделей. Рассматриваются современные алгоритмы
+
-
индуктивного порождения регрессионных моделей. Приводятся примеры использования алгоритмов при решении
+
-
прикладных задач в финансовой математике, экологии и медицине.
+
-
 
+
-
== Организационная часть ==
+
-
Семестровый курс содержит 32 часа лекций и 32 часа практических занятий.
+
-
В ходе лекций будут объявляться темы практических заданий.
+
-
После выбора темы обсуждаются требования к работе.
+
-
До начала экзамена нужно сдать все задания по практике.
+
-
Экзамен состоит из теоретических вопросов и задач.
+
-
 
+
-
== Дополнительный материал ==
+
-
* [http://strijov.com/teaching/article3.php Курс лекций 2006, план лекций и примеры]
+
-
* [http://strijov.com/teaching/index.php Курс лекций 2007, примеры задач практикума и материалы для самоподготовки]
+
-
* [http://strijov.com/sources/examples.php Примеры решения задач регрессионного анализа]
+
-
 
+
-
== Задачи для самостоятельного решения ==
+
-
Задачи вынесены из курса лекций, так как решались ранее в курсах линейной алгебры или математической статистики.
+
-
 
+
-
# Вывести нормальное уравнение МНК через квадратичную оптимизацию.
+
-
# Вывести нормальное уравнение через проекцию на пространство столбцов матрицы.
+
-
# Показать что матрица, проектирующая вектор на свое пространство столбцов симметрична и идемпотентна.
+
-
# Показать что если матрица удовлетворяет условиям задачи 3, то она проектирует вектор на свое пространство столбцов (доп.).
+
-
# Показать что матрица <tex>A^TA</tex> симметрична и положительно определена.
+
-
# Сколько мономов полинома Колмогорова-Габора от <tex>m</tex> переменных имеют степень не превосходящую <tex>R</tex> (с повторами переменных в мономах и без повторов)?
+
-
# Показать, что оценки интегральных индикаторов и весов показателей, полученные альфа-согласованием являются согласованными.
+
-
# Вывести оценку весов показателей гамма-согласования как минимум суммы квадратов расстояний между выставленной и вычисленной оценками в пространствах оценок интегральных индикаторов и весов показателей.
+
-
 
+
-
Задачи на понимание методов регрессионного анализа
+
-
# Дана выборка - множество <tex>\{(u_i,v_i)\}, i=1,\ldots,M</tex> измерений координат окружности <tex>(O,r)</tex>, где <tex>O=(u_O, v_O)</tex>, выполненных с некоторой случайной аддитивной ошибкой. Требуется методом наименьших квадратов найти центр и радиус этой окружности.
+
-
# (продолжение) Применим ли метод решения этой задачи для сферы?
+
-
# (продолжение) Есть измерения координат границ плоских и объемных физических тел (несложной формы), сделанные с ошибкой. Предложите примеры моделирования форм этих тел с помощью методов наименьших квадратов.
+
-
# Даны два вектора <tex>\mathbf{u}, \mathbf{v}</tex> в пространстве <tex>\mathbb{R}^N</tex>. Требуется приблизить вектор <tex>\mathbf{v}</tex> вектором <tex>\mathbf{u}</tex>, так что <tex>\|\mathbf{u}-f(\mathbf{w},\mathbf{v})\|^2\to\min</tex>. Поставить и решить задачу линейной регрессии (пусть модель будет квадратичным полиномом, <tex>\mathbf{w}</tex> - вектор параметров).
+
-
 
+
-
== Рекомендуемые примеры ==
+
-
# [[Matlab|Часто используемые конструкции языка m]]
+
-
# [http://strijov.com/sources/report_example.php Советы по оформлению отчетов]
+
-
# [http://strijov.com/sources/demo_least_squares_fit.php Метод наименьших квадратов]
+
-
# [http://strijov.com/files/mvr61.zip MVR Composer, порождение нелинейных регрессионых моделей]
+
-
 
+
-
== План лекций ==
+
-
 
+
-
=== Лекция 1 ===
+
-
Организация курса, организация практических занятий, план лекций,
+
-
обзор литературы по предмету, обзор программного обеспечения, введение в программирование задач регрессионного анализа.
+
-
 
+
-
=== Лекция 2 ===
+
-
Введение в регрессионный анализ, постановка задачи, терминология, регрессионная модель, линейные модели,
+
-
метод наименьших квадратов, два вывода нормального уравнения,
+
-
подстановки и нахождение параметров линейной регрессионной модели,
+
-
пример построения линейной регрессии: линейная, квадратичная и нелинейная функции, пример: биржевые опционы и улыбка волатильности,
+
-
построение многомерной регрессионной модели.
+
-
 
+
-
=== Лекция 3 ===
+
-
Метод группового учета аргументов. Постановка задачи с использованием порождающих функций (безпараметрических нелинейных подстановок). Базовая модель. Алгоритм МГУА. Комбинаторный алгоритм. Многослойный алгоритм. Внутренние и внешние критерии
+
-
 
+
-
=== Лекция 4 ===
+
-
Построение интегральных индикаторов. Требования к исходым данным. Подготовка данных. Парето-расслоение. Экспертно-статистический метод. Метод главных компонент. Альфа и гамма — согласование экспертных оценок. Согласование оценок, выставленных в ранговых шкалах.
+
-
 
+
-
== Литература ==
+
-
* [http://strijov.com/teaching/index.php Временно список литературы находится здесь.]
+
-
 
+
-
[[Категория:Регрессионный анализ]]
+
-
[[Категория:Учебные курсы]]
+

Текущая версия

  1. REDIRECT Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 374, осень 2008
Личные инструменты