Прикладной регрессионный анализ (курс лекций, B.В.Стрижов, 2008)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: Прикладной регрессионный анализ (курс лекций, B.В. Стрижов, 2008) Категория:Регрессионный анализ [[...)
Строка 1: Строка 1:
-
Прикладной регрессионный анализ (курс лекций, B.В. Стрижов, 2008)
+
{{TOCright}}
 +
'''Московский физико-технический институт, Факультет управления и прикладной математики'''
 +
Курс читается студентам 6-го курса кафедры "Интеллектуальные системы", специализация: "Интеллектуальный анализ данных", группа 374-а.
 +
 +
{{tip|
 +
Статья предназначена прежде всего для студентов группы 374-а, она будет наполняться в течение этого семестра.
 +
}}
 +
 +
== Аннотация ==
 +
Курс лекций включает теоретические и прикладные аспекты
 +
создания моделей нелинейной регрессии и алгоритмов оптимизации
 +
качества этих моделей. Рассматриваются современные алгоритмы
 +
индуктивного порождения регрессионных моделей. Приводятся примеры использования алгоритмов при решении
 +
прикладных задач в финансовой математике, экологии и медицине.
 +
 +
== Организационная часть ==
 +
Семестровый курс содержит 32 часа лекций и 32 часа практических занятий.
 +
В ходе лекций будут объявляться темы практических заданий.
 +
После выбора темы обсуждаются требования к работе.
 +
До начала экзамена нужно сдать все задания по практике.
 +
Экзамен состоит из теоретических вопросов и задач.
 +
 +
== Дополнительный материал ==
 +
* [http://strijov.com/teaching/article3.php Курс лекций 2006, план лекций и примеры]
 +
* [http://strijov.com/teaching/index.php Курс лекций 2007, примеры задач практикума и материалы для самоподготовки]
 +
* [http://strijov.com/sources/examples.php Примеры решения задач регрессионного анализа]
 +
 +
== Задачи для самостоятельного решения ==
 +
Задачи вынесены из курса лекций, так как решались ранее в курсах линейной алгебры или математической статистики.
 +
 +
# Вывести нормальное уравнение МНК через квадратичную оптимизацию.
 +
# Вывести нормальное уравнение через проекцию на пространство столбцов матрицы.
 +
# Показать что матрица, проектирующая вектор на свое пространство столбцов симметрична и идемпотентна.
 +
# Показать что если матрица удовлетворяет условиям задачи 3, то она проектирует вектор на свое пространство столбцов (доп.).
 +
# Показать что матрица <tex>A^TA</tex> симметрична и положительно определена.
 +
 +
== Рекомендуемые примеры ==
 +
# [[Matlab|Часто используемые конструкции языка m]]
 +
# [http://strijov.com/sources/report_example.php Советы по оформлению отчетов]
 +
# [http://strijov.com/sources/demo_least_squares_fit.php Метод наименьших квадратов]
 +
 +
 +
== План лекций ==
 +
 +
=== Лекция 1 ===
 +
Организация курса, организация практических занятий, план лекций,
 +
обзор литературы по предмету, обзор программного обеспечения, введение в программирование задач регрессионного анализа.
 +
 +
=== Лекция 2 ===
 +
Введение в регрессионный анализ, постановка задачи, терминология, регрессионная модель, линейные модели,
 +
метод наименьших квадратов, два вывода нормального уравнения,
 +
подстановки и нахождение параметров линейной регрессионной модели,
 +
пример построения линейной регрессии: линейная, квадратичная и нелинейная функции, пример: биржевые опционы и улыбка волатильности,
 +
построение многомерной регрессионной модели.
 +
 +
== Литература ==
 +
* [http://strijov.com/teaching/index.php Временно список литературы находится здесь.]
[[Категория:Регрессионный анализ]]
[[Категория:Регрессионный анализ]]
[[Категория:Учебные курсы]]
[[Категория:Учебные курсы]]

Версия 15:38, 17 сентября 2008

Содержание

Московский физико-технический институт, Факультет управления и прикладной математики

Курс читается студентам 6-го курса кафедры "Интеллектуальные системы", специализация: "Интеллектуальный анализ данных", группа 374-а.


Статья предназначена прежде всего для студентов группы 374-а, она будет наполняться в течение этого семестра.


Аннотация

Курс лекций включает теоретические и прикладные аспекты создания моделей нелинейной регрессии и алгоритмов оптимизации качества этих моделей. Рассматриваются современные алгоритмы индуктивного порождения регрессионных моделей. Приводятся примеры использования алгоритмов при решении прикладных задач в финансовой математике, экологии и медицине.

Организационная часть

Семестровый курс содержит 32 часа лекций и 32 часа практических занятий. В ходе лекций будут объявляться темы практических заданий. После выбора темы обсуждаются требования к работе. До начала экзамена нужно сдать все задания по практике. Экзамен состоит из теоретических вопросов и задач.

Дополнительный материал

Задачи для самостоятельного решения

Задачи вынесены из курса лекций, так как решались ранее в курсах линейной алгебры или математической статистики.

  1. Вывести нормальное уравнение МНК через квадратичную оптимизацию.
  2. Вывести нормальное уравнение через проекцию на пространство столбцов матрицы.
  3. Показать что матрица, проектирующая вектор на свое пространство столбцов симметрична и идемпотентна.
  4. Показать что если матрица удовлетворяет условиям задачи 3, то она проектирует вектор на свое пространство столбцов (доп.).
  5. Показать что матрица A^TA симметрична и положительно определена.

Рекомендуемые примеры

  1. Часто используемые конструкции языка m
  2. Советы по оформлению отчетов
  3. Метод наименьших квадратов


План лекций

Лекция 1

Организация курса, организация практических занятий, план лекций, обзор литературы по предмету, обзор программного обеспечения, введение в программирование задач регрессионного анализа.

Лекция 2

Введение в регрессионный анализ, постановка задачи, терминология, регрессионная модель, линейные модели, метод наименьших квадратов, два вывода нормального уравнения, подстановки и нахождение параметров линейной регрессионной модели, пример построения линейной регрессии: линейная, квадратичная и нелинейная функции, пример: биржевые опционы и улыбка волатильности, построение многомерной регрессионной модели.

Литература

Личные инструменты