Доверительные интервалы для параметров регрессии
Материал из MachineLearning.
(Перенаправлено с Доверительный интервал для дисперсии шума)
После того как были изучены статистические свойства МНК-оценок коэффициентов регрессии, можно переходить к построению доверительных интервалов для коэффициентов регрессии, дисперсии шума, а также прогнозного значения отклика.
Содержание |
Доверительный интервал для коэффициентов регрессии
- Работаем в предположениях, что выполнены ОП1, ОП2 и ДП3. Тогда можем воспользовать тем свойством, что величина
- имеет распределение Стьюдента с степенями свободы.
- Далее, если взять (т.е. произведение выделяет -ю компоненту вектора ), то получим
- где есть -квантиль распределения Стьюдента с степенями свободы.
- Тогда двусторонний доверительный интервал с доверительной вероятностью для коэффициента регрессии будет иметь вид:
Доверительный интервал для дисперсии шума
- Регрессионные остатки (шум) имеют нормальное распределние . Для анализа неизвестной дисперсии шума может быть использовано свойство, что случайная величина
- распределена по закону хи-квадрат с степенями свободы.
- Тогда доверительный интервал с доверительной вероятностью для дисперсии шума равен:
- где есть -квантиль распределения хи-квадрат с степенями свободы.
Доверительный интервал для прогнозного значения отклика
- Как и в случае построения доверительного интервала для коэффициентов регрессии, воспользуемся свойством, что величина
- :имеет распределение Стьюдента с
степенями свободы.
- Пусть - новый объект в регрессионной модели, положим
- Тогда доверительный интервал для значения отклика с доверительной вероятностью будеи иметь вид:
где
- есть -квантиль распределения Стьюдента с степенями свободы.
Литература
- Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006.
- Магнус Я. Р., Катышев П. К., Пересецкий А. А. Эконометрика. Начальный курс: Учеб. — 7-е изд., испр. — М.: Дело, 2005.
См. также
- Многомерная линейная регрессия
- Метод наименьших квадратов
- Статистические свойства МНК-оценок коэффициентов регрессии