Критерий Колмогорова-Смирнова
Материал из MachineLearning.
(→Использование критерия для проверки нормальности) |
м |
||
(3 промежуточные версии не показаны) | |||
Строка 1: | Строка 1: | ||
'''Критерий Колмогорова-Смирнова''' используется для проверки гипотезы <tex>H_0</tex>: "случайная величина <tex>X</tex> имеет распределение <tex>F(x)</tex>". | '''Критерий Колмогорова-Смирнова''' используется для проверки гипотезы <tex>H_0</tex>: "случайная величина <tex>X</tex> имеет распределение <tex>F(x)</tex>". | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
==Описание критерия== | ==Описание критерия== | ||
+ | Классический критерий Колмогорова (иногда говорят Колмогорова-Смирнова) предназначен для проверки простых гипотез о принадлежности анализируемой выборки некоторому полностью известному закону распределения. | ||
+ | |||
Пусть <tex>X_n</tex> - выборка независимых одинаково распределённых случайных величин, | Пусть <tex>X_n</tex> - выборка независимых одинаково распределённых случайных величин, | ||
- | <tex>F_n(x)</tex> - [[эмпирическая функция распределения]], <tex> | + | <tex>F_n(x)</tex> - [[эмпирическая функция распределения]], <tex>F(x)</tex> - некоторая "истинная" [[функция распределения]] с известными параметрами. |
- | + | Статистика критерия определяется выражением: | |
- | ::<tex>D_n=\sup_x |F_n(x)- | + | ::<tex>D_n=\sup_x |F_n(x)-F(x)|.</tex> |
- | Обозначим через <tex>H_0</tex> гипотезу о том, что выборка подчиняется распределению <tex> | + | Обозначим через <tex>H_0</tex> гипотезу о том, что выборка подчиняется распределению <tex>F(x)\in \mathrm{C}^1(\mathbb{X})</tex>. |
- | Тогда по теореме Колмогорова | + | Тогда по теореме Колмогорова при справедливости проверяемой гипотезы: |
::<tex>\forall t>0: \quad \lim_{n \to \infty}P(\sqrt{n} D_n \leq t)=K(t)=\sum_{j=-\infty}^{+\infty}(-1)^j \mathrm{e}^{-2j^2t^2}.</tex> | ::<tex>\forall t>0: \quad \lim_{n \to \infty}P(\sqrt{n} D_n \leq t)=K(t)=\sum_{j=-\infty}^{+\infty}(-1)^j \mathrm{e}^{-2j^2t^2}.</tex> | ||
Гипотеза <tex>H_0</tex> отвергается, если статистика <tex>\sqrt{n}D_n\!</tex> превышает квантиль распределения <tex>K_\alpha</tex> заданного уровня значимости <tex>\alpha</tex>, | Гипотеза <tex>H_0</tex> отвергается, если статистика <tex>\sqrt{n}D_n\!</tex> превышает квантиль распределения <tex>K_\alpha</tex> заданного уровня значимости <tex>\alpha</tex>, | ||
Строка 26: | Строка 23: | ||
То есть, проверяется ''сложная гипотеза'' и в качестве оценок параметров нормального закона используются выборочные оценки среднего и дисперсии. | То есть, проверяется ''сложная гипотеза'' и в качестве оценок параметров нормального закона используются выборочные оценки среднего и дисперсии. | ||
- | В этом случае (Lilliefors) использовались модифицированные статистики вида | + | В этом случае (Lilliefors) использовались модифицированные статистики вида: |
::<tex>D_n^*=D_n(\sqrt{n} - 0.01 + \frac{0.85}{\sqrt{n}})</tex>. | ::<tex>D_n^*=D_n(\sqrt{n} - 0.01 + \frac{0.85}{\sqrt{n}})</tex>. | ||
Критические значения для статистики <tex>D_n^*</tex> приведены в следующей таблице (Lilliefors): | Критические значения для статистики <tex>D_n^*</tex> приведены в следующей таблице (Lilliefors): | ||
Строка 59: | Строка 56: | ||
==Литература== | ==Литература== | ||
#''Kolmogoroff A.N.'' Sulla determinazione empirica di una legge di distribuzione // Giornale dell` Istituto Italiano degly Attuari. 1933. – Vol. 4. – № 1. – P. 83-91. | #''Kolmogoroff A.N.'' Sulla determinazione empirica di una legge di distribuzione // Giornale dell` Istituto Italiano degly Attuari. 1933. – Vol. 4. – № 1. – P. 83-91. | ||
- | #''Большев Л.Н., Смирнов Н.В.'' Таблицы математической | + | #''Большев Л.Н., Смирнов Н.В.'' Таблицы математической статитики. М.: Наука, 1983. |
#''Lilliefors H.W.'' On the Kolmogorov-Smirnov test for normality with mean and variance unknown // J. Am. Statist. Assoc., 1967. V.62. – P.399-402. | #''Lilliefors H.W.'' On the Kolmogorov-Smirnov test for normality with mean and variance unknown // J. Am. Statist. Assoc., 1967. V.62. – P.399-402. | ||
#''Kac M., Kiefer J., Wolfowitz J.'' On Tests of Normality and Other Tests of Goodness of Fit Based on Distance Methods // Ann. Math. Stat., 1955. V.26. – P.189-211. | #''Kac M., Kiefer J., Wolfowitz J.'' On Tests of Normality and Other Tests of Goodness of Fit Based on Distance Methods // Ann. Math. Stat., 1955. V.26. – P.189-211. | ||
- | # | + | # Рекомендации по стандартизации. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Часть II. Непараметрические критерии. – М.: Изд-во стандартов. 2002. – 64 с.[http://ami.nstu.ru/~headrd/seminar/nonparametric/start2.htm]] |
==См. также== | ==См. также== |
Текущая версия
Критерий Колмогорова-Смирнова используется для проверки гипотезы : "случайная величина имеет распределение ".
Содержание |
Описание критерия
Классический критерий Колмогорова (иногда говорят Колмогорова-Смирнова) предназначен для проверки простых гипотез о принадлежности анализируемой выборки некоторому полностью известному закону распределения.
Пусть - выборка независимых одинаково распределённых случайных величин, - эмпирическая функция распределения, - некоторая "истинная" функция распределения с известными параметрами. Статистика критерия определяется выражением:
Обозначим через гипотезу о том, что выборка подчиняется распределению . Тогда по теореме Колмогорова при справедливости проверяемой гипотезы:
Гипотеза отвергается, если статистика превышает квантиль распределения заданного уровня значимости , и принимается в противном случае.
Примечание: В критерии Колмогорова целесообразно использовать статистику с поправкой Большева: . Распределение этой статистики при справедливости проверяемой гипотезы быстро сходится к распределению Колмогорова и при зависимостью от объема выборки можно пренебречь.
Использование критерия для проверки нормальности
В данном случае критерий Колмогорова используется для проверки гипотезы о принадлежности наблюдаемой выборки нормальному закону, параметры которого оцениваются по этой самой выборке методом максимального правдоподобия. То есть, проверяется сложная гипотеза и в качестве оценок параметров нормального закона используются выборочные оценки среднего и дисперсии.
В этом случае (Lilliefors) использовались модифицированные статистики вида:
- .
Критические значения для статистики приведены в следующей таблице (Lilliefors):
0,15 0,10 0,05 0,03 0,01 0,775 0,819 0,895 0,955 1,035
Проверка сложных гипотез
При проверке сложных гипотез, когда по выборке оцениваются параметры закона, с которым проверяется согласие, непараметрические критерии согласия теряют свойство свободы от распределения (Kac, Kiefer, Wolfowitz). При проверке сложных гипотез условные распределения статистик непараметрических критериев согласия (и критерия Колмогорова) зависят от ряда факторов: от вида наблюдаемого закона, соответствующего справедливой проверяемой гипотезе; от типа оцениваемого параметра и числа оцениваемых параметров; в некоторых случаях от конкретного значения параметра (например, в случае семейств гамма- и бета-распределений); от метода оценивания параметров.
Различия в предельных распределениях той же самой статистики при проверке простых и сложных гипотез настолько существенны, что пренебрегать этим ни коем случае нельзя.
О применении критерия Колмогорова для проверки различных сложных гипотез см. на сайте Новосибирского государственного технического университета:
- Статистический анализ данных, моделирование и исследование вероятностных закономерностей. Компьютерный подход : монография. – Новосибирск : Изд-во НГТУ, 2011. – 888 с. (главы 3 и 4)
- Модели распределений статистик непараметрических критериев согласия при проверке сложных гипотез с использованием оценок максимального правдоподобия. Ч.I // Измерительная техника. 2009. № 6. – С.3-11.
- Модели распределений статистик непараметрических критериев согласия при проверке сложных гипотез с использованием оценок максимального правдоподобия. Ч.II // Измерительная техника. 2009. № 8. – С.17-26.
Литература
- Kolmogoroff A.N. Sulla determinazione empirica di una legge di distribuzione // Giornale dell` Istituto Italiano degly Attuari. 1933. – Vol. 4. – № 1. – P. 83-91.
- Большев Л.Н., Смирнов Н.В. Таблицы математической статитики. М.: Наука, 1983.
- Lilliefors H.W. On the Kolmogorov-Smirnov test for normality with mean and variance unknown // J. Am. Statist. Assoc., 1967. V.62. – P.399-402.
- Kac M., Kiefer J., Wolfowitz J. On Tests of Normality and Other Tests of Goodness of Fit Based on Distance Methods // Ann. Math. Stat., 1955. V.26. – P.189-211.
- Рекомендации по стандартизации. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Часть II. Непараметрические критерии. – М.: Изд-во стандартов. 2002. – 64 с.[1]]
См. также
Ссылки
- Критерий согласия Колмогорова(википедия)