Участник:Василий Ломакин/Коэффициент корреляции Спирмена
Материал из MachineLearning.
Строка 1: | Строка 1: | ||
{{TOCright}} | {{TOCright}} | ||
- | |||
- | |||
- | |||
- | |||
- | |||
'''Коэффициент корреляции Спирмена''' (Spearman rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Спирмена является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения. | '''Коэффициент корреляции Спирмена''' (Spearman rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Спирмена является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения. | ||
Строка 28: | Строка 23: | ||
'''Обоснование критерия Спирмена:''' | '''Обоснование критерия Спирмена:''' | ||
- | Статистикой критерия Спирмена служит | + | Статистикой критерия Спирмена служит [[Коэффициент корреляции Пирсона|коэффициент корреляции Пирсона]] <tex>\rho</tex> ранговых наборов <tex>(R_1 \ldots R_n)</tex> и <tex>(S_1 \ldots S_n)</tex>. Он определяется следующей формулой: |
- | + | ||
- | + | ||
- | В этой формуле <tex>\bar R = \bar S = \frac1n\sum_{i=1}^n i = \frac{n+1}{2}</tex>. | + | :<tex>\rho = \sum_{i=1}^n(R_i-\bar R)(S_i-\bar S) \left/ \left[ \sum_{i=1}^n(R_i-\bar R)^2 \sum_{i=1}^n(S_i-\bar S)^2 \right] ^ {1/2}.</tex> В этой формуле <tex>\bar R = \bar S = \frac1n\sum_{i=1}^n i = \frac{n+1}{2}</tex>. |
Воспользовавшись тем, что <tex>\sum_{i=1}^ni^2 = \frac{n(n+1)(2n+1}{6}</tex>, получим: | Воспользовавшись тем, что <tex>\sum_{i=1}^ni^2 = \frac{n(n+1)(2n+1}{6}</tex>, получим: | ||
:<tex>\sum_{i=1}^n(R_i-\bar R)^2 = \sum_{i=1}^n(S_i-\bar S)^2 = \sum_{i=1}^n\left( i - \frac{n+1}{2} \right)^2 = \frac{n(n-1)(n+1)}{12}</tex>. | :<tex>\sum_{i=1}^n(R_i-\bar R)^2 = \sum_{i=1}^n(S_i-\bar S)^2 = \sum_{i=1}^n\left( i - \frac{n+1}{2} \right)^2 = \frac{n(n-1)(n+1)}{12}</tex>. | ||
- | Переставив пары <tex>(R_i,\ S_i)</tex> в порядке возрастания первой компоненты, получим набор <tex>(1,\ T_1) \ldots (n,\ T_n)</tex>. Тогда коэффициент корреляции Спирмена | + | Переставив пары <tex>(R_i,\ S_i)</tex> в порядке возрастания первой компоненты, получим набор <tex>(1,\ T_1) \ldots (n,\ T_n)</tex>. Тогда перепишем коэффициент корреляции Спирмена в виде: |
:<tex>\rho = \frac{12}{n(n-1)(n+1)}\sum_{i=1}^n \left( i - \frac{n+1}{2} \right) \left( T_i - \frac{n+1}{2} \right)</tex>. | :<tex>\rho = \frac{12}{n(n-1)(n+1)}\sum_{i=1}^n \left( i - \frac{n+1}{2} \right) \left( T_i - \frac{n+1}{2} \right)</tex>. | ||
- | Таким образом, <tex>\rho</tex> - линейная функция от рангов <tex>T_i</tex>. Правую часть равенства можно представить в следующем виде: | + | Таким образом, <tex>\rho</tex> - линейная функция от рангов <tex>T_i</tex>. Правую часть равенства можно представить в следующем виде:<ref>Лагутин М. Б. Наглядная математическая статистика. — 354 с., задача 3.</ref> |
:<tex>\rho = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n(i - T_i)^2 = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n \left( R_i - S_i \right)^2,</tex> который наиболее удобен для вычислений. | :<tex>\rho = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n(i - T_i)^2 = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n \left( R_i - S_i \right)^2,</tex> который наиболее удобен для вычислений. |
Текущая версия
|
Коэффициент корреляции Спирмена (Spearman rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Спирмена является ранговой, то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.
Определение
Заданы две выборки .
Вычисление корреляции Спирмена:
Коэффициент корреляции Спирмена вычисляется по формуле:
,[1] где
- ранг наблюдения
в ряду
,
- ранг наблюдения
в ряду
.
Коэффициент принимает значения из отрезка
. Равенство
указывает на строгую прямую линейную зависимость,
на обратную.
Случай совпадающих наблюдений:
При наличии связок коэффициент корреляции Спирмена следует вычислять следующим образом:
[2]
- где
.
- Здесь
и
— количество связок в выборках
и
,
,
— их размеры. Для элементов связок вычисляется средний ранг.
Обоснование критерия Спирмена:
Статистикой критерия Спирмена служит коэффициент корреляции Пирсона ранговых наборов
и
. Он определяется следующей формулой:
В этой формуле
.
Воспользовавшись тем, что , получим:
.
Переставив пары в порядке возрастания первой компоненты, получим набор
. Тогда перепишем коэффициент корреляции Спирмена в виде:
.
Таким образом, - линейная функция от рангов
. Правую часть равенства можно представить в следующем виде:[3]
который наиболее удобен для вычислений.
Статистическая проверка наличия корреляции
Нулевая гипотеза : Выборки
и
не коррелируют (
).
Статистика критерия:
Критерий (при уровне значимости ):
Против альтернативы :
- если
больше табличного значения критерия Спирмена
[4] с уровнем значимости
, то нулевая гипотеза отвергается.
Асимптотический критерий:
Рассмотрим центрированную и нормированную статистику Спирмена:
, где
.
Нулевая гипотеза отвергается (против альтернативы —
), если:
Аппроксимация удовлетворительно работает, начиная с .[7]
В 1978 году Р. Иман и У. Коновер предложили следующую поправку, значительно повышающую точность аппроксимации. Она использует линейную комбинацию нормальной и стьюдентовской квантилей. Положим:
.
Гипотеза отвергается в пользу альтернативы
, если
, где
обозначают соответственно квантили уровня
стандартного нормального распределения и распределения Стьюдента с
степенями свободы.
Примеры
Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде , где
- корреляция Кенделла,
- Спирмена. Заметно, что в большинстве случаев
. Объяснение этого эффекта приводится ниже.
Направление линейной зависимости
Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.
Наклон линейного тренда
Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда. На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.
Нелинейная зависимость
Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.
Линейная и нелинейная зависимости
На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.
По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают.
Связь коэффициентов корреляции Спирмена и Пирсона
В случае выборок из нормального распределения коэффициент корреляции Спирмена может быть использован для оценки коэффициента корреляции Пирсона
по формуле:
.[10]
Связь коэффициентов корреляции Кенделла и Спирмена
Выборкам и
соответствуют последовательности рангов:
, где
— ранг
-го объекта в вариационном ряду выборки
;
, где
— ранг
-го объекта в вариационном ряду выборки
.
Проведем операцию упорядочивания рангов.
Расположим ряд значений в порядке возрастания величины:
. Тогда последовательность рангов упорядоченной выборки
будет представлять собой последовательность натуральных чисел
. Значения
, соответствующие значениям
, образуют в этом случае некоторую последовательность рангов
:
.
Коэффициент корреляции Кенделла и коэффициент корреляции Спирмена
выражаются через ранги
следующим образом:
Заметно, что в случае инверсиям придаются дополнительные веса
, таким образом
сильнее реагирует на несогласие ранжировок, чем
. Этот эффект проявляется в приведённых выше примерах: в большинстве из них
.
Утверждение.[11] Если выборки и
не коррелируют (выполняется гипотеза
), то величины
и
сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:
.
История
Критерий был предложен британским психологом Чарльзом Эдвардом Спирменом в 1904 году.
Примечания
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 343 с.
- ↑ Лапач С. Н. Статистика в науке и бизнесе. — 182 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 354 с., задача 3.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 455 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 627 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 344 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 344 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 345 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 627 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 627 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.
Литература
- Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 626-628 с.
- Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 343-345 с.
- Лапач С. Н., Чубенко А. В., Бабич П. Н. Статистика в науке и бизнесе. — Киев: Морион, 2002. — 182-184 с.
Ссылки
- Ранговая корреляция
- Коэффициент корреляции Кенделла — другой способ расчёта ранговой корреляции.
- Коэффициент корреляции Пирсона
- Коэффициент корреляции — статья в русскоязычной Википедии.
- Spearman rank correlation coefficient — статья в англоязычной Википедии.