Участник:Василий Ломакин/Коэффициент корреляции Спирмена

Материал из MachineLearning.

< Участник:Василий Ломакин
Версия от 17:51, 4 января 2010; Василий Ломакин (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Содержание

Коэффициент корреляции Спирмена (Spearman rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Спирмена является ранговой, то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.

Определение

Заданы две выборки x = (x_1,\ldots,x_n),\;\; y = (y_1,\ldots,y_n).

Вычисление корреляции Спирмена:

Коэффициент корреляции Спирмена вычисляется по формуле:

\rho=1-\frac{6}{n(n-1)(n+1)}\sum_{i=1}^n(R_i-S_i)^2,[1] где R_i - ранг наблюдения x_i в ряду x, S_i - ранг наблюдения y_i в ряду y.

Коэффициент \rho принимает значения из отрезка [-1;\;1]. Равенство \rho=1 указывает на строгую прямую линейную зависимость, \rho=-1 на обратную.

Случай совпадающих наблюдений:

При наличии связок коэффициент корреляции Спирмена следует вычислять следующим образом:

\rho = \frac{\sum_{i=1}^n{(R_i-(n+1)/2)(S_i-(n+1)/2)}}{n(n-1)(n+1)-\Delta},[2]
где \Delta=\frac{1}{2}\sum_{l=1}^q{u_i^x((u_i^x)^2-1)+\frac{1}{2}\sum_{i=1}^{f}{u_i^y((u_i^y)^2-1)}}.
Здесь q и f — количество связок в выборках x и y, u^x_1, \ldots, u^x_q, u^y_1, \ldots, u^y_f — их размеры. Для элементов связок вычисляется средний ранг.

Обоснование критерия Спирмена:

Статистикой критерия Спирмена служит коэффициент корреляции Пирсона \rho ранговых наборов (R_1 \ldots R_n) и (S_1 \ldots S_n). Он определяется следующей формулой:

\rho = \sum_{i=1}^n(R_i-\bar R)(S_i-\bar S) \left/ \left[ \sum_{i=1}^n(R_i-\bar R)^2 \sum_{i=1}^n(S_i-\bar S)^2 \right] ^ {1/2}. В этой формуле \bar R = \bar S = \frac1n\sum_{i=1}^n i = \frac{n+1}{2}.

Воспользовавшись тем, что \sum_{i=1}^ni^2 = \frac{n(n+1)(2n+1}{6}, получим:

\sum_{i=1}^n(R_i-\bar R)^2 = \sum_{i=1}^n(S_i-\bar S)^2 = \sum_{i=1}^n\left( i - \frac{n+1}{2} \right)^2 = \frac{n(n-1)(n+1)}{12}.

Переставив пары (R_i,\ S_i) в порядке возрастания первой компоненты, получим набор (1,\ T_1) \ldots (n,\ T_n). Тогда перепишем коэффициент корреляции Спирмена в виде:

\rho = \frac{12}{n(n-1)(n+1)}\sum_{i=1}^n \left( i - \frac{n+1}{2} \right) \left( T_i - \frac{n+1}{2} \right).

Таким образом, \rho - линейная функция от рангов T_i. Правую часть равенства можно представить в следующем виде:[3]

\rho = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n(i - T_i)^2 = 1 - \frac{6}{n(n-1)(n+1)}\sum_{i=1}^n \left( R_i - S_i \right)^2, который наиболее удобен для вычислений.

Статистическая проверка наличия корреляции

Нулевая гипотеза H_0: Выборки x и y не коррелируют (\rho = 0).

Статистика критерия: \rho.

Критерий (при уровне значимости \alpha):

Против альтернативы H_1:\; \rho\ >\ 0:

если \rho больше табличного значения критерия Спирмена p[4] с уровнем значимости \alpha/2, то нулевая гипотеза отвергается.

Асимптотический критерий:

Критическая область критерия Спирмена.
Критическая область критерия Спирмена.

Рассмотрим центрированную и нормированную статистику Спирмена:

\tilde{\rho} = \frac{\rho}{\sqrt{D_{\rho}}},, где D_{\rho}=\frac{1}{n-1}.

Нулевая гипотеза отвергается (против альтернативы H_2\left| \rho \right|\ >\ 0), если:

 \left|\tilde{\rho}\right| \ge \Phi_{1-\alpha/2} ,[5][6] где \Phi_{1-\alpha} есть (1-\alpha)-квантиль стандартного нормального распределения.

Аппроксимация удовлетворительно работает, начиная с n\geq 50.[7]

Поправка:[8][9]

В 1978 году Р. Иман и У. Коновер предложили следующую поправку, значительно повышающую точность аппроксимации. Она использует линейную комбинацию нормальной и стьюдентовской квантилей. Положим:

\tilde{\rho} ^{*} = \frac12 \tilde{\rho} \left[ \sqrt{n-1} + \sqrt{\frac{n-2}{1 - (\tilde{\rho})^2}} \right].

Гипотеза H_0 отвергается в пользу альтернативы H_1\ (\rho\ >\ 0), если \tilde{\rho} ^{*} \ge (x_{1-\alpha}+y_{1-\alpha})/2, где x_{1-\alpha},\; y_{1-\alpha} обозначают соответственно квантили уровня (1-\alpha) стандартного нормального распределения и распределения Стьюдента с n-2 степенями свободы.

Примеры

Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде (\tau,\ \rho), где \tau - корреляция Кенделла, \rho - Спирмена. Заметно, что в большинстве случаев \left| \rho \right|\ >\ \left| \tau \right|. Объяснение этого эффекта приводится ниже.

Направление линейной зависимости

Корреляции Кенделла и Спирмена. Нормальные сгущения.
Корреляции Кенделла и Спирмена. Нормальные сгущения.

Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.

Наклон линейного тренда

Корреляции Кенделла и Спирмена. Вращающаяся полоса.
Корреляции Кенделла и Спирмена. Вращающаяся полоса.

Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда. На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.

Нелинейная зависимость

Корреляции Кенделла и Спирмена. Нелинейная зависимость.
Корреляции Кенделла и Спирмена. Нелинейная зависимость.

Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.

Линейная и нелинейная зависимости

На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.

Корреляции Кенделла и Спирмена. Перекрещенные полосы.
Корреляции Кенделла и Спирмена. Перекрещенные полосы.

Корреляции Кенделла и Спирмена. Расширяющаяся полоса.
Корреляции Кенделла и Спирмена. Расширяющаяся полоса.

Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.
Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.

По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают.

Связь коэффициентов корреляции Спирмена и Пирсона

В случае выборок из нормального распределения коэффициент корреляции Спирмена \rho может быть использован для оценки коэффициента корреляции Пирсона r по формуле:

r=2sin{\frac{\pi}{6}\rho}.[10]

Связь коэффициентов корреляции Кенделла и Спирмена

Выборкам x и y соответствуют последовательности рангов:

R_x=(R_{x_1},\ldots,R_{x_n}), где R_{x_i} — ранг i-го объекта в вариационном ряду выборки x;
R_y=(R_{y_1},\ldots,R_{y_n}), где R_{y_i} — ранг i-го объекта в вариационном ряду выборки y.

Проведем операцию упорядочивания рангов.

Расположим ряд значений x_i в порядке возрастания величины: x_1\leq x_2\leq\cdots\leq x_n. Тогда последовательность рангов упорядоченной выборки x будет представлять собой последовательность натуральных чисел 1,2,\cdots,n. Значения y, соответствующие значениям x, образуют в этом случае некоторую последовательность рангов T=(T_1,\cdots,T_n):

(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n.

Коэффициент корреляции Кенделла \tau и коэффициент корреляции Спирмена \rho выражаются через ранги T_i,\; i=1,\cdots,n следующим образом:

\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i\ >\ T_j]};
\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i\ >\ T_j];

Заметно, что в случае \rho инверсиям придаются дополнительные веса (j-i), таким образом \rho сильнее реагирует на несогласие ранжировок, чем \tau. Этот эффект проявляется в приведённых выше примерах: в большинстве из них \left| \rho \right|\ >\ \left| \tau \right|.

Утверждение.[11] Если выборки x и y не коррелируют (выполняется гипотеза H_0), то величины \rho и \tau сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:

corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}.

История

Критерий был предложен британским психологом Чарльзом Эдвардом Спирменом в 1904 году.

Примечания

  1. Лагутин М. Б. Наглядная математическая статистика. — 343 с.
  2. Лапач С. Н. Статистика в науке и бизнесе. — 182 с.
  3. Лагутин М. Б. Наглядная математическая статистика. — 354 с., задача 3.
  4. Лагутин М. Б. Наглядная математическая статистика. — 455 с.
  5. Кобзарь А. И. Прикладная математическая статистика. — 627 с.
  6. Лагутин М. Б. Наглядная математическая статистика. — 344 с.
  7. Лагутин М. Б. Наглядная математическая статистика. — 344 с.
  8. Лагутин М. Б. Наглядная математическая статистика. — 345 с.
  9. Кобзарь А. И. Прикладная математическая статистика. — 627 с.
  10. Кобзарь А. И. Прикладная математическая статистика. — 627 с.
  11. Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.

Литература

  1. Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 626-628 с.
  2. Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 343-345 с.
  3. Лапач С. Н., Чубенко А. В., Бабич П. Н. Статистика в науке и бизнесе. — Киев: Морион, 2002. — 182-184 с.

Ссылки

Личные инструменты