Метод Бенджамини-Хохберга

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Ссылки)
(Реализации)
 
(2 промежуточные версии не показаны)
Строка 1: Строка 1:
-
'''Метод Бенджамини-Хохберга''' — один из методов контроля ожидаемой доли ложных отклонений гипотез ([[FDR]]) который утверждает, что при определенных ограничениях на статистики гипотез <tex> T_i</tex> для достижения контроля FDR на уровне <tex>\alpha</tex> достаточно, чтобы отвергались гипотезы <tex>H_i</tex>, для которых <tex>p_i \le \frac{i\alpha}{m}</tex>, где <tex>m</tex> — количество гипотез.
+
'''Метод Бенджамини-Хохберга'''<ref name="mbh1"> Benjamini, Yoav; Hochberg, Yosef (1995). [http://www.math.tau.ac.il/~ybenja/MyPapers/benjamini_hochberg1995.pdf Controlling the false discovery rate: a practical and powerful approach to multiple testing]. [http://en.wikipedia.org/wiki/Journal_of_the_Royal_Statistical_Society], Series B 57 (1): 289–300.</ref><ref name="mbh2"> Hochberg, Y.; Benjamini, Y. (1990). [http://onlinelibrary.wiley.com/doi/10.1002/sim.4780090710/abstract More powerful procedures for multiple significance testing]. Statistics in Medicine 9 (7): 811–818.</ref> — один из методов контроля ожидаемой доли ложных отклонений гипотез ([[FDR]]) который утверждает, что при определенных ограничениях на статистики гипотез <tex> T_i</tex> для достижения контроля FDR на уровне <tex>\alpha</tex> достаточно, чтобы отвергались гипотезы <tex>H_i</tex>, для которых <tex>p_i \le \frac{i\alpha}{m}</tex>, где <tex>m</tex> — количество гипотез.
== Определение ==
== Определение ==
Строка 20: Строка 20:
===Ограничения===
===Ограничения===
-
Статистики <tex>T_i</tex> независимы или выполняется следующее свойство (PRDS on <tex>T_i,\: i \in M_0</tex>):
+
Статистики <tex>T_i</tex> независимы или выполняется следующее свойство (PRDS<ref name="prds"> Benjamini, Y., & Yekutieli, D. (2001). [http://projecteuclid.org/euclid.aos/1013699998 The control of the false discovery rate in multiple testing under dependency]. Annals of Statistics, 29(4), 1165–1188. </ref> on <tex>T_i,\: i \in M_0</tex>):
::<tex>\operator{P}(X\in D|T_i=x) </tex> не убывает по <tex>x\:\forall i\in M_0</tex>,
::<tex>\operator{P}(X\in D|T_i=x) </tex> не убывает по <tex>x\:\forall i\in M_0</tex>,
где <tex>M_0</tex> - множество индексов верных гипотез, <tex>D</tex> - произвольное возрастающее множество, то есть, такое, что из <tex>x\in D</tex> и <tex>y \geq x</tex> следует <tex>y\in D</tex>
где <tex>M_0</tex> - множество индексов верных гипотез, <tex>D</tex> - произвольное возрастающее множество, то есть, такое, что из <tex>x\in D</tex> и <tex>y \geq x</tex> следует <tex>y\in D</tex>
Строка 91: Строка 91:
== Реализации ==
== Реализации ==
-
* MATLAB: [http://www.mathworks.com/matlabcentral/fileexchange/27418-benjamini-hochbergyekutieli-procedure-for-controlling-false-discovery-rate Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate] - реализация на MathWorks.com
+
* MATLAB: Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate <ref name="bhypcfdr"> http://www.mathworks.com/matlabcentral/fileexchange/27418-benjamini-hochbergyekutieli-procedure-for-controlling-false-discovery-rate</ref> - реализация на MathWorks.com
-
* R: функция [http://www.inside-r.org/r-doc/stats/p.adjust <code>p.adjust</code>] (с параметром <code>method="BH"</code>) из стандартного пакета <code>stats</code> позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.
+
* R: функция p.adjust<ref name="padj"> http://www.inside-r.org/r-doc/stats/p.adjust</ref> (с параметром <code>method="BH"</code>) из стандартного пакета <code>stats</code> позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.
== Ссылки ==
== Ссылки ==
-
 
+
<references />
-
* Benjamini, Yoav; Hochberg, Yosef (1995). [http://www.math.tau.ac.il/~ybenja/MyPapers/benjamini_hochberg1995.pdf "Controlling the false discovery rate: a practical and powerful approach to multiple testing"]. [http://en.wikipedia.org/wiki/Journal_of_the_Royal_Statistical_Society,_Series_B Journal of the Royal Statistical Society], Series B 57 (1): 289–300. MR 1325392.
+
-
 
+
-
* Hochberg, Y.; Benjamini, Y. (1990). "More powerful procedures for multiple significance testing". Statistics in Medicine 9 (7): 811–818. [http://dx.doi.org/10.1002%2Fsim.4780090710 doi]. PMID [http://www.ncbi.nlm.nih.gov/pubmed/2218183 2218183].
+
== См. также ==
== См. также ==

Текущая версия

Метод Бенджамини-Хохберга[1][1] — один из методов контроля ожидаемой доли ложных отклонений гипотез (FDR) который утверждает, что при определенных ограничениях на статистики гипотез  T_i для достижения контроля FDR на уровне \alpha достаточно, чтобы отвергались гипотезы H_i, для которых p_i \le \frac{i\alpha}{m}, где m — количество гипотез.

Содержание

Определение

Пусть H_{1},...,H_{m} — семейство гипотез, а p_{1},...,p_{m} — соответствующие им достигаемые уровни значимости. Обозначим за R - число отвергнутых гипотез, а за V - число неверно отвергнутых гипотез, т.е. число ошибок первого рода.

Ожидаемая доля ложных отклонений гипотез, или FDR, определяется следующим образом

FDR\:=\: \operator{E}\left(\frac{V}{R}[R > 0]\right)

Контроль над FDR на уровне \alpha означает, что

FDR\:=\: \operator{E}\left(\frac{V}{R}[R > 0]\right) \leq \alpha

Метод Бенджамини-Хохберга

Это нисходящая процедура(по аналогии с методом Холма и методом Шидака-Холма) со следующими уровнями значимости

\alpha_1 = \frac{\alpha}{m}\:,\:\dots\:,\:\alpha_i = \frac{i\alpha}{m}\:, \:\dots\:, \:\alpha_m = \alpha

Пусть p_{(1)}\leq \ldots \leq p_{(m)} — уровни значимости p_i, упорядоченные по неубыванию, H_{(1)}, \ldots, H_{(m)} — соответствующие p_{(i)} гипотезы. Процедура метода Бенджамини-Хохберга определена следующим образом.

Шаг 1. Если p_{(1)}\geq\frac{\alpha}{m}, принять гипотезы H_{(1)}, \ldots, H_{(m)} и остановиться. Иначе, если p_{(1)}<\frac{\alpha}{m}, отвергнуть гипотезу H_{(1)} и продолжить проверку оставшихся гипотез на уровне значимости \frac{2\alpha}{m}.
Шаг 2. Если p_{(2)}\geq\frac{2\alpha}{m}, принять гипотезы H_{(2)}, \ldots, H_{(m)} и остановиться. Иначе, если p_{(2)}<\frac{2\alpha}{m}, отвергнуть гипотезу H_{(2)} и продолжить проверку оставшихся гипотез на уровне значимости \frac{3\alpha}{m}.
И т.д.

Метод обеспечивает контроль над FDR на уровне \alpha при нижеследующих условиях.

Ограничения

Статистики T_i независимы или выполняется следующее свойство (PRDS[1] on T_i,\: i \in M_0):

\operator{P}(X\in D|T_i=x) не убывает по x\:\forall i\in M_0,

где M_0 - множество индексов верных гипотез, D - произвольное возрастающее множество, то есть, такое, что из x\in D и y \geq x следует y\in D

Альтернативная постановка

Переходим к модифицированным достигаемым уровням значимости:

\tilde p_{(i)}\: =\: \min(1,\: \max(\frac{mp_{(i)}}{i}, \:\tilde p_{(i-1)}))

Пример

n=20, \;m=200, \;m_0 = 150;

X_{ij} \sim N(0,1), \;i=1,\ldots,m_0, \;j=1,\ldots,n;

X_{ij} \sim N(1,1),\; i=m_0+1,\ldots,m, \;j=1,\ldots,n;

H_i: EX_{ij} = 0, \;H_i': EX_{ij} \ne 0;

для проверки используем одновыборочный критерий Стьюдента.

С поправкой Холма(метод Холма):

Верных H_i Неверных H_i Всего
Принятых H_i 150 24 174
Отвергнутых H_i 0 26 26
Всего 150 50 200


С методом Бенджамини-Хохберга:

Верных H_i Неверных H_i Всего
Принятых H_i 148 4 152
Отвергнутых H_i 2 46 48
Всего 150 50 200

Реализации

  • MATLAB: Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate [1] - реализация на MathWorks.com
  • R: функция p.adjust[1] (с параметром method="BH") из стандартного пакета stats позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.

Ссылки


См. также

Метод Холма

Метод Бенджамини-Иекутиели

Личные инструменты