Моменты случайной величины
Материал из MachineLearning.
Моме́нт случа́йной величины́ — числовая характеристика распределения данной случайной величины.
Содержание |
Определения
Если дана случайная величина <math>\displaystyle X,</math> определённая на некотором вероятностном пространстве, то:
- <math>\displaystyle k</math>-м нача́льным моментом случайной величины <math>\displaystyle X,</math> где <math>k \in \mathbb{N},</math> называется величина
- <math>\nu_k = \mathbb{E}\left[X^k\right],</math>
- если математическое ожидание <math>\mathbb{E}[*]</math> в правой части этого равенства определено;
- <math>\displaystyle k</math>-м центра́льным моментом случайной величины <math>\displaystyle X</math> называется величина
- <math>\mu_k = \mathbb{E}\left[(X - \mathbb{E}X)^k\right],</math>
- <math>\displaystyle k</math>-м факториальным моментом случайной величины <math>\displaystyle X</math> называется величина
- <math>\mu_k = \mathbb{E}\left[X(X-1)...(X-k+1)\right],</math>
- если математическое ожидание в правой части этого равенства определено.
Замечания
- Если определены моменты <math>\displaystyle k</math>-го порядка, то определены и все моменты низших порядков <math>1 \le k' < k.</math>
- В силу линейности математического ожидания центральные моменты могут быть выражены через начальные, и наоборот. Например:
- <math>\displaystyle \mu_1 = 0,</math>
- <math>\displaystyle \mu_2 = \nu_2-\nu_1^2,</math>
- <math>\displaystyle \mu_3 = \nu_3-3\nu_1 \nu_2 + 2 \nu_1^3,</math>
- <math>\displaystyle \mu_4 = \nu_4 - 4 \nu_1 \nu_3 + 6 \nu_1^2 \nu_2 - 3 \nu_1^4,</math> и т. д.
Геометрический смысл некоторых моментов
- <math>\displaystyle \nu_1</math> равняется математическому ожиданию случайной величины и показывает относительное расположение распределения на числовой прямой.
- <math>\displaystyle \mu_2</math> равняется дисперсии распределения <math>\displaystyle (\mu_2=\sigma^2)</math> и показывает разброс распределения вокруг среднего значения.
- <math>\displaystyle \mu_3</math>, будучи соответствующим образом нормализован, является числовой характеристикой симметрии распределения. Более точно, выражение
- <math>\frac{\mu_3}{\sigma^3}</math>
- называется коэффициентом асимметрии.
- <math>\displaystyle \mu_4</math> контролирует, насколько ярко выражена вершина распределения в окрестности среднего. Величина
- <math>\frac{\mu_4}{\sigma^4}-3</math>
- называется коэффициентом эксцесса распределения <math>\displaystyle X.</math>
Вычисление моментов
- Моменты могут быть вычислены напрямую через определение путём интегрирования соответствующих степеней случайной величины. В частности, для абсолютно непрерывного распределения с плотностью <math>\displaystyle f(x),</math> имеем:
- <math>\nu_k = \int\limits_{-\infty}^{\infty} x^k\, f(x)\, dx,</math>
если <math> \nu_k = \int\limits_{-\infty}^{\infty} |x|^k\, f(x)\, dx<{+\infty} ,</math>
- а для дискретного распределения с функцией вероятности <math>\displaystyle p(x):</math>
- <math>\nu_k = \sum\limits_{x} x^k\, p(x),</math>
если <math>\nu_k = \sum\limits_{x} |x|^k\, p(x)<{+\infty}.</math>
- Также моменты случайной величины могут быть вычислены через ее характеристическую функцию <math>\displaystyle \phi(t)</math>:
- <math>\nu_k = \left.-i^k \frac{d^k}{dt^k} \phi(t)\right\vert_{t=0}.</math>
- Если распределение таково, что для него в некоторой окрестности нуля определена производящая функция моментов <math>\displaystyle M(t),</math> то моменты могут быть вычислены по следующей формуле:
- <math>\nu_k = \left.\frac{d^k}{dt^k}M(t)\right\vert_{t=0}.</math>
Обобщения
Можно также рассматривать нецелые значения <math>k</math>. Момент, рассматриваемый как функция от аргумента <math>k</math>, называется преобразованием Меллина.
Можно рассматривать моменты многомерной случайной величины. Тогда первый момент будет вектором той же размерности, второй — тензором второго ранга (см. матрица ковариации) над пространством той же размерности (хотя можно рассматривать и след этой матрицы, дающий скалярное обобщение дисперсии). Итд.