Стандартное отклонение

Материал из MachineLearning.

Версия от 08:45, 14 июля 2026; Eva Vallistu (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск
Статья написана с использованием LLM GPT-5.5 Thinking и проверена участником Eva Vallistu 12:45, 14 июля 2026 (MSD) Промпт приводится полностью в Обсуждение:Стандартное отклонение


Содержание

Стандартное отклонение — числовая характеристика разброса случайной величины или выборки относительно среднего значения. Стандартное отклонение равно квадратному корню из дисперсии и показывает типичный масштаб отклонений от среднего.

В отличие от дисперсии, стандартное отклонение измеряется в тех же единицах, что и исходная величина. Поэтому оно часто удобнее для интерпретации: если значения измеряются в метрах, то стандартное отклонение также измеряется в метрах, а дисперсия — в квадратных метрах.

Определение

Пусть X — случайная величина, для которой существует конечная дисперсия. Стандартным отклонением случайной величины X называется величина

\sigma_X=\sqrt{\operatorname{Var}(X)}.

Здесь \operatorname{Var}(X) — дисперсия случайной величины:

\operatorname{Var}(X) = \mathbb{E}\left[(X-\mathbb{E}X)^2\right].

Следовательно,

\sigma_X = \sqrt{ \mathbb{E}\left[(X-\mathbb{E}X)^2\right] }.

Через второй момент дисперсия выражается формулой

\operatorname{Var}(X) = \mathbb{E}[X^2]-(\mathbb{E}X)^2.

Поэтому стандартное отклонение можно записать как

\sigma_X = \sqrt{\mathbb{E}[X^2]-(\mathbb{E}X)^2}.

Интуитивно стандартное отклонение характеризует типичный масштаб отклонения значений от среднего. Если стандартное отклонение мало, значения случайной величины обычно сосредоточены около математического ожидания. Если стандартное отклонение велико, значения чаще находятся далеко от среднего.

Стандартное отклонение не определяет распределение полностью. Разные распределения могут иметь одинаковые средние и одинаковые стандартные отклонения, но различаться асимметрией, хвостами и вероятностью выбросов.

Свойства

Стандартное отклонение всегда неотрицательно:

\sigma_X\ge 0.

Оно равно нулю тогда и только тогда, когда случайная величина почти наверное постоянна:

\sigma_X=0 \Leftrightarrow \operatorname{Var}(X)=0.

Последнее условие означает, что X почти наверное совпадает со своим математическим ожиданием.

При добавлении константы стандартное отклонение не изменяется:

\sigma_{X+b}=\sigma_X.

Это связано с тем, что сдвиг всех значений на одно и то же число не меняет их разброс относительно среднего.

При умножении случайной величины на число стандартное отклонение умножается на модуль этого числа:

\sigma_{aX}=|a|\sigma_X.

Для линейного преобразования выполняется

\sigma_{aX+b}=|a|\sigma_X.

Это свойство следует из свойства дисперсии:

\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X).

Стандартное отклонение имеет ту же размерность, что и исходная случайная величина. Если X измеряется в рублях, секундах или метрах, то \sigma_X измеряется соответственно в рублях, секундах или метрах. Это является основным преимуществом стандартного отклонения перед дисперсией при содержательной интерпретации разброса.

Для независимых случайных величин дисперсии складываются, но стандартные отклонения в общем случае не складываются. Если X и Y независимы, то

\operatorname{Var}(X+Y) = \operatorname{Var}(X)+\operatorname{Var}(Y),

поэтому

\sigma_{X+Y} = \sqrt{\sigma_X^2+\sigma_Y^2}.

Если X_1,\ldots,X_n независимы и имеют одинаковую дисперсию \sigma^2, то для среднего

\overline{X} = \frac{1}{n}\sum_{i=1}^{n}X_i

стандартное отклонение равно

\sigma_{\overline{X}} = \frac{\sigma}{\sqrt{n}}.

Это свойство показывает, что усреднение независимых наблюдений уменьшает масштаб случайных колебаний.

Выборочное стандартное отклонение

Пусть дана выборка

x_1,\ldots,x_n.

Выборочное среднее определяется формулой

\overline{x} = \frac{1}{n}\sum_{i=1}^{n}x_i.

Выборочная дисперсия с делением на n равна

s_n^2 = \frac{1}{n} \sum_{i=1}^{n}(x_i-\overline{x})^2.

Соответствующее выборочное стандартное отклонение:

s_n = \sqrt{ \frac{1}{n} \sum_{i=1}^{n}(x_i-\overline{x})^2 }.

Эта величина описывает разброс значений внутри данной выборки.

Исправленная выборочная дисперсия задаётся формулой

s^2 = \frac{1}{n-1} \sum_{i=1}^{n}(x_i-\overline{x})^2.

Исправленное выборочное стандартное отклонение:

s = \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n}(x_i-\overline{x})^2 }.

Различие между делением на n и n-1 связано с оцениванием параметров генерального распределения. Деление на n естественно для описания разброса в самой выборке. Деление на n-1 используется, когда по выборке оценивается неизвестная дисперсия распределения: такая поправка устраняет смещение оценки дисперсии при независимой одинаково распределённой выборке.

Краткий численный пример. Пусть дана выборка

2,\;4,\;4,\;6.

Выборочное среднее равно

\overline{x} = \frac{2+4+4+6}{4}=4.

Квадраты отклонений от среднего:

(2-4)^2=4,

(4-4)^2=0,

(4-4)^2=0,

(6-4)^2=4.

Сумма квадратов отклонений равна

4+0+0+4=8.

Выборочная дисперсия с делением на n:

s_n^2=\frac{8}{4}=2.

Выборочное стандартное отклонение:

s_n=\sqrt{2}\approx 1.41.

Исправленная выборочная дисперсия:

s^2=\frac{8}{3}\approx 2.67.

Исправленное выборочное стандартное отклонение:

s=\sqrt{\frac{8}{3}}\approx 1.63.

Применение

В математической статистике стандартное отклонение используется для описания разброса данных, построения доверительных интервалов, оценки точности статистических оценок и сравнения изменчивости разных величин.

В прикладном анализе данных стандартное отклонение часто используется вместе со средним значением. Запись вида «среднее плюс-минус стандартное отклонение» даёт краткое описание типичного уровня и масштаба разброса данных, хотя не заменяет анализ формы распределения.

В машинном обучении стандартное отклонение используется при стандартизации признаков. Для признака x часто применяют преобразование

z = \frac{x-\overline{x}}{s}.

После такого преобразования признак имеет среднее, близкое к нулю, и стандартное отклонение, близкое к единице. Это важно для методов, чувствительных к масштабу признаков, например для линейных моделей с регуляризацией, метрических методов, метода главных компонент и градиентной оптимизации.

Стандартное отклонение также применяется при анализе устойчивости моделей. Если качество алгоритма сильно меняется при разных разбиениях данных или разных начальных условиях, стандартное отклонение метрики качества будет большим. Это указывает на нестабильность результата.

В задачах вероятностного моделирования стандартное отклонение используется как параметр распределений. Например, в нормальном распределении стандартное отклонение определяет ширину колоколообразной кривой и масштаб случайных отклонений от среднего.

В анализе ошибок стандартное отклонение помогает оценивать типичный масштаб остатка, шума или прогностической ошибки. Однако оно чувствительно к выбросам, поскольку основано на квадрате отклонений. Поэтому при наличии тяжёлых хвостов или аномальных наблюдений его часто дополняют устойчивыми мерами разброса.

См. также

Литература

Feller W. An Introduction to Probability Theory and Its Applications. — Wiley, 1968.

Cramér H. Mathematical Methods of Statistics. — Princeton University Press, 1946.

Casella G.; Berger R. L. Statistical Inference. — Duxbury, 2002.

Wasserman L. All of Statistics: A Concise Course in Statistical Inference. — Springer, 2004.

Bishop C. M. Pattern Recognition and Machine Learning. — Springer, 2006.

Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%A1%D1%82%D0%B0%D0%BD%D0%B4%D0%B0%D1%80%D1%82%D0%BD%D0%BE%D0%B5_%D0%BE%D1%82%D0%BA%D0%BB%D0%BE%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5»
Личные инструменты