Сходимость по вероятности

Материал из MachineLearning.

Определение

Пусть $(\Omega,\mathcal{F},\mathbb{P})$ - вероятностное пространство с определёнными на нём случайными величинами $X,\; X_n\;(n=1,2,\ldots)$ .

Говорят, что $\{X_n\}_{n=1}^{\infty}$ сходится по вероятности к $X$ , если $\forall \varepsilon > 0$ :

$\lim\limits_{n \to \infty} \mathbb{P}(|X_n - X| > \varepsilon) = 0$ .

Обозначение: $X_n \stackrel{\mathbb{P}}{\longrightarrow} X$ .

Пояснение и пример

Данное свойство означает, что если взять величину $X_n$ с достаточно большим номером, то вероятность значительного отклонения от предельной величины $X$ будет небольшой. Однако важно понимать, что если одновременно (т.е. для одного и того же элементарного исхода $\omega$ ) рассмотреть последовательность $\{X_n(\omega)\}$ , то она не обязана сходиться к значению $X(\omega)$ , вообще говоря, ни при каком $\omega$ . Т.е. сколь угодно далеко могут находиться сильно отклоняющиеся значения, просто их "не очень много", поэтому вероятность того, что такое сильное отклонение попадет в заданном эксперименте на конкретно заданный номер $n$ , мала.

В качестве примера рассмотрим вероятностное пространство $\Omega = [0,1]$ , вероятность - мера Лебега (т.е. вероятность любого интервала равна его длине). Случайные величины зададим следующим образом: для первых двух $X_1,X_2$ разбиваем $\Omega$ на два интервала $[0,\frac{1}{2})$ и $(\frac{1}{2},1]$ и определяем $X_1$ равной 1 на первом интервале и 0 на втором, а $X_2$ - наоборот, 0 на первом интервале и 1 на втором. Далее берем следующие четыре величины $X_3,X_4,X_5,X_6$ , делим $\Omega$ на четыре непересекающихся интервала длины $\frac14$ и задаем каждую величину равной 1 на своем интервале и 0 на остальных. Затем рассматриваем следующие 8 величин, делим $\Omega$ на 8 интервалов и т.д.

В результате для каждого элементарного исхода $\omega$ последовательность значений имеет вид:

$\{X_n(\omega)\}=(\underbrace{1,0}_2,\underbrace{0,0,1,0}_4,\underbrace{0,0,0,0,0,1,0,0}_8,\ldots)$ :

последовательность состоит из серий длин $2,4,8,16,\ldots,2^k,=ldots$ , причем в каждой серии на каком-либо одном месте (зависящем от выбранного элементарного исхода) стоит значение 1, а на остальных местах - нули.

Случайные величины, входящие в серию с номером $k$ (длины $2^k$ ) принимают значение 1 с вероятностью $2^{-k}$ и значение 0 с вероятностью $1-2^{-k}$ . Из основного определения следует, что данная последовательность сходится по вероятности к случайной величине $X\equiv 0$ . При этом ни при одном значении $\omega$ последовательность значений $X_n$ не сходится к $0$ , так как в любой последовательности значений сколь угодно далеко обязательно находятся отстоящие от 0 значения. Однако поскольку длины серий неограниченно возрастают, то вероятность "попасть" на это значение становится сколь угодно малой при выборе элемента последовательности с достаточно большим номером.

Заметим, что вместо значения 1 можно выбрать любое другое (в том числе как угодно быстро возрастающее с ростом $n$ ), и тем самым сделать последовательность математических ожиданий $\mathbb{M}X_n$ произвольной (в том числе неограниченной). Данный пример показывает, что сходимость по вероятности не влечет сходимости математических ожиданий (равно как и любых других моментов).