Monte Carlo Dropout

Материал из MachineLearning.

Статья написана с использованием LLM Qwen3.7-Max и проверена участником Arsen Temirov 00:13, 20 июля 2026 (MSD)

Промпт приводится полностью в Обсуждение:Monte Carlo Dropout

Содержание

1 Ввведение
2 Мотивация и интуиция
3 Математическое обоснование
4 Алгоритм работы
5 Оценка неопределённости
- 5.1 Эпистемическая неопределённость
- 5.2 Алеаторическая неопределённость
6 Применение в машинном обучении и ИИ
7 Преимущества и ограничения
- 7.1 Преимущества
- 7.2 Ограничения
8 См. также
9 Литература

Ввведение

Monte Carlo Dropout (MC Dropout) — метод оценки неопределённости (англ. uncertainty) предсказаний глубоких нейронных сетей, предложенный Ярином Галом и Зубином Грамани в 2016 году. Метод заключается в применении регуляризатора Dropout не только на этапе обучения, но и на этапе инференса (англ. inference) с последующим усреднением результатов нескольких стохастических прямых проходов (англ. forward passes).

MC Dropout является практически применимой аппроксимацией байесовского вывода (англ. Bayesian inference) в глубоких нейронных сетях и позволяет оценивать эпистемическую (модельную) неопределённость без необходимости модификации архитектуры сети или использования специализированных байесовских слоёв.

Мотивация и интуиция

Стандартные нейронные сети с функцией активации Softmax на последнем слое склонны к излишней самоуверенности (англ. overconfidence). Если подать на вход сети данные, радикально отличающиеся от обучающей выборки (данные вне распределения, англ. out-of-distribution или OOD), сеть всё равно выдаст вектор вероятностей, в котором одно из значений будет близко к $1.0$ . Это делает стандартные сети ненадёжными в критически важных областях, таких как медицинская диагностика или автономное вождение, где модель должна «знать, чего она не знает».

Классический dropout, применяемый во время обучения, можно интерпретировать как обучение ансамбля (англ. ensemble) из множества нейронных сетей с общей архитектурой, но разными «выключенными» нейронами. Однако на этапе тестирования dropout традиционно отключается, а выходы сети масштабируются (подход Inverted Dropout), что эквивалентно усреднению весов этого ансамбля в одну детерминированную модель.

Интуиция Monte Carlo Dropout заключается в сохранении стохастичности сети на этапе инференса. При пропускании одного и того же объекта через сеть $T$ раз с включенным dropout генерируется $T$ различных предсказаний. Разброс (дисперсия) этих предсказаний служит мерой неуверенности модели: если сеть выдаёт разные результаты при незначительном изменении своей внутренней структуры (маски dropout), значит, она не уверена в своём ответе.

Математическое обоснование

Байесовские нейронные сети и вариационный вывод

В байесовском подходе веса нейронной сети $\theta$ рассматриваются не как фиксированные параметры, а как случайные величины. Задача состоит в поиске апостериорного распределения (англ. posterior distribution) весов $p(\theta | \mathcal{D})$ при условии обучающих данных $\mathcal{D} = \{(x_i, y_i)\}_{i=1}^N$ .

Предсказание для нового объекта $x^*$ делается путём интегрирования по всем возможным весам (байесовское усреднение моделей): $p(y^* | x^*, \mathcal{D}) = \int p(y^* | x^*, \theta) p(\theta | \mathcal{D}) d\theta$

Вычисление этого интеграла для глубоких нейронных сетей аналитически неразрешимо. На практике используется вариационный вывод (англ. variational inference), где истинное апостериорное распределение $p(\theta | \mathcal{D})$ аппроксимируется более простым параметрическим распределением $q_\phi(\theta)$ . Параметры $\phi$ подбираются путём минимизации расстояния Кульбака — Лейблера (англ. Kullback-Leibler divergence) между $q_\phi(\theta)$ и $p(\theta | \mathcal{D})$ , что эквивалентно максимизации нижней оценки доказательной границы (англ. Evidence Lower Bound, ELBO).

Dropout как аппроксимация глубокого гауссовского процесса

Гал и Грамани (2016) доказали, что обучение нейронной сети с dropout математически эквивалентно вариационному выводу, где аппроксимирующее распределение $q_\phi(\theta)$ формируется следующим образом:

Каждый вес сети умножается на случайную маску, сэмплированную из распределения Бернулли.
Вероятность «выпадения» (обнуления) нейрона составляет $p$ , а вероятность сохранения — $1-p$ .

Применение dropout во время обучения оптимизирует ELBO для специфического вариационного семейства. Более того, нейронная сеть с dropout и бесконечной шириной слоёв аппроксимирует глубокий гауссовский процесс (англ. deep Gaussian process).

Интегрирование методом Монте-Карло

Поскольку на этапе инференса dropout не отключается, каждый прямой проход генерирует новую маску $\hat{m}_t \sim \text{Bernoulli}(1-p)$ , что эквивалентно сэмплированию новых весов $\hat{\theta}_t$ из вариационного распределения $q_\phi(\theta)$ .

Интеграл байесовского усреднения аппроксимируется методом Монте-Карло: $p(y^* | x^*, \mathcal{D}) \approx \frac{1}{T} \sum_{t=1}^T p(y^* | x^*, \hat{\theta}_t)$ где $T$ — количество стохастических прямых проходов (количество сэмплов Монте-Карло).

Алгоритм работы

Применение MC Dropout на практике не требует изменения архитектуры модели или использования специфических библиотек.

Этап обучения:

Определить стандартную архитектуру нейронной сети.
Добавить слои dropout с вероятностью $p$ (обычно $p \in [0.1, 0.5]$ ).
Обучить модель с использованием стандартных алгоритмов оптимизации (англ. optimization) и функций потерь. Dropout применяется на каждом шаге обучения.

Этап инференса (оценка неопределённости):

Перевести модель в режим обучения (в PyTorch это вызов model.train(), что предотвращает автоматическое отключение dropout и масштабирование весов, которое происходит в model.eval()).
Для входного объекта $x^*$ выполнить $T$ прямых проходов (где $T$ обычно от 10 до 100).
Получить набор предсказаний $\{ \hat{y}_1, \hat{y}_2, \dots, \hat{y}_T \}$ .
Вычислить итоговое предсказание и метрики неопределённости.

Оценка неопределённости

В машинном обучении выделяют два фундаментальных типа неопределённости:

Эпистемическая неопределённость

Эпистемическая неопределённость (англ. epistemic uncertainty) отражает незнание модели о параметрах $\theta$ . Она высока в областях пространства признаков, где было мало обучающих данных (OOD-объекты). Эпистемическая неопределённость может быть устранена путём сбора дополнительных данных. MC Dropout оценивает именно этот тип неопределённости.

Для регрессии: Итоговым предсказанием является математическое ожидание $\mathbb{E}[y] \approx \frac{1}{T}\sum_{t=1}^T \hat{y}_t$ . Мерой неопределённости служит дисперсия предсказаний:

$\text{Var}(y) \approx \frac{1}{T} \sum_{t=1}^T \hat{y}_t^2 - \left( \frac{1}{T} \sum_{t=1}^T \hat{y}_t \right)^2$

Для классификации: Итоговые вероятности классов вычисляются как среднее арифметическое выходных вероятностей по всем $T$ проходам. Мерой неопределённости часто выступает предиктивная энтропия (англ. predictive entropy) или взаимная информация (англ. mutual information) между предсказанием и весами модели:

$\mathcal{H}[y^*|x^*, \mathcal{D}] \approx -\sum_c \bar{p}_c \log \bar{p}_c$ где $\bar{p} = \frac{1}{T}\sum_{t=1}^T p(y^*|x^*, \hat{\theta}_t)$ — усреднённый вектор вероятностей. Высокая энтропия указывает на высокую эпистемическую неопределённость.

Алеаторическая неопределённость

Алеаторическая неопределённость (англ. aleatoric uncertainty) отражает естественный шум в данных (например, размытость изображения, погрешность датчиков). Она не может быть устранена путём сбора большего объёма данных. Стандартный MC Dropout не способен уловить алеаторическую неопределённость. Для её оценки архитектуру сети модифицируют так, чтобы она предсказывала не только среднее значение, но и дисперсию шума (гетероскедастичная регрессия), после чего MC Dropout применяется для оценки эпистемической составляющей, а выход сети — для алеаторической.

Применение в машинном обучении и ИИ

Метод MC Dropout применяется в задачах, требующих оценки надёжности модели:

Активное обучение (англ. active learning): Модель используется для оценки большого пула неразмеченных данных. Объекты с максимальной эпистемической неопределённостью (наибольшей дисперсией предсказаний MC Dropout) отправляются эксперту-человеку для разметки. Это позволяет существенно сократить бюджет на разметку.
Безопасное Обучение с подкреплением (англ. reinforcement learning): Агент должен балансировать между исследованием среды (англ. exploration) и использованием знаний (англ. exploitation). Высокая неопределённость MC Dropout сигнализирует агенту о необходимости исследовать данную область пространства состояний либо избежать потенциально фатальных действий.
Обнаружение аномалий и OOD-детекция (англ. out-of-distribution detection): При поступлении на вход объекта, отсутствовавшего в обучающей выборке, детерминированная сеть может классифицировать его с высокой уверенностью. MC Dropout выдаст высокую дисперсию предсказаний, что позволит системе отклонить результат.
Медицинская визуализация: При автоматической сегментации снимков карта дисперсии MC Dropout позволяет врачу сосредоточить внимание на участках, в алгоритмической интерпретации которых ИИ «сомневается».

Преимущества и ограничения

Преимущества

Простота внедрения: Метод не требует изменения архитектуры нейронной сети, добавления новых слоёв или модификации функции потерь на этапе обучения.
Совместимость: MC Dropout можно применить к любой уже обученной модели, если при её обучении использовался dropout.
Отсутствие дополнительных параметров: В отличие от методов ансамблирования (англ. deep ensembles) или Байесовских нейронных сетей, MC Dropout не увеличивает потребление памяти, так как не требует хранения копий весов или параметров апостериорных распределений.

Ограничения

Вычислительная сложность на этапе инференса: Время предсказания увеличивается в $T$ раз по сравнению со стандартной сетью, что критично для систем реального времени с жёсткими ограничениями по задержкам (англ. latency).
Зависимость от гиперпараметра $p$ : Качество оценки неопределённости сильно зависит от вероятности dropout, выбранной при обучении.
Проблема Batch Normalization: Совместное использование MC Dropout и слоёв Batch Normalization требует осторожности. При вызове режима обучения слои BatchNorm обновляют скользящие средние (англ. running statistics) на каждом тестовом объекте, что приводит к деградации качества. Для решения этой проблемы применяются специфические техники, такие как фиксация статистик BatchNorm при стохастическом инференсе.

См. также

Литература

Gal Y., Ghahramani Z. Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning // International Conference on Machine Learning (ICML). — 2016. — С. 1050—1059.
Kendall A., Gal Y. What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? // Advances in Neural Information Processing Systems (NeurIPS). — 2017. — С. 4080—4090.
Srivastava N., Hinton G., Krizhevsky A., Sutskever I., Salakhutdinov R. Dropout: A Simple Way to Prevent Neural Networks from Overfitting // Journal of Machine Learning Research (JMLR). — 2014. — Т. 15. — № 1. — С. 1929—1958.
Murphy K. P. Probabilistic Machine Learning: Advanced Topics. — MIT Press, 2023. — ISBN 978-0262048637
Lakshminarayanan B., Pritzel A., Blundell C. Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles // Advances in Neural Information Processing Systems (NeurIPS). — 2017. — С. 6402—6413.

Источник — «http://www.machinelearning.ru/wiki/index.php?title=Monte_Carlo_Dropout»