Материал из MachineLearning.
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
| Статья написана с использованием LLM DeepSeek-V3-0324 и проверена участником Nikita Elкhin 03:08, 19 июля 2026 (MSD)
|
Обучение со слабым контролем
Обучение со слабым контролем (Weakly Supervised Learning) — парадигма машинного обучения, в которой обучающая выборка содержит несовершенную разметку: неполную, неточную, зашумлённую или порождённую эвристическими правилами. В отличие от обучения с учителем, где требуется идеально размеченный набор данных \}_{i=1}^N)
, слабый контроль использует более дешёвые, но небезупречные источники информации о целевой переменной. Цель остаётся классической — построить предиктивную модель 
, минимизирующую ожидаемый риск ![R(f) = \mathbb{E}_{(x,y)\sim P}[\ell(f(x), y)]](../mimetex/?R(f) = \mathbb{E}_{(x,y)\sim P}[\ell(f(x), y)])
. Ключевая проблема заключается в том, чтобы извлечь полезный сигнал из слабых меток и подавить систематические ошибки, привносимые источниками слабого контроля.
Определение
Пусть )
— истинное совместное распределение признаков и точных меток. В классической постановке доступна выборка \}_{i=1}^N \sim P)
. В слабо контролируемом обучении вместо точных меток 
наблюдаются слабые сигналы 
, связанные с стохастической или детерминированной, но неизвестной функцией. Обучающая выборка имеет вид \}_{i=1}^N)
, где структура определяется типом слабого контроля. Задача состоит в нахождении параметров 
, обеспечивающих низкий истинный риск, несмотря на несовершенство наблюдаемых сигналов.
Типы слабой разметки
Неполная разметка
При неполной разметке точные метки доступны лишь для малого подмножества примеров, а остальные данные не размечены:
\}_{i=1}^l \cup \{x_i\}_{i=l+1}^{N}, \quad l \ll N.)
Эта постановка совпадает с обучением с частичным привлечением учителя и является простейшим видом слабого контроля. Основная цель — использовать структуру немаркированных данных для улучшения обобщающей способности модели, обученной на малом количестве точных меток.
Неточная разметка
Неточная разметка (Inexact Supervision) возникает, когда метки заданы не для отдельных объектов, а для групп объектов (bags). Классическим примером служит множественное обучение с учителем (Multiple Instance Learning, MIL). Обучающая выборка состоит из мешков \}_{i=1}^m)
, где 
— множество экземпляров, а 
— метка мешка. Скрытые метки экземпляров 
удовлетворяют стандартному предположению:
Модель должна уметь предсказывать как метки новых мешков, так и, во многих приложениях, метки отдельных экземпляров.
Зашумленная разметка
Зашумленная разметка (Inaccurate Supervision) характеризуется тем, что наблюдаемые метки 
содержат ошибки. Распространённой моделью является класс-условный шум (class-conditional noise), задаваемый матрицей переходов ![T \in [0,1]^{C \times C}](../mimetex/?T \in [0,1]^{C \times C})
, где 
:
.)
В этом случае обучающая выборка имеет вид \}_{i=1}^N)
. Необходимо либо оценить матрицу 
для коррекции потерь, либо построить робастную к шуму модель напрямую.
Программная разметка
Программная разметка (Programmatic Supervision, Data Programming) порождается множеством эвристических функций разметки (labeling functions, LFs) 
, где 
означает воздержание от голосования. Каждая функция 
может быть детерминированным правилом, моделью distant supervision, регулярным выражением и т.п. Для каждого объекта 
получается матрица голосов
, \dots, \lambda_n(x_i)) \in (\mathcal{Y} \cup \{0\})^n.)
Функции могут конфликтовать и обладают различной, априори неизвестной точностью. Задача состоит в агрегировании голосов для получения качественных тренировочных меток без доступа к вручную размеченным данным. Наиболее известной реализацией этого подхода является система Snorkel[1].
Обучение по пропорциям меток
В обучении по пропорциям меток (Learning from Label Proportions, LLP) данные разделены на группы 
, и для каждой группы известна только доля объектов каждого класса:
![p_{k,c} = \frac{1}{|G_k|}\sum_{i \in G_k} \mathbf{1}[y_i = c].](../mimetex/?p_{k,c} = \frac{1}{|G_k|}\sum_{i \in G_k} \mathbf{1}[y_i = c].)
Индивидуальные метки остаются скрытыми. LLP применяется, например, в задачах, где доступны агрегированные статистические данные, но конфиденциальность не позволяет раскрывать метки отдельных экземпляров[1].
Методы обучения со слабым контролем
Генеративные модели агрегации меток
Ключевым этапом в программной разметке является вывод вероятностных меток 
из зашумлённых голосов 
. В подходе Data Programming строится генеративная модель вида
 \propto \prod_{j=1}^n \phi_j(\lambda_j, y),)
где фактор-потенциалы 
параметризуют точность каждой функции разметки (например, ![\phi_j(\lambda_j, y) = \exp(\theta_j \mathbf{1}[\lambda_j = y])](../mimetex/?\phi_j(\lambda_j, y) = \exp(\theta_j \mathbf{1}[\lambda_j = y]))
). Параметры 
оцениваются методом максимального правдоподобия без знания истинных меток с помощью EM-алгоритма или его приближений[1]. После оценки распределения вычисляются вероятности
![\hat{y}_i = P(y=1 \mid \Lambda_i) \in [0,1],](../mimetex/?\hat{y}_i = P(y=1 \mid \Lambda_i) \in [0,1],)
которые затем используются как мягкие метки для обучения дискриминативной модели 
с кросс-энтропийной функцией потерь:
 = -\sum_{i=1}^N \bigl( \hat{y}_i \log f_\theta(x_i) + (1-\hat{y}_i)\log(1-f_\theta(x_i)) \bigr).)
Современные расширения, такие как FlyingSquid, используют структурированные факторные графы и позволяют работать с многомерными метками и зависимостями между LFs.
Робастные функции потерь и коррекция ошибок
Для борьбы с зашумлёнными метками применяют два основных семейства методов. Первое — использование робастных к шуму функций потерь. Например, средняя абсолютная ошибка (MAE) и обобщённая кросс-энтропия (Generalized Cross-Entropy) демонстрируют устойчивость при высоком уровне шума[1]. Второе — коррекция потерь с помощью оценки матрицы переходов . При прямой коррекции (forward correction) модифицированная потеря имеет вид
, \tilde{y}) = \sum_{y \in \mathcal{Y}} T_{y,\tilde{y}} \, \ell(f_\theta(x), y).)
Матрица может быть оценена на отдельном достоверном наборе данных или адаптивно в процессе обучения.
Отбор и перевзвешивание примеров
Подходы, основанные на гипотезе small-loss, предполагают, что на ранних этапах обучения нейронная сеть лучше запоминает чистые примеры, а затем начинает подстраиваться под шум. Метод Co-teaching[1] поддерживает две сети, каждая из которых отбирает долю )
примеров с наименьшей потерей из текущего мини-батча и передаёт их своему напарнику для обновления весов. Процедура снижает риск закрепления ошибок. Альтернативный подход MentorNet[1] обучает дополнительную сеть-ментора, которая назначает веса примерам, тем самым реализуя динамическое перевзвешивание.
Мета-обучение
Методы мета-обучения используют небольшой чистый валидационный набор 
для адаптации обучения на зашумлённой выборке. В частности, Meta-Weight-Net[1] параметризует веса примеров через многослойный перцептрон с входом — значением потерь, и мета-обучает его так, чтобы модель, оптимизированная с этими весами, минимизировала ошибку на . Это позволяет автоматически подавлять вклад предположительно некорректных меток.
Применения
Обучение со слабым контролем широко востребовано в задачах, где получение точной разметки чрезмерно дорого или практически невозможно:
- Компьютерное зрение: детекция объектов по слабым меткам на уровне изображения (есть объект/нет объекта), семантическая сегментация по тегам.
- Обработка естественного языка: извлечение отношений и типизация сущностей с помощью distant supervision, где эвристики порождают зашумлённые метки на основе знаний из баз данных.
- Медицинская диагностика: агрегирование диагнозов нескольких врачей с разной квалификацией и разрешение межэкспертной вариативности.
- Анализ временных рядов и аудио: разметка событий по глобальным меткам или пропорциям.
Литература
