Многозадачное обучение

Материал из MachineLearning.

Перейти к: навигация, поиск

Содержание

Статья написана с использованием LLM и проверена участником Dmitrii Vishovan 15:01, 16 июля 2026 (MSD)


Введение и определение

Многозадачное обучение (англ. Multi-Task Learning, MTL) — это парадигма машинного обучения, при которой одна модель обучается решать несколько связанных задач одновременно, используя общее представление данных (shared representation).

В классическом машинном обучении (Single-Task Learning) для каждой задачи строится отдельная независимая модель. В MTL модель оптимизирует единую функцию потерь, объединяющую ошибки всех задач. Цель многозадачного обучения состоит в том, чтобы улучшить обобщающую способность модели и качество предсказаний для каждой отдельной задачи за счет знаний, извлеченных из других задач.

Интуитивно: Когда человек учится управлять мотоциклом, ему сильно помогает тот факт, что он уже умеет держать равновесие на велосипеде и знает правила дорожного движения из опыта вождения автомобиля. Разные, но связанные навыки усиливают друг друга. В машинном обучении, если мы учим нейросеть предсказывать возраст человека по фотографии, параллельное обучение её предсказывать пол и эмоции заставит сеть лучше выделять ключевые черты лица (глаза, морщины, текстуру кожи), что повысит точность предсказания возраста.


Математическая постановка задачи

Пусть задано множество из T связанных задач машинного обучения, проиндексированных как t \in \{1, \dots, T\}. Для каждой задачи t доступна обучающая выборка D_t = \{(x_{i}^t, y_{i}^t)\}_{i=1}^{N_t}, где N_t — объем выборки для задачи t. Пространство входных признаков \mathcal{X} зачастую предполагается общим для всех задач (хотя существуют постановки с асимметричными признаковыми пространствами), в то время как пространства ответов \mathcal{Y}_t могут существенно различаться в зависимости от типа решаемой задачи (например, \mathcal{Y}_1 = \{0, 1\} для бинарной классификации и \mathcal{Y}_2 = \mathbb{R} для регрессии).

Модель многозадачного обучения формализуется как семейство функций f_t: \mathcal{X} \to \mathcal{Y}_t, параметризованных вектором (или тензором) весов \Theta. Вектор параметров структурно декомпозируется на общую и специфичные компоненты:

\Theta = \Theta_{sh} \cup \{\Theta_1, \dots, \Theta_T\}.

Математически процесс вывода (инференса) для конкретной задачи t можно представить как суперпозицию двух отображений:

\hat{y}^t = f_t(x; \Theta) = h_t(g(x; \Theta_{sh}); \Theta_t),

где:

  • g(\cdot; \Theta_{sh}): \mathcal{X} \to \mathbb{R}^d — функция извлечения универсальных признаков (shared representation), переводящая исходный объект в d-мерное латентное пространство.
  • h_t(\cdot; \Theta_t): \mathbb{R}^d \to \mathcal{Y}_t — функция-предиктор («голова» задачи), которая формирует итоговое предсказание на основе извлеченных скрытых признаков.

Минимизация совместного эмпирического риска

В рамках парадигмы минимизации эмпирического риска (ERM), обучение модели сводится к поиску оптимальных параметров \hat{\Theta}, минимизирующих глобальный функционал качества. Этот функционал представляет собой выпуклую комбинацию эмпирических рисков отдельных задач с добавлением регуляризационного члена:

\mathcal{L}_{total}(\Theta) = \sum_{t=1}^T w_t \mathcal{L}_t(f_t(X^t; \Theta), Y^t) + \lambda \mathcal{R}(\Theta) \to \min_{\Theta}

где:

  • \mathcal{L}_t — дифференцируемая функция потерь для задачи t (например, кросс-энтропия для классификации или среднеквадратичная ошибка для регрессии);
  • w_t \ge 0 — весовые коэффициенты, определяющие относительную значимость задачи t в процессе оптимизации. В современных архитектурах w_t могут быть не просто константами, а обучаемыми параметрами, динамически адаптирующимися в процессе градиентного спуска (адаптивное взвешивание).
  • \mathcal{R}(\Theta) — член регуляризации, накладывающий структурные ограничения на веса модели. В контексте MTL часто используются специализированные матричные нормы (например, ядерная норма или групповое LASSO / L_{2,1}-норма) для принудительного отбора признаков, полезных сразу для нескольких задач.
  • \lambda — гиперпараметр, контролирующий силу регуляризации.

Базовые архитектуры MTL в глубоком обучении

В контексте глубоких нейронных сетей архитектуры многозадачного обучения традиционно классифицируются на основе топологии распределения параметров и методов передачи информации (information routing) между задачами.

Жесткое разделение параметров (Hard Parameter Sharing)

Это наиболее распространенный и вычислительно эффективный подход, исторически берущий начало в ранних работах по MTL (Caruana, 1993). В данной архитектуре первые несколько скрытых слоев нейросети (feature extractors) являются строго общими для всех задач, а на вершине сети формируются независимые предсказывающие «головы» (task-specific heads).

Формально, для входного вектора x извлекается общее скрытое представление (латентный вектор) h = g(x; \Theta_{sh}). Затем каждая задача t использует свою специфичную функцию f_t для формирования итогового прогноза:

\hat{y}^t = f_t(h; \Theta_t)
  • Теоретическое обоснование: С позиций статистической теории обучения (Baxter, 1997), жесткое разделение параметров кардинально снижает риск переобучения. Разделение параметров уменьшает эффективную емкость модели (например, VC-размерность) в пересчете на одну задачу. Чем больше задач решается одновременно, тем сложнее модели запомнить специфичный шум в данных для одной конкретной выборки, так как общее представление h обязано быть универсальным и удовлетворять градиентам всех функций потерь.
  • Преимущества: Существенная экономия памяти и вычислительных ресурсов при инференсе; высокая устойчивость к переобучению, особенно при малых объемах обучающей выборки для отдельных задач.
  • Недостатки: Подход эффективен, только если задачи имеют сильную структурную корреляцию. В случае слабо связанных или конкурирующих задач возникает эффект отрицательного переноса (Negative Transfer), когда градиентная оптимизация под одну задачу разрушает полезные признаки, извлеченные для другой.

Мягкое разделение параметров (Soft Parameter Sharing)

Для преодоления проблемы отрицательного переноса был предложен подход, в котором каждая задача имеет свою собственную, независимую ветвь нейронной сети со своим набором параметров \Theta_t. Связь между задачами обеспечивается не жестким слиянием узлов, а мягким параметрическим обменом информацией между скрытыми слоями разных ветвей.

Математически это реализуется двумя основными путями:

  1. Регуляризация параметров: В общую функцию потерь вводится штраф за чрезмерное расхождение тензоров весов разных сетей. Например, используется L_2-расстояние:
\Omega(\Theta) = \lambda \sum_{i \neq j} ||\Theta_i - \Theta_j||_2^2

или регуляризация на основе ядерной нормы (Trace Norm) для поощрения низкоранговой структуры матриц весов, что заставляет модели обучаться похожим признакам.

  1. Смешивание активаций (Feature Fusion): В архитектурах типа Cross-Stitch Networks или Sluice Networks скрытые представления (feature maps) разных задач на слое l линейно комбинируются перед подачей на следующий слой l+1. Для случая двух задач активация вычисляется как:
\begin{bmatrix} \tilde{h}_1^{l+1} \\ \tilde{h}_2^{l+1} \end{bmatrix} = \begin{bmatrix} \alpha_{11} & \alpha_{12} \\ \alpha_{21} & \alpha_{22} \end{bmatrix} \begin{bmatrix} h_1^l \\ h_2^l \end{bmatrix}

где матрица коэффициентов \alpha обучается совместно с сетью методом градиентного спуска. Это позволяет модели самостоятельно решать, какую долю признаков из «соседней» задачи стоит позаимствовать, а какую — проигнорировать.

  • Преимущества: Высочайшая алгоритмическая гибкость. Модель способна избежать интерференции, автоматически «изолируя» ветви (например, устремляя перекрестные веса \alpha_{12} и \alpha_{21} к нулю), если задачи оказываются ортогональными или конфликтующими.
  • Недостатки: Резкое (пропорциональное количеству задач) увеличение числа обучаемых параметров и вычислительной сложности, что делает этот подход крайне ресурсоемким при масштабировании на десятки задач.

Продвинутые архитектуры: MMoE

Для решения проблемы конфликтующих задач (когда улучшение одной задачи ведет к деградации другой) в 2018 году исследователи из Google предложили архитектуру MMoE (Multi-gate Mixture-of-Experts).

Она адаптирует концепцию Mixture-of-Experts (MoE) для многозадачного обучения. Вместо одного общего "ствола" (как в Hard Sharing), модель использует несколько параллельных подсетей — «экспертов». Для каждой конкретной задачи $t$ обучается свой шлюз (Gate) — легковесная сеть, которая с помощью функции Softmax решает, выход какого из экспертов наиболее полезен для текущей задачи. $$ f_t(x) = \sum_{i=1}^E g_{t,i}(x) \cdot expert_i(x) $$ MMoE стала индустриальным стандартом в рекомендательных системах для одновременного предсказания кликабельности (CTR) и вероятности конверсии (CVR).

Проблемы MTL и методы их решения

Главный вызов в MTL — это явление Negative Transfer (Отрицательный перенос). Оно возникает, когда задачи противоречат друг другу, и градиенты, приходящие от их функций потерь, указывают в разные стороны (происходит градиентная интерференция).

Для борьбы с этим используются продвинутые методы балансировки функций потерь (подбор весов $w_t$):

  1. Устранение неопределенности (Uncertainty Weighting): Предложен в работе Kendall et al. (2018). Метод оценивает гомоскедастичную (зависящую от задачи) неопределенность и динамически снижает вес $w_t$ для задач с высоким уровнем шума, позволяя модели сфокусироваться на более "чистых" задачах.
  2. GradNorm: Алгоритм динамически настраивает веса функций потерь так, чтобы нормы градиентов от всех задач были примерно равны. Это не дает задаче с крутыми градиентами доминировать над остальными.
  3. PCGrad (Projecting Conflicting Gradients): Метод изменяет сами векторы градиентов. Если градиенты двух задач направлены в противоположные стороны (угол между ними больше 90 градусов), алгоритм проецирует градиент одной задачи на нормаль к градиенту другой, устраняя конфликт.

Почему MTL работает? (Теоретическое обоснование)

В своей классической работе 1997 года Рич Каруана (Rich Caruana) выделил несколько механизмов, благодаря которым MTL превосходит однозадачное обучение:

  • Неявная аугментация данных: Каждая задача приносит дополнительный шум и паттерны, действуя как эффективный регуляризатор.
  • Фокусировка внимания (Attention Focusing): Если признаки сильно зашумлены, модели сложно понять, на что обращать внимание. Дополнительные задачи обеспечивают дополнительный "сигнал" для правильного отбора признаков.
  • Подслушивание (Eavesdropping): Признак G может быть легко выучен через задачу A, но трудно через задачу B. Обучая их вместе, задача B может "подслушать" и использовать признак G.

Применение в индустрии

  • Обработка естественного языка (NLP): Флагманская модель BERT обучается в режиме MTL. Она одновременно решает задачу предсказания пропущенного слова (Masked Language Modeling) и задачу бинарной классификации — является ли следующее предложение логическим продолжением предыдущего (Next Sentence Prediction).
  • Компьютерное зрение (CV): Модели семейства Mask R-CNN параллельно решают задачи предсказания рамок объектов (Bounding Box Regression), классификации объекта внутри рамки и попиксельной сегментации маски.
  • Рекомендательные системы: Практически любая крупная лента (VK, YouTube, Дзен) использует MTL для одновременного предсказания вероятности клика (Click), лайка (Like), комментария и глубины просмотра (Watch Time).

Литература

  • Caruana R. Multitask learning // Machine Learning. — 1997. — Т. 28. — С. 41–75.
  • Ruder S. An Overview of Multi-Task Learning in Deep Neural Networks // arXiv preprint arXiv:1706.05098. — 2017.
  • Ma C. et al. Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts // Proceedings of the 24th ACM SIGKDD. — 2018.
  • Kendall A., Gal Y., Cipolla R. Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics // CVPR. — 2018.

См. также

Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%B7%D0%B0%D0%B4%D0%B0%D1%87%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5»
Личные инструменты