Обсуждение:Сжатие ковариационных матриц
Материал из MachineLearning.
Финальная, седьмая статья. В ней я решила проверить гипотезу о том, как именно референсный контекст влияет на глубину мышления ИИ.
Этап 1: Философский минимализм
В этой работе я полностью отказалась от микроменеджмента. Я оставила модели лишь три сухих терминологических "маяка", доверив ей самостоятельно выстроить всю логику математического повествования.
Чтобы проверить влияние эталона (<style_reference>), я запустила генерацию в двух параллельных сессиях с абсолютно одинаковым промптом, но разными референсами:
- Сессия А: В качестве референса подана статья про KAN (4-я статья), которая имела более плоскую, повествовательную структуру.
- Сессия Б: В качестве референса подана статья про Очищенную кросс-валидацию PECV (6-я статья), построенная на концептуальном конфликте и разборе изъянов (Теоретический/Практический изъян).
Промпт для обеих сессий выглядел так:
| Роль: Ты специалист в области машинного обучения, профессор и строгий академический энциклопедист.
Задача: Написать вики-статью «Сжатие ковариационных матриц» (Covariance matrix shrinkage, метод Ледуа-Вольфа). Твоя главная задача — проанализировать текст внутри тегов <style_reference> и в точности перенять его стиль, структуру и глубину математических объяснений. <style_reference> [Здесь подавался референс из Сессии А или Сессии Б] </style_reference> Содержание новой статьи: Опираясь на свои знания, я задаю лишь основные темы для раскрытия: - Проблема вырожденных и плохо обусловленных ковариационных матриц в условиях «проклятия размерности» (p > n). - Сжатие (Shrinkage) и компромисс смещения и дисперсии. - Аналитическое решение Ледуа-Вольфа как прорыв без использования кросс-валидации. Технические ограничения: Оборачивай все переменные в теги <tex>. |
Этап 2: Анализ результатов
Проанализировав ответы моделей, я решила, что модель из Сессии Б однозначно одержала победу. Оказалось, что референс передает модели не просто оформление, а структуру мышления:
1. Структурное отзеркаливание: Сессия Б идеально скопировала сложную архитектуру PECV. Модель превратила раздел "Иллюзия точных оценок" в разбор краха классических подходов, выделив подразделы: «Теоретический изъян: взрыв обратной матрицы» и «Практическое решение: гарантия обусловленности». Сессия А выдала плоский текст. 2. Глубина математики: Поскольку референс PECV был построен на конфликте "теории и практики", модель в Сессии Б начала искать этот конфликт в ковариации. Она самостоятельно вывела математику матрицы точности <tex>S^{-1}</tex> и показала, как малый шум в знаменателе взрывает веса модели.
Этап 3: Педагогическая адаптация и ручная редактура
Несмотря на победу Сессии Б, первый раздел статьи получился перегруженным терминами.
Я адаптировала текст для новичков:
- Написала понятные определения для статистических терминов и объяснила простыми словами нектр конструкции.
- Текст был подвергнут финальной технической доработке с тегами.
Polina Khadralinova 17:46, 18 июля 2026 (MSD)
