Обсуждение:Дифференциальная конфиденциальность
Материал из MachineLearning.
(Новая: == О подготовке статьи == Статья «Дифференциальная конфиденциальность» была подготовлена с помощью '''...) |
|||
| Строка 1: | Строка 1: | ||
| - | == | + | == Как проверялась граница приватности == |
| - | + | В этой статье главным был не перечень механизмов, а точное понимание того, что именно гарантирует differential privacy. Если не определить соседние наборы, защищаемую единицу и доступный противнику результат, слова «математическая гарантия» мало что объясняют. Поэтому первая версия строилась от различия между удалением идентификаторов и ограничением влияния одной записи. | |
| - | Первый запрос | + | Для подготовки использовалась '''GPT-5.6 Terra High'''. Оба запроса приведены дословно. |
| + | |||
| + | === Первый запрос: отделить DP от соседних технологий === | ||
{{well| | {{well| | ||
| Строка 17: | Строка 19: | ||
}} | }} | ||
| - | + | Первая версия правильно отделяла DP от шифрования и федеративного обучения, но оставляла несколько опасных упрощений. В разных разделах незаметно смешивались add/remove- и replace-one-соседство, параметр <tex>\delta</tex> описывался как простая «вероятность отказа», а в композиции учитывалась только сумма <tex>\varepsilon</tex>. Практическая часть также требовала точнее связать clipping, семплирование и accountant. | |
| - | Второй запрос | + | === Второй запрос: раскрыть механизмы и ограничения === |
{{well| | {{well| | ||
| Строка 33: | Строка 35: | ||
}} | }} | ||
| - | + | === Ручная проверка после генерации === | |
| + | |||
| + | Финальная редакция потребовала не косметической вычитки, а согласования всей модели защиты: | ||
| + | |||
| + | * за основное принято add/remove-соседство, а replace-one вынесено в отдельное пояснение; | ||
| + | * добавлено различие между построчной и пользовательской DP; | ||
| + | * <tex>\delta</tex> описано как аддитивный зазор, а не буквально как вероятность полного отказа защиты; | ||
| + | * в базовой композиции исправлена потерянная сумма <tex>\delta_i</tex>; | ||
| + | * приведены формулы <tex>L_1</tex>- и <tex>L_2</tex>-чувствительности; | ||
| + | * добавлены явные формулы гауссовского и экспоненциального механизмов с условиями применимости; | ||
| + | * отдельно отмечены последовательная и параллельная композиции; | ||
| + | * в DP-SGD уточнены индивидуальный clipping, случайное семплирование, noise multiplier и зависимость результата от accountant; | ||
| + | * для федеративного обучения разделены example-level и user-level DP, защищённая агрегация и собственно DP; | ||
| + | * удалена несвязанная ссылка на квантование нейронных сетей; | ||
| + | * неработающий шаблон примечаний заменён на <references />; | ||
| + | * выбраны существующие категории «Машинное обучение» и «Прикладная статистика». | ||
| + | |||
| + | Названия, страницы и DOI основных публикаций сверялись отдельно. При проверке я исходил из принципа: численное значение <tex>\varepsilon</tex> само по себе ничего не говорит читателю, пока не указаны соседство, защищаемая единица, <tex>\delta</tex>, состав результата и все повторные обращения к данным. | ||
| + | |||
| + | — [[Участник:Oleg Batsiev|Oleg Batsiev]] | ||
Версия 12:19, 19 июля 2026
Содержание |
Как проверялась граница приватности
В этой статье главным был не перечень механизмов, а точное понимание того, что именно гарантирует differential privacy. Если не определить соседние наборы, защищаемую единицу и доступный противнику результат, слова «математическая гарантия» мало что объясняют. Поэтому первая версия строилась от различия между удалением идентификаторов и ограничением влияния одной записи.
Для подготовки использовалась GPT-5.6 Terra High. Оба запроса приведены дословно.
Первый запрос: отделить DP от соседних технологий
| Ты разбираешься в машинном обучении, криптографии и защите данных. Напиши на русском языке подробную энциклопедическую статью для MachineLearning.ru про дифференциальную конфиденциальность (differential privacy).
Сначала объясни идею простыми словами: какую проблему она решает и почему простого удаления имён из базы недостаточно. Затем перейди к строгому определению, соседним наборам данных, параметрам эпсилон и дельта, чувствительности запроса и базовым механизмам добавления шума. Обязательно расскажи про композицию, постобработку, центральную и локальную модели конфиденциальности. Отдельно объясни, как работает DP-SGD и зачем нужны clipping градиентов, гауссовский шум и privacy accounting. Покажи связь с федеративным обучением, но не утверждай, что федеративное обучение само по себе гарантирует приватность. Статья должна быть понятна студенту, но содержать реальные формулы, ограничения методов и научные источники. Не выдумывай факты, авторов, DOI и результаты исследований. Важные термины оформи как внутренние ссылки, добавь литературу и ссылки на первоисточники. Для формул используй синтаксис <tex>...</tex>. Отдельные формулы выделяй двойным отступом через два двоеточия. |
Первая версия правильно отделяла DP от шифрования и федеративного обучения, но оставляла несколько опасных упрощений. В разных разделах незаметно смешивались add/remove- и replace-one-соседство, параметр описывался как простая «вероятность отказа», а в композиции учитывалась только сумма
. Практическая часть также требовала точнее связать clipping, семплирование и accountant.
Второй запрос: раскрыть механизмы и ограничения
|
| Перепиши и доработай статью «Дифференциальная конфиденциальность» как научный редактор.
Добавь точное определение (эпсилон, дельта)-дифференциальной конфиденциальности и объяснение всех обозначений. Добавь раздел о чувствительности запроса, механизме Лапласа, гауссовском и экспоненциальном механизмах. Подробно раскрой композицию и постобработку. Усиль раздел о машинном обучении: объясни DP-SGD, clipping индивидуальных градиентов, добавление гауссовского шума, privacy accounting и компромисс между приватностью и качеством модели. Добавь раздел о центральной и локальной моделях, а также о связи с федеративным обучением. Сделай отдельный раздел «Ограничения и типичные заблуждения». В нём прямо укажи, что дифференциальная конфиденциальность не равна шифрованию, анонимизации и автоматической справедливости алгоритма. Проверь формулы и вики-разметку. Не используй теги <math>...</math>; используй только <tex>...</tex>. Не растягивай текст пустыми общими фразами, не выдумывай источники и не добавляй несуществующие шаблоны. Верни готовую статью целиком. |
Ручная проверка после генерации
Финальная редакция потребовала не косметической вычитки, а согласования всей модели защиты:
- за основное принято add/remove-соседство, а replace-one вынесено в отдельное пояснение;
- добавлено различие между построчной и пользовательской DP;
-
описано как аддитивный зазор, а не буквально как вероятность полного отказа защиты;
- в базовой композиции исправлена потерянная сумма
;
- приведены формулы
- и
-чувствительности;
- добавлены явные формулы гауссовского и экспоненциального механизмов с условиями применимости;
- отдельно отмечены последовательная и параллельная композиции;
- в DP-SGD уточнены индивидуальный clipping, случайное семплирование, noise multiplier и зависимость результата от accountant;
- для федеративного обучения разделены example-level и user-level DP, защищённая агрегация и собственно DP;
- удалена несвязанная ссылка на квантование нейронных сетей;
- неработающий шаблон примечаний заменён на <references />;
- выбраны существующие категории «Машинное обучение» и «Прикладная статистика».
Названия, страницы и DOI основных публикаций сверялись отдельно. При проверке я исходил из принципа: численное значение само по себе ничего не говорит читателю, пока не указаны соседство, защищаемая единица,
, состав результата и все повторные обращения к данным.
