Обсуждение:Дифференциальная конфиденциальность
Материал из MachineLearning.
Статью я делал с помощью GPT-5.6 Terra High. Сначала отправил такой промпт:
| Напиши подробную статью про дифференциальную конфиденциальность. Сначала простыми словами объясни, зачем она нужна и почему обычного удаления имён из базы недостаточно.
Потом дай точное определение, расскажи про соседние наборы данных, параметры эпсилон и дельта, чувствительность запроса и добавление шума. Добавь механизм Лапласа, гауссовский и экспоненциальный механизмы, композицию и постобработку. Ещё объясни центральную и локальную модели конфиденциальности, DP-SGD, clipping градиентов, гауссовский шум и privacy accounting. Покажи связь с федеративным обучением, но не пиши, что оно само по себе гарантирует приватность. Текст должен быть понятен студенту. Добавь формулы, ограничения, внутренние ссылки и реальные научные источники. Ничего не выдумывай. Формулы пиши через <tex> и </tex>, а перед отдельными формулами ставь два двоеточия. |
Первая версия была слишком общей. Не очень чётко объяснялись соседние наборы данных и композиция, а раздел про DP-SGD получился коротким. Также надо было лучше разделить дифференциальную конфиденциальность, шифрование и обычную анонимизацию.
После этого я написал второй промпт:
|
| Доработай статью про дифференциальную конфиденциальность. Дай точное определение с эпсилон и дельта и объясни все обозначения. Подробнее напиши про чувствительность, механизм Лапласа, гауссовский и экспоненциальный механизмы, композицию и постобработку.
Расширь часть про машинное обучение. Нормально объясни DP-SGD, ограничение индивидуальных градиентов, добавление шума, privacy accounting и компромисс между приватностью и качеством модели. Добавь центральную и локальную модели и аккуратно опиши связь с федеративным обучением. Отдельно напиши про ограничения и частые заблуждения. Укажи, что дифференциальная конфиденциальность не заменяет шифрование, не равна анонимизации и не делает алгоритм автоматически справедливым. Проверь формулы, ссылки и разметку. Используй только <tex> и </tex>, отдельные формулы начинай с двух двоеточий. Убери лишние общие фразы и верни статью целиком. |
Готовый текст я потом проверил вручную. Исправил формулы, ссылки и оформление, а ещё посмотрел, чтобы гарантии приватности не были описаны сильнее, чем они работают на самом деле.
