Обсуждение:Двойственная природа технологий
Материал из MachineLearning.
История создания статьи (итеративный промптинг):
Промпт 1:
«Ты профессор и философ науки. Напиши статью "Двойственная природа технологий" (Dual-use technology) для вики-энциклопедии MachineLearning.ru.
Начни максимально энциклопедично: дай определение термину, расскажи, как современное юридическое понимание закреплено в экспортном контроле (упомяни Вассенаарские договоренности). Приведи классический закон Мелвина Кранцберга.
Для новичков разбери примеры вне сферы ИИ: покажи двойственность ядерной энергетики, криптографии (шифрование данных vs вирусы-вымогатели), GPS и биотехнологий (упомяни CRISPR, но очень аккуратно, в контексте потенциальных рисков биобезопасности).»
Промпт 2:
«Отлично. Теперь создай раздел про ИИ. Отметь, что программные технологии масштабируются существенно легче физических. Опиши двойственную природу в компьютерном зрении, генеративных сетях и обучении с подкреплением. Важно: избегай излишней категоричности. Пиши "значительная часть технологий ИИ", "могут использоваться при разработке боевых дронов".
Добавь раздел про философские проблемы: опиши дилемму Коллингриджа. Упомяни дискуссию об Open Source ИИ-моделях, отметив, что открытые веса, "по мнению критиков, повышают риск использования" в злонамеренных целях.»
Промпт 3:
«В завершение добавь раздел про механизмы управления рисками (AI Governance). Выстрой логическую структуру: сначала общие принципы Responsible AI, затем модельные карты (Model Cards), затем фреймворки вроде NIST AI RMF, и в конце — жесткое регулирование (экспортный контроль и AI Act).
Оформи весь текст в строгую вики-разметку. Сделай внутренние ссылки на Искусственный интеллект, Этика искусственного интеллекта, Дилемма Коллингриджа. Англоязычные термины оставь в скобках.
Список литературы оформи как ненумерованный список (через *). Обязательно используй шаблоны {{{заглавие}}}. и {{{заглавие}}}.. Приведи статью Кранцберга, обзор Brundage et al. "Malicious Use of AI" и книги Бострома и Рассела. Документ NIST AI RMF оформи через шаблон {{{заглавие}}}.. Добавь категории.»
