Обсуждение:Промпт-инъекция

Материал из MachineLearning.

Промпт

Статья сгенерирована с помощью LLM Claude Opus 4.8 и вычитана вручную. Приводятся оба промпта.

Основной промпт:

Ты специалист по машинному обучению и безопасности ИИ, профессор в ведущем
техническом университете и популяризатор науки. Напиши статью «Промпт-инъекция»
для вики MachineLearning.ru в вики-разметке MediaWiki.

Статья должна быть полезна и новичку, и профессионалу. Без банальностей и «следов LLM».

Объясни природу уязвимости (модель не отличает доверенные инструкции от данных),
виды атак (прямая, косвенная, скрытая), связь с джейлбрейком, возможные последствия,
меры защиты (эшелонированная оборона, принцип наименьших привилегий, инструкционная
иерархия). Подчеркни, что это фундаментальная нерешённая проблема.

Оформление: жирное определение с термином в скобках «(англ. ...)»; разделы ==...==; внутренние ссылки
[[...]] (Большая языковая модель, Агентный искусственный интеллект, RAG, Риски
искусственного интеллекта, Промпт-инжиниринг); ==См. также==, ==Литература==
(через * с шаблонами {{статья}}/{{cite web}}), категории. Объём ~500-650 слов.

Уточняющий промпт (2-я итерация):

Сделай отдельный подраздел про связь с джейлбрейком и явно разведи понятия:
джейлбрейк снимает ограничения самой модели, промпт-инъекция перехватывает логику
приложения. Добавь ссылку на OWASP Top-10 для LLM.

Iaroslav Lyakhov 20:14, 1 июля 2026 (MSD)