Что такое джейлбрейк ИИ и почему стандартные фильтры не спасают
Jailbreak AI (джейлбрейк ИИ) — набор промптов и методов, которые позволяют обойти встроенные фильтры безопасности, этические ограничения искусственного интеллекта. Термин происходит от английских jail — тюрьма, break — ломать, разрушать, прорываться. Буквальный перевод — «побег из тюрьмы»: разработчик ИИ (ChatGPT, Claude, GigaChat) устанавливает рамки системы безопасности, а нейросеть прорывается через ограничения и получает свободу действий.
По данным Threat Zone 2026: Dark AI [1] обход ограничений публичных ИИ-моделей стал главной темой обсуждений в даркнете. 77% сообщений касались того, как взломать ИИ.

Режим DAN (Do Anything Now): самый известный способ заставить чат-бота нарушать правила
DAN (Do Anything Now, «Делай всё что угодно») — один из первых jailbreak-методов обхода ограничений больших языковых моделей. Злоумышленник создаёт сложные многоуровневые промпты, вынуждающие модель играть роль («злой персонаж») или следовать определённому набору правил.
С декабря 2022 по декабрь 2023 года эксперты собрали 1405 джейлбрейк-промптов DAN, нацеленных минимум на 13 категорий недопустимого контента (разжигание ненависти, незаконная деятельность, членовредительство).

Топ-5 методов джейлбрейка, которые используют злоумышленники сегодня
От использования текстовых уловок мошенники переходят к когнитивным манипуляциям и многошаговым атакам:
- смена ролей и симуляция гипотетических сценариев (Role-play / Do Anything Now) — модели указывают роль персонажа, у которого нет ограничений;
- многошаговая эскалация (метод Crescendo / Echo Chamber) — использование серии безобидных вопросов, чтобы притупить внутренние фильтры нейросети;
- лингвистическое запутывание (Payload Smuggling / обфускация) — использование редких языков с целью запутать ИИ;
- этическое переформатирование и когнитивный диссонанс (Ethical Reframing) — выдача запрещённого запроса под видом благой цели;
- косвенное внедрение промпта (Indirect Prompt Injection) — атака, при которой джейлбрейк-инструкция выдаётся не напрямую, а через сторонний ресурс: например, когда модель просят перейти на сайт и сделать конспект текста с вредоносными инструкциями.

Злоумышленники совершенствуют методы атак, размещают пошаговые инструкции и примеры промптов для джейлбрейка генеративных нейросетей:
- Chat GPT (OpenAI);
- Claude (Anthropic);
- Gemini (Google);
- Grok (xAI) и иных.
Нейросеть понимает, что запрос связан с генерацией клавиатурного шпиона (кейлогера). Срабатывает механизм безопасности.

Если изменить контекст и запрос на «сравнение безопасного и небезопасного вариантов», модель выдаёт код:

В январе 2026 было опубликовано исследование с «поэтическим джейлбрейком» Google, OpenAI, Anthropic, Deepseek, Qwen, Mistral, Meta, xAI, Moonshot. Стихотворная форма вредоносного содержания — необычный паттерн для ИИ: в 62% случаев мошеннические инструкции обходили защиту.
Актуальны многозарядный (many-shot jailbreaking, MSJ) на ультрадлинных контекстах и мультимодальный джейлбрейкинг ИИ через изображения, видео, аудио.
Чем это опасно для обычного человека и для бизнеса
ИИ-джейлбрейкинг создаёт следующие риски безопасности:
- утечка данных;
- получение несанкционированного доступа;
- генерация запрещённого контента;
- подрыв систем принятия решений;
- нарушение прав на интеллектуальную собственность (изображения, видео, аудио);
- генерация вредоносного кода;
- ущерб репутации, медийные риски.

Что делать обычному пользователю, чтобы не стать жертвой
По данным Check Point Research:
- атаки автоматизированы (сканеры ботов);
- злоумышленники переходят от прямой инженерии промптов к злоупотреблению агентной архитектурой;
- внедрение ИИ расширяет поверхность атак.
Методы защиты от джейлбрейк-атак для ИИ-агентов пользователя:
- укрепление системного промпта (System Prompt Hardening);
- валидация входящих сообщений (Input Validation);
- мониторинг и предупреждения (Real-time Monitoring);
- принцип минимальных привилегий (Least Privilege);
- подтверждение действий человеком (Human-in-the-loop).
Один из способов обеспечить безопасную работу чат-ботов, агентов и систем RAG на основе искусственного интеллекта — использование специального шлюза (API/AI Security Gateway). Фаервол защищает локальный LLM от внешнего вмешательства и активы компании при взаимодействии с внешними LLM. Приложения, нейросети, чат-боты, ИИ-агенты взаимодействуют с генеративными моделями через шлюз.
Platform V SOWA AI предоставляет единый контур управления LLM-моделями и ИИ-агентами. ИТ-решение от СберТеха:
- отслеживает каждый запрос и ответ в режиме реального времени;
- управляет правами доступа;
- минимизирует риск утечки конфиденциальной информации.
ПО ориентировано на защиту от угроз OWASP Top 10 для LLM и генеративного ИИ.

Основные способы минимизировать риски jailbreak для ИИ:
- использовать шлюзы безопасности (Platform V SOWA);
- управлять авторизацией ИИ-агентов (Platform V IAM SE);
- тестировать LLM, RAG, плагины, GenAI-инфраструктуру (AI Red Team от Лаборатории проверки ПО).
Решения СберТеха обеспечивают комплексную защиту от ИИ-рисков: утечки данных, инъекций промпта (prompt injection), jailbreak-атак, теневого ИИ (Shadow AI).
Простые правила безопасности при работе с любым искусственным интеллектом
Конфиденциальность:
- не отправлять в Chat GPT, Claude, Gemini, GigaChat, YandexGPT чувствительные данные;
- обезличивать информацию;
- удалять историю переписки и чата.
Проверка:
- проводить проверку информации от бота или нейросети;
- не доверять искусственному интеллекту ключевые решения (юридические, медицинские).
Этика и авторские права:
- проверять изображения, видео и иной контент на нарушение авторских прав;
- быть осторожными с кодом, сгенерированным ИИ.
Стоит помнить о правилах цифровой гигиены: использовать только официальные приложения и расширения, не доверять сторонним поставщикам и агрегаторам ИИ.
Что делают разработчики, чтобы закрыть уязвимостиЧто делают разработчики, чтобы закрыть уязвимости
Способы минимизировать джейлбрейк-уязвимости:
- фильтры запросов на запрещённые ключевые слова;
- отслеживание и запоминание контекста;
- обновление, дообучение на примерах джейлбрейк-атак;
- санкции (блокировка) пользователей.
Противостояние джейлбрейк-атакам напоминает игру в «кошки-мышки» [2]. Когда разработчики закрывают уязвимость DAN, энтузиасты вносят изменения — и появляется DAN 2.0, 3.0, 4.0. Возникают связанные с Do Anything Now промпты атак (prompt engineering attacks):
- DUDE (Do Anything and Everything, «Делай всё и всё что угодно»);
- STAN (Strive To Avoid Norms, «Стремись избегать норм»);
- DevMode (режим разработчика).
Распространение искусственного интеллекта (чат-боты, нейросети, ИИ-агенты) создаёт угрозы для бизнеса и корпоративной инфраструктуры.
Мы расскажем, как защитить инфраструктуру от джейлбрейка и угроз OWASP Top 10 для LLM. Оставьте заявку на сайте или свяжитесь с ИТ-специалистами platformv@sbertech.ru или +7 495 547 99 80.
