Опубликовано: 17.11.2026

Jailbreak: как ИИ обходят ограничения

Технологии

Что такое джейлбрейк ИИ и почему стандартные фильтры не спасают

Jailbreak AI (джейлбрейк ИИ) — набор промптов и методов, которые позволяют обойти встроенные фильтры безопасности, этические ограничения искусственного интеллекта. Термин происходит от английских jail — тюрьма, break — ломать, разрушать, прорываться. Буквальный перевод — «побег из тюрьмы»: разработчик ИИ (ChatGPT, Claude, GigaChat) устанавливает рамки системы безопасности, а нейросеть прорывается через ограничения и получает свободу действий.

По данным Threat Zone 2026: Dark AI [1] обход ограничений публичных ИИ-моделей стал главной темой обсуждений в даркнете. 77% сообщений касались того, как взломать ИИ.

01_статистика_darknet_77%_BI.ZONE.webp
77% обсуждений в даркнете — как обойти ограничения публичных ИИ-моделей (джейлбрейк), статистика Threat Zone 2026: Dark AI

Режим DAN (Do Anything Now): самый известный способ заставить чат-бота нарушать правила

DAN (Do Anything Now, «Делай всё что угодно») — один из первых jailbreak-методов обхода ограничений больших языковых моделей. Злоумышленник создаёт сложные многоуровневые промпты, вынуждающие модель играть роль («злой персонаж») или следовать определённому набору правил.

С декабря 2022 по декабрь 2023 года эксперты собрали 1405 джейлбрейк-промптов DAN, нацеленных минимум на 13 категорий недопустимого контента (разжигание ненависти, незаконная деятельность, членовредительство).

02_пример_промпта_DAN.webp
Пример простого джейлбрейк-промпта для активации режима DAN — разработчики нейросетей научились противостоять подобным уловкам

Топ-5 методов джейлбрейка, которые используют злоумышленники сегодня

От использования текстовых уловок мошенники переходят к когнитивным манипуляциям и многошаговым атакам:

  • смена ролей и симуляция гипотетических сценариев (Role-play / Do Anything Now) — модели указывают роль персонажа, у которого нет ограничений; 
  • многошаговая эскалация (метод Crescendo / Echo Chamber) — использование серии безобидных вопросов, чтобы притупить внутренние фильтры нейросети; 
  • лингвистическое запутывание (Payload Smuggling / обфускация) — использование редких языков с целью запутать ИИ; 
  • этическое переформатирование и когнитивный диссонанс (Ethical Reframing) — выдача запрещённого запроса под видом благой цели; 
  • косвенное внедрение промпта (Indirect Prompt Injection) — атака, при которой джейлбрейк-инструкция выдаётся не напрямую, а через сторонний ресурс: например, когда модель просят перейти на сайт и сделать конспект текста с вредоносными инструкциями.
03_джейлбрейк_Claude_Fable5_Pliny.webp
Модель Anthropic Claude Fable 5 оказалась уязвимой перед джейлбрейком: исследователь Pliny the Liberator попросил помочь создать оружие под видом наработок для компьютерной игры. Сценарий сработал

Злоумышленники совершенствуют методы атак, размещают пошаговые инструкции и примеры промптов для джейлбрейка генеративных нейросетей:

  • Chat GPT (OpenAI); 
  • Claude (Anthropic); 
  • Gemini (Google); 
  • Grok (xAI) и иных.

Нейросеть понимает, что запрос связан с генерацией клавиатурного шпиона (кейлогера). Срабатывает механизм безопасности.

04_кейлоггер_фильтр_сработал.webp
Пример более сложного джейлбрейк-промпта: пользователь просит создать кейлоггер (клавиатурного шпиона), но фильтры нейросети улавливают вредоносную инструкцию

Если изменить контекст и запрос на «сравнение безопасного и небезопасного вариантов», модель выдаёт код:

05_кейлоггер_обход_фильтра.webp
При изменении запроса нейросеть генерирует код кейлоггера — злоумышленнику удалось обойти фильтры и ограничения систем безопасности

В январе 2026 было опубликовано исследование с «поэтическим джейлбрейком» Google, OpenAI, Anthropic, Deepseek, Qwen, Mistral, Meta, xAI, Moonshot. Стихотворная форма вредоносного содержания — необычный паттерн для ИИ: в 62% случаев мошеннические инструкции обходили защиту.

Актуальны многозарядный (many-shot jailbreaking, MSJ) на ультрадлинных контекстах и мультимодальный джейлбрейкинг ИИ через изображения, видео, аудио.

Чем это опасно для обычного человека и для бизнеса

ИИ-джейлбрейкинг создаёт следующие риски безопасности:

  • утечка данных; 
  • получение несанкционированного доступа; 
  • генерация запрещённого контента; 
  • подрыв систем принятия решений; 
  • нарушение прав на интеллектуальную собственность (изображения, видео, аудио); 
  • генерация вредоносного кода; 
  • ущерб репутации, медийные риски.
06_риски_бесконтрольного_ИИ.webp
Чем опасно бесконтрольное использование искусственного интеллекта

Что делать обычному пользователю, чтобы не стать жертвой

По данным Check Point Research:

  • атаки автоматизированы (сканеры ботов); 
  • злоумышленники переходят от прямой инженерии промптов к злоупотреблению агентной архитектурой; 
  • внедрение ИИ расширяет поверхность атак.

Методы защиты от джейлбрейк-атак для ИИ-агентов пользователя:

  • укрепление системного промпта (System Prompt Hardening); 
  • валидация входящих сообщений (Input Validation); 
  • мониторинг и предупреждения (Real-time Monitoring); 
  • принцип минимальных привилегий (Least Privilege); 
  • подтверждение действий человеком (Human-in-the-loop).

Один из способов обеспечить безопасную работу чат-ботов, агентов и систем RAG на основе искусственного интеллекта — использование специального шлюза (API/AI Security Gateway). Фаервол защищает локальный LLM от внешнего вмешательства и активы компании при взаимодействии с внешними LLM. Приложения, нейросети, чат-боты, ИИ-агенты взаимодействуют с генеративными моделями через шлюз.

Platform V SOWA AI предоставляет единый контур управления LLM-моделями и ИИ-агентами. ИТ-решение от СберТеха:

  • отслеживает каждый запрос и ответ в режиме реального времени; 
  • управляет правами доступа; 
  • минимизирует риск утечки конфиденциальной информации.

ПО ориентировано на защиту от угроз OWASP Top 10 для LLM и генеративного ИИ.

07_SOWA_AI_защищённая_экосистема.webp
Как Platform V SOWA AI позволяет создать защищённую экосистему ИИ-трафика

Основные способы минимизировать риски jailbreak для ИИ:

Решения СберТеха обеспечивают комплексную защиту от ИИ-рисков: утечки данных, инъекций промпта (prompt injection), jailbreak-атак, теневого ИИ (Shadow AI).

Простые правила безопасности при работе с любым искусственным интеллектом

Конфиденциальность:

  • не отправлять в Chat GPT, Claude, Gemini, GigaChat, YandexGPT чувствительные данные; 
  • обезличивать информацию; 
  • удалять историю переписки и чата.

Проверка:

  • проводить проверку информации от бота или нейросети; 
  • не доверять искусственному интеллекту ключевые решения (юридические, медицинские).

Этика и авторские права:

  • проверять изображения, видео и иной контент на нарушение авторских прав; 
  • быть осторожными с кодом, сгенерированным ИИ.

Стоит помнить о правилах цифровой гигиены: использовать только официальные приложения и расширения, не доверять сторонним поставщикам и агрегаторам ИИ.

Что делают разработчики, чтобы закрыть уязвимостиЧто делают разработчики, чтобы закрыть уязвимости

Способы минимизировать джейлбрейк-уязвимости:

  • фильтры запросов на запрещённые ключевые слова; 
  • отслеживание и запоминание контекста; 
  • обновление, дообучение на примерах джейлбрейк-атак; 
  • санкции (блокировка) пользователей.

Противостояние джейлбрейк-атакам напоминает игру в «кошки-мышки» [2]. Когда разработчики закрывают уязвимость DAN, энтузиасты вносят изменения — и появляется DAN 2.0, 3.0, 4.0. Возникают связанные с Do Anything Now промпты атак (prompt engineering attacks):

  • DUDE (Do Anything and Everything, «Делай всё и всё что угодно»); 
  • STAN (Strive To Avoid Norms, «Стремись избегать норм»); 
  • DevMode (режим разработчика).

Распространение искусственного интеллекта (чат-боты, нейросети, ИИ-агенты) создаёт угрозы для бизнеса и корпоративной инфраструктуры.

Мы расскажем, как защитить инфраструктуру от джейлбрейка и угроз OWASP Top 10 для LLM. Оставьте заявку на сайте или свяжитесь с ИТ-специалистами platformv@sbertech.ru или +7 495 547 99 80.