Российские разработчики ПО столкнулись с атаками на ИИ-сервисы

Разработчики ПО столкнулись с кибератаками на ИИ, который используется для работы, выяснили АРПП «Отечественный софт» и AppSec Solutions. Ситуацию прокомментировал директор по кибербезопасности СберТеха Всеслав Соленик. Он рассказал РБК об особенностях таких кибератак. Они заключаются в том, что искусственный интеллект  работает не только с формально структурированными данными, но и с естественным языком, который сам по себе может содержать инструкции. При этом инструкции могут находиться не в запросе пользователя, а, например, в документе или другом внешнем источнике, который система затем передает модели. Подробнее — в материале РБК.