Администрирование ИИ-функций DropApp#

В разделе приведены сценарии администрирования ИИ-функций DropApp и меры, которые администратор должен обеспечивать при их эксплуатации:

• Предусловия

• Последовательность выполнения

  • Правила эксплуатации

  • Сценарии администрирования

• Результат

Предусловия#

Предварительными условиями выполнения сценариев администрирования ИИ-функций является развернутый кластер DropApp с установленными компонентами программного компонента K8S Artificial Intelligеnce (K8SI). Развертывание кластера описано в разделе «Установка» Руководства по установке, установка ИИ-сервисов — в разделе «Установка инструментов, реализующих ИИ-функции» Руководства по установке.

Последовательность выполнения#

Правила эксплуатации#

Администратор должен обеспечивать корректную настройку и эксплуатацию DropApp с ИИ-функциями строго в соответствии с эксплуатационной документацией, чтобы исключить раскрытие конфиденциальной информации. Особенности эксплуатации среды функционирования с ИИ-функциями, включая защиту данных, обработку промптов и загрузку файлов, описаны в разделе «Правила эксплуатации» Руководства пользователя.

Сценарии администрирования#

При администрировании ИИ-функций DropApp администратор должен:

1. Обеспечивать корректную настройку и эксплуатацию DropApp с ИИ-функциями строго в соответствии с документацией, чтобы исключить раскрытие конфиденциальной информации.

2. При выявлении аномалий или сбоев в работе ИИ-функций предоставлять информацию для анализа и реагирования Администратору безопасности.

3. Настраивать и поддерживать систему логирования всех операций с ИИ-функциями, обеспечивать хранение журналов не менее установленного внутренними регламентами срока.

4. Своевременно устанавливать обновления программного обеспечения, включая патчи безопасности, обновления моделей ИИ и компонентов фильтрации.

Сценарии администрирования отдельных ИИ-инструментов описаны в документации программного компонента «Artificial Intelligеnce (K8SI)» Руководства администратора:

• «HAMi»;

• «KAI Scheduler»;

• «LeaderWorkerSet»;

• «SGLang»;

• «Spark Operator»;

• «Triton Inference Server»;

• «Volcano»;

• «Инструменты управления GPU»;

• «Инструменты управления сетевыми компонентами».

Установка ИИ-сервисов описана в разделе «Установка инструментов, реализующих ИИ-функции» Руководства по установке, настройка — «Компонент AI-inference» Руководства по установке DropApp с помощью Dactl.

Результат#

Ожидаемым результатом является выполненный сценарий администрирования ИИ-функций DropApp в соответствии с приведенными мерами безопасности и корректная эксплуатация всех установленных ИИ-инструментов.