Установка инструментов, реализующих ИИ-функции#
Сценарии установки ИИ-инструментов DropApp, входящих в состав компонента K8SI (K8S Artificial Intelligence) содержатся в следующих разделах документации:
Инструмент |
Ссылка на описание установки инструмента |
|---|---|
GPU Operator |
Раздел «GPU Operator» Руководства по установке DropApp с помощью Dactl |
Container Toolkit |
Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «toolkit — параметры NVIDIA Container Toolkit» Руководства по установке DropApp с помощью Dactl |
K8s-device-plugin |
Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «devicePlugin — настройки плагина устройства Kubernetes» Руководства по установке DropApp с помощью Dactl |
DCGM Exporter |
Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «dcgmExporter — конфигурация экспортера метрик DCGM для Prometheus» Руководства по установке DropApp с помощью Dactl |
Driver Manager |
Устанавливается вместе с GPU Operator, необходимо включение параметра |
GDRCopy |
Устанавливается вместе с GPU Operator, необходимо включение параметра |
MIG Parted |
Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «migManager — управление конфигурацией MIG на узлах с поддержкой» Руководства по установке DropApp с помощью Dactl |
SGLang |
Раздел «SGLang» Руководства по установке DropApp с помощью Dactl |
Triton Inference Server |
Раздел «Triton Inference Server» Руководства по установке DropApp с помощью Dactl |
Triton Inference Server vLLM |
Раздел «Triton Inference Server vLLM» Руководства по установке DropApp с помощью Dactl |
LWS (LeaderWorkerSet) |
Раздел «LWS» Руководства по установке DropApp с помощью Dactl |
KAI Scheduler |
Раздел «KAI Scheduler» → «Установка с помощью Helm» Руководства администратора |
Volcano |
Раздел «Volcano» → «Установка Volcano» Руководства администратора |
HAMi |
Раздел «HAMi» → «Установка с помощью Helm» Руководства администратора |
Network Operator |
Раздел «Network Operator» → «Установка Network Operator» Руководства администратора |
Network Operator Init Container |
Устанавливается вместе с Network Operator — «Network Operator» → «Установка Network Operator» Руководства администратора |
Spark Operator |
Раздел «Spark Operator» → «Установка с помощью Helm» Руководства администратора |