Установка инструментов, реализующих ИИ-функции#

Сценарии установки ИИ-инструментов DropApp, входящих в состав компонента K8SI (K8S Artificial Intelligence) содержатся в следующих разделах документации:

Установка ИИ-инструментов DropApp#

Инструмент

Ссылка на описание установки инструмента

GPU Operator

Раздел «GPU Operator» Руководства по установке DropApp с помощью Dactl

Container Toolkit

Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «toolkit – параметры NVIDIA Container Toolkit» Руководства по установке DropApp с помощью Dactl

K8s-device-plugin

Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «devicePlugin – настройки плагина устройства Kubernetes для GPU» Руководства по установке DropApp с помощью Dactl

Driver Manager

Устанавливается вместе с GPU Operator, необходимо включение параметра driver.enabled — «GPU Operator» → «driver — конфигурация установки и управления драйвером NVIDIA» Руководства по установке DropApp с помощью Dactl

GDRCopy

Устанавливается вместе с GPU Operator, необходимо включение параметра gdrcopy.enabled — «GPU Operator» → «gdrcopy — настройки GDRCopy для быстрого копирования между GPU и памятью» Руководства по установке DropApp с помощью Dactl

MIG Parted

Устанавливается вместе с GPU Operator по умолчанию — «GPU Operator» → «migManager – управление конфигурацией MIG на узлах» Руководства по установке DropApp с помощью Dactl

SGLang

Раздел «SGLang» Руководства по установке DropApp с помощью Dactl

Triton Inference Server

Раздел «Triton Inference Server» Руководства по установке DropApp с помощью Dactl

Triton Inference Server vLLM

Раздел «Triton Inference Server vLLM» Руководства по установке DropApp с помощью Dactl

LWS (LeaderWorkerSet)

Раздел «LWS» Руководства по установке DropApp с помощью Dactl

KAI Scheduler

Раздел «KAI Scheduler» → «Установка с помощью Helm» Руководства администратора

Volcano

Раздел «Volcano» → «Установка Volcano» Руководства администратора

HAMi

Раздел «HAMi» → «Установка с помощью Helm» Руководства администратора

Network Operator

Раздел «Network Operator» → «Установка Network Operator» Руководства администратора

Network Operator Init Container

Устанавливается вместе с Network Operator — «Network Operator» → «Установка Network Operator» Руководства администратора

Spark Operator

Раздел «Spark Operator» → «Установка с помощью Helm» Руководства администратора