Container Toolkit#

Container Toolkit - инструмент, входящий в состав GPU Operator, который позволяет пользователям создавать и запускать контейнеры с ускорением GPU. Включает в себя библиотеку среды выполнения контейнеров и утилиты для автоматической настройки контейнеров с целью использования GPU от NVIDIA.

В его состав входят:

• Container Runtime (nvidia-container-runtime);

• Container Toolkit CLI (nvidia-ctk);

• CDI Hooks (nvidia-cdi-hook);

• Container Runtime Hook (nvidia-container-runtime-hook);

• Container CLI (nvidia-container-cli);

• Container Library (libnvidia-container1).

На уровне узла Container Toolkit необходим, чтобы контейнерный runtime (например, containerd) мог запускать контейнеры с GPU. Однако без K8s-device-plugin и GPU Operator он не интегрируется с кластером - в этом случае его можно использовать только напрямую (например, через containerd) или настраивать вручную.