GPU Sharing с HAMi

Mon, 01 Jan 0001 00:00:00 +0000

HAMi (Heterogeneous AI Computing Virtualization Middleware) — проект CNCF Sandbox, который включает дробное разделение GPU в Kubernetes. Вместо выделения целого GPU под одну рабочую нагрузку HAMi позволяет контейнерам запрашивать конкретный объем GPU-памяти и вычислительных ядер.

Это руководство описывает GPU шаринг для контейнеров в tenant-кластерах Kubernetes. О пробросе GPU в виртуальные машины на управляемом кластере см. GPU Passthrough.

Как это работает

HAMi работает между планировщиком Kubernetes и драйвером NVIDIA GPU:

Scheduler Extender добавляет GPU-aware решения при планировании (filtering и binding), чтобы pod попадали на ноды с достаточной GPU-емкостью.
Device Plugin регистрирует виртуальные GPU-ресурсы (nvidia.com/gpu, nvidia.com/gpumem, nvidia.com/gpucores) в kubelet.
MutatingWebhook автоматически направляет GPU pod в планировщик HAMi.
HAMi-core (libvgpu.so) внедряется в контейнеры рабочей нагрузки через LD_PRELOAD, чтобы обеспечить изоляцию памяти и вычислений на уровне CUDA API.

Когда HAMi включен, встроенный плагин устройств GPU Operator автоматически отключается, чтобы избежать конфликтов при регистрации ресурсов.

Как перенести реплики etcd в tenant-кластерах

Mon, 01 Jan 0001 00:00:00 +0000

Tenant-кластеры Kubernetes используют собственные кластеры etcd, а не etcd management-кластера. Такие кластеры etcd разворачиваются внутри tenant и доступны управляемым Kubernetes-кластерам, развернутым в этом tenant и его sub-tenant.

Реплики tenant-кластера etcd можно переносить между нодами, например для обслуживания. Сейчас операции управления tenant-кластерами etcd не автоматизированы, но такую задачу можно выполнить вручную.

Сначала установите плагин kubectl-etcd для kubectl:

go install github.com/aenix-io/etcd-operator/cmd/kubectl-etcd@latest

Теперь можно управлять репликами etcd. Скрипт ниже удаляет реплику etcd-2 из кластера etcd, а затем добавляет ее обратно.

Управляемый (tenant) Kubernetes on Cozystack

GPU Sharing с HAMi

Как это работает

Как перенести реплики etcd в tenant-кластерах