Kubernetes GPU Guide 2026: Scheduling, Sharing, Monitoring
Run GPUs on Kubernetes in 2026: install the NVIDIA GPU Operator, share GPUs with MIG or time-slicing, serve LLMs with vLLM, and monitor with DCGM.
Topic
#device-plugin
3 篇笔记
GPU 共享怎么选：KAI vs HAMi vs MIG
Kubernetes 上的 GPU 共享：KAI、HAMi 与 MIG 对比。
nvml-mock
nvml-mock 📝 摘要 nvml-mock 是 NVIDIA 官方的 Kubernetes Helm Chart，通过 CGo 编译的 mock 共享库，在无物理 GPU 的集群中模拟完整的多 GPU 环境，使 、device plugin、DRA driver 等 GPU 相关 K8s 组件无需真实硬件即可运行和测试。它部署为 DaemonSet + ConfigMap + RBAC，在…