我要评论vgpu实现方案
4paradigm提供了k8s-device-plugin，该插件基于nvidia官方插件(nvidia/k8s-device-plugin)，在保留官方功能的基础上，实现了对物理gpu进行切分，并对显存和计算单元进行限制，从而模拟出多张小的vgpu卡。在k8s集群中，基于这些切分后的vgpu进行调度，使不同的容器可以安全的共享同一张物理gpu，提高gpu的利用率。此外，插件还可以对显存做虚拟化处理（使用到的显存可以超过物理上的显存），运行一些超大显存需求的任务，或提高共享的任务数。
部署
需要在节点上将nvidia runtime做为你的docker runtime预设值。我们将编辑docker daemon的配置文件，此文件通常在/etc/docker/daemon.json路径：
{
"default-runtime": "nvidia",
"runtimes": {
"nvidia": {
"path": "/usr/bin/nvidia-container-runtime",
"runtimeargs": []
}
}
"default-shm-size": "2g"
}
虚拟化之前，在gpu节点启动一个gpu应用pod，通过nvidia-smi
发表评论