目前阿里云ACK提供了GPU共享调度能力，服务于使用共享单GPU的模型预测场景，同时也可以通过NVIDIA驱动在内核态的控制进而保障GPU显存的隔离。本文介绍如何在专有版GPU集群中安装GPU隔离模块及安装GPU分配查询工具，实现GPU的共享和隔离能力。
适用场景
- 本文所描述的组件，仅支持专有版GPU集群，不支持托管版GPU集群。
- 若您想在ACK Pro版集群安装共享GPU组件，请参见安装并使用共享GPU组件和资源工具。
前提条件
- 支持共享GPU调度的节点不能设置CPU Policy为
static。 - 已创建专有版GPU集群。具体操作，请参见创建专有GPU集群。
- 已通过kubectl工具连接专有版GPU集群。具体操作，请参见获取集群KubeConfig并通过kubectl工具连接集群。
- 目前仅支持操作系统Alibaba Cloud Linux 2.x和CentOS 7.x。
使用须知
| 配置 | 支持版本 |
|---|---|
| Kubernetes | 1.12.6及其以上，仅支持专有版集群 |
| Helm版本 | 3.0及以上版本 |
| NVIDIA驱动版本 | 418.87.01及以上版本 |
| Docker版本 | 19.03.5 |
| 操作系统 | CentOS 7.x、Alibaba Cloud Linux 2.x、Ubuntu 16.04和Ubuntu 18.04 |
| 支持显卡 | Tesla P4、Tesla P100、 Tesla T4和Tesla v100 |
步骤一：为带有GPU设备的节点打标签
- 登录容器服务管理控制台。
- 在控制台左侧导航栏，单击集群。
- 在集群列表页面，单击目标集群名称或者目标集群右侧操作列下的详情。
- 在集群管理页左侧导航栏，选择。
- 在节点管理页面单击右上角的标签与污点管理。
- 在标签与污点管理页面，批量选择节点，然后单击添加标签。
- 在弹出的添加对话框中，填写标签名称和值。重要
- 您可以设置名称为cgpu，值为true，使节点共享GPU功能生效。
- 删除cgpu标签并不能关闭共享，您可以设置名称为cgpu，值为false，关闭节点共享GPU功能。
- 单击确定。
步骤二：为添加标签的节点安装共享GPU组件
- 登录容器服务管理控制台。
- 在控制台左侧导航栏，选择。
- 在应用市场页面单击应用目录页签，选中ack-cgpu应用。
- 在ack-cgpu页面，单击一键部署。
- 在创建面板中，选择集群和命名空间，然后单击下一步。
- 在参数配置页面，设置相应参数，然后单击确定。您可以执行命令
helm get manifest cgpu -n kube-system | kubectl get -f -查看cGPU组件是否安装成功。当出现以下命令详情时，说明cGPU组件安装成功。helm get manifest cgpu -n kube-system | kubectl get -f -NAME SECRETS AGE serviceaccount/gpushare-device-plugin 1 39s serviceaccount/gpushare-schd-extender 1 39s NAME AGE clusterrole.rbac.authorization.k8s.io/gpushare-device-plugin 39s clusterrole.rbac.authorization.k8s.io/gpushare-schd-extender 39s NAME AGE clusterrolebinding.rbac.authorization.k8s.io/gpushare-device-plugin 39s clusterrolebinding.rbac.authorization.k8s.io/gpushare-schd-extender 39s NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/gpushare-schd-extender NodePort 10.6.13.125 <none> 12345:32766/TCP 39s NAME DESIRED CURRENT READY UP-TO-DATE AVAILABLE NODE SELECTOR AGE daemonset.apps/cgpu-installer 4 4 4 4 4 cgpu=true 39s daemonset.apps/device-plugin-evict-ds 4 4 4 4 4 cgpu=true 39s daemonset.apps/device-plugin-recover-ds 0 0 0 0 0 cgpu=false 39s daemonset.apps/gpushare-device-plugin-ds 4 4 4 4 4 cgpu=true 39s NAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/gpushare-schd-extender 1/1 1 1 38s NAME COMPLETIONS DURATION AGE job.batch/gpushare-installer 3/1 of 3 3s 38s